OpenAI usklađuje sigurnosne mjere za korištenje u svojim naprednim modelima

OpenAI, podržan od strane Microsofta, koristit će svoju najnoviju tehnologiju samo ako se utvrdi da je sigurna u određenim područjima, kao što su kibernetička sigurnost i nuklearne prijetnje. Također, firma osniva savjetodavnu grupu koja će pregledavati izvješća o sigurnosti i proslijeđivati ih izvršnim direktorima i upravi kompanije. Iako će izvršni direktori donositi odluke, uprava može ih poništiti.

Od izlaska ChatGPT-a prije godinu dana, potencijalne opasnosti umjetne inteligencije bile su u centru pažnje istraživača i šire javnosti. Generativna tehnologija umjetne inteligencije očarala je korisnike svojom sposobnošću pisanja poezije i eseja, ali istovremeno izazvala zabrinutost zbog potencijala širenja dezinformacija i manipulacije ljudima.

U aprilu, grupa lidera i stručnjaka iz područja umjetne inteligencije potpisala je otvoreno pismo koje traži šestomjesečnu pauzu u razvoju sistema s većom moći od OpenAI-jevog GPT-4, navodeći potencijalne rizike za društvo.

Anketa Reuters/Ipsos provedena u maju pokazala je da se više od dvije trećine Amerikanaca brine zbog mogućih negativnih učinaka umjetne inteligencije, dok 61 posto vjeruje da bi mogla prijetiti civilizaciji.

Početkom ovog mjeseca, OpenAI odgodila je lansiranje svoje prilagođene GPT trgovine do početka 2024. godine. Kompanija je predstavila prilagođene GPT modele i trgovinu tokom svoje prve konferencije za developere u novembru. Izvješća sugeriraju da firma nastavlja “unaprjeđivati” GPT modele na temelju povratnih informacija korisnika.

Prošlog mjeseca, OpenAI je također prošla kroz nevolje kada je njezin upravni odbor smijenio izvršnog direktora Sama Altmana. Altman se vratio u kompaniju nekoliko dana nakon svoje smjene, dok je odbor pretrpio reorganizaciju.