OpenAI otpustio generalnog direktora nakon što su istraživači upozorili da bi veštačka inteligencija mogla da ugrozi čovečanstvo
Prema ekskluzivnom izveštaju Rojtersa, nekoliko istraživača OpenAI poslalo je pismo upravnom odboru upozoravajući na novo otkriće veštačke inteligencije koje predstavlja potencijalni rizik za čovečanstvo neposredno pre otpuštanja generalnog direktora Sema Altmana.
Rojters u ekskluzivnoj priči izveštava da je 22. novembra grupa istraživača osoblja OpenAI napisala pismo upravnom odboru. Ovo pismo, koje ranije nije prijavljeno, sadržalo je ozbiljno upozorenje: naišli su na snažan prodor veštačke inteligencije, otkriće toliko značajno da je zahtevalo momentalno upozorenje zbog potencijalnih rizika koje je predstavljalo za čovečanstvo.
Pismo i neotkriveni AI algoritam su navodno bili ključni faktori koji su doveli do Altmanovog privremenog uklanjanja. Više od 700 zaposlenih, okupljajući se u znak podrške Altmanu, zapretilo je da će dati otkaz i pridružiti se Microsoftu u znak solidarnosti. Odluka odbora da ukloni Altmana, međutim, navodno je vođena konstelacijom zabrinutosti. Najveći među njima bio je strah od žurbe da komercijalizuje ovaj novi napredak AI bez potpunog shvatanja njegovih implikacija.
OpenAI je odbio da direktno komentariše ovo pitanje kada ga je kontaktirao Rojters. Međutim, interna poruka osoblju priznala je postojanje projekta pod nazivom „Q*“, kao i pismo poslato pre preokreta tokom vikenda.
Projekat Q*, za koji neki u OpenAI veruju da bi mogao da bude iskorak u potrazi za veštačkom opštom inteligencijom (AGI), izazvao je optimizam i zabrinutost unutar organizacije. AGI, definisan od strane OpenAI, odnosi se na autonomne sisteme koji nadmašuju ljude u većini ekonomski vrednih zadataka. Novi model, koji zahteva ogromne računarske resurse, pokazao je sposobnost rešavanja matematičkih problema na nivou osnovne škole. Iako ovo može izgledati skromno, označava značajan korak u sposobnosti veštačke inteligencije da obavlja zadatke koji zahtevaju rasuđivanje, što je osobina slična ljudskoj inteligenciji.
Pfizer tuži Poljsku jer nije dovoljno „prisilno vakcinisala“ stanovništvo https://t.co/ePCQ4KLFsd
— Nulta Tačka (@NultaTackaSrb) November 23, 2023
Međutim, Rojters nije mogao nezavisno da potvrdi ove tvrdnje o mogućnostima Q*. Pismo istraživača OpenAI navodno je izazvalo zabrinutost zbog potencijalnih opasnosti od veštačke inteligencije, odražavajući dugogodišnju debatu u krugovima računarskih nauka o rizicima koje predstavljaju visoko inteligentne mašine. Ovo uključuje hipotetički scenario gde bi takva AI mogla zaključiti da je uništenje čovečanstva u skladu sa njegovim interesima.
The Verge tvrdi da je izvor blizak situaciji opovrgao izveštaj Rojtersa, pišući: „…osoba koja je upoznata sa ovim pitanjem rekla je za Verge da odbor nikada nije dobio pismo o takvom napretku i da napredak kompanije u istraživanju nije igrao ulogu u Altmanovom iznenadnom otpuštanju.”
Otkrića o Q* i upozorenja istraživača o AI dolaze u kontekstu Altmanovog vođstva u OpenAI. On je predvodio razvoj ChatGPT-a, čineći ga jednom od najbrže rastućih softverskih aplikacija u istoriji, i obezbedio vitalne investicije i resurse od Microsofta do približavanja cilju i postizanja AGI.
