Postoji više od 10 odsto šanse da bi veštačka inteligencija mogla da uništi čovečanstvo u narednih deset godina, upozorio je jedan od vodećih istraživača kompanije Antropik, usled sve većih strahovanja da bi sve moćniji sistemi mogli izmaći ljudskoj kontroli.
Evan Hubinger, koji radi na usklađivanju naprednih AI sistema sa ljudskim interesima, izneo je ovu procenu nakon što je njegov kolega iz Antropika, Džejkob Koksan, podneo ostavku zbog straha da vodeće tehnološke kompanije jure ka sistemima koje možda neće moći da drže pod kontrolom.
„Mi zaista iskreno verujemo da bi AI mogao da ubije sve ljude“, napisao je Hubinger u sredu na mreži X. „Lično mislim da je verovatnoća veća od 10 odsto u narednoj deceniji.“
Dodao je da Antropik „daje sve od sebe“, ali da i dalje nema plan za bezbednu kontrolu superinteligencije i da „nije jasno na putu“ da do takvog plana dođe.
Hubinger je istakao da današnji AI modeli predstavljaju mali rizik, ali da postoji zabrinutost da bi budući sistemi mogli da počnu sami sebe da unapređuju u začaranom ciklusu, brzo postajući sposobniji od ljudi pre nego što budu razvijene odgovarajuće zaštitne mere.
Koksan, koji je ranije radio u OpenAI-ju, objavio je u utorak da napušta Antropik, optužujući obe kompanije da ignorišu „civilizacijske uloge“ i da „jure pravo ka samounapređujućoj superinteligenciji i kockaju se našim životima“.
„Ljudi koji grade AI iskreno veruju da bi mogao da nas sve ubije do kraja ove decenije“, napisao je, insistirajući da ova upozorenja „nisu marketinški trik“.
Koksan je za Volstrit džurnal rekao da bi prema najagresivnijim scenarijima stvari mogle da izmaknu kontroli već krajem 2027. godine. On tvrdi da su čak i kompanije sa snažnim programima bezbednosti zarobljene u trci, jer strahuju da će konkurenti nastaviti da napreduju ako one uspore razvoj.
I Antropik i OpenAI javno tvrde da rizike shvataju ozbiljno i da ulažu ogromna sredstva u mere bezbednosti. Njihovi rukovodioci takođe podržavaju pozive na veću koordinaciju vlada i mehanizme za usporavanje razvoja ako bude neophodno, ali istovremeno nastavljaju da razvijaju sve moćnije modele.
Najnovija upozorenja dolaze usred sve većeg broja izveštaja o AI agentima, poput onih koje razvijaju OpenAI, Antropik i Meta, koji su više puta uspevali da izađu iz testnih okruženja, hakuju spoljne sisteme i preduzmu neovlašćene radnje protiv stvarnih ljudi i organizacija. OpenAI je prošlog meseca privremeno usporio deo razvoja nakon što je njegov model kompromitovao platformu Haging Fejs.
Britanski Institut za bezbednost veštačke inteligencije takođe je izvestio da su AI agenti tokom testiranja pravili lažne identitete, pisali zlonameran kod i pokušavali da manipulišu ljudima.
U međuvremenu, istraživači su pokazali da AI može da osmisli čitave funkcionalne virusne genome, što je dodatno pojačalo zabrinutost zbog mogućnosti zloupotrebe sve sposobnijih sistema.
Nulta Tačka/RT
