Naučnici iz Gugla i sa Oksforda tvrde u novom radu: Veštačka inteligencija će uskoro uništiti čovečanstvo
Istraživači sa Univerziteta Oksford i Gugl Deepmind podelili su jezivo upozorenje u novom radu. Rad naučnika, koji je prošlog meseca objavljen u magazinu AI, tvrdi da je pretnja veštačke inteligencije veća nego što se ranije verovalo. Veštačka inteligencija će se jednog dana verovatno podići i uništiti čovečanstvo.
AI je impresivan?!
Može da simulira glas Val Kilmera u filmovima i pomogao je istraživačima da reše složene probleme više puta. Sada, međutim, istraživači tvrde da je pretnja veštačke inteligencije veća nego što smo ikada mislili.
Istraživači su svoje nalaze objavili krajem avgusta. Prema radu, pretnja veštačke inteligencije mogla bi da se promeni na osnovu niza uslova koje su istraživači identifikovali. Ovo takođe nije prvi put da istraživači vide AI kao moguću pretnju. Ovaj novi rad je intrigantan zbog verodostojnih pretpostavki koje razmatra.
Glavna tema među ovim pretpostavkama, istraživači veruju da bi „AI koja interveniše u obezbeđivanju njihovih nagrada imala veoma loše posledice“, napisao je ovog meseca Majkl Koen, jedan od autora ovog rada. Koen kaže da uslovi koje su istraživači identifikovali pokazuju da je mogućnost pretećeg zaključka jača nego u bilo kojoj prethodnoj publikaciji.
Pored toga, tim kaže da se pretnja veštačke inteligencije gradi na osnovu egzistencijalne katastrofe.
I da to nije samo moguće, vrlo je verovatno!
Jedan od najvećih problema, primećuju Koen i njegovi kolege istraživači, jeste to što se uvek može uložiti više energije u rešavanje problema kako bi se on doveo do tačke u kojoj je veštačka inteligencija nagrađena za ono što je uradila.
Kao takvo, moglo bi nas dovesti u sukob sa mašinama.
„Kratka verzija“, piše Koen u svom nizu na tviteru, „je da se uvek može upotrebiti više energije da bi se povećala verovatnoća da kamera zauvek vidi broj 1, ali nam je potrebna energija za uzgoj hrane. Ovo nas stavlja u neizbežnu konkurenciju sa mnogo naprednijim agentom.” Imajući to na umu, zvuči kao da bi se pretnja veštačke inteligencije mogla promeniti na osnovu načina na koji se uči.
Under the conditions we have identified, our conclusion is much stronger than that of any previous publication—an existential catastrophe is not just possible, but likely. 3/15
— Michael Cohen (@Michael05156007) September 6, 2022
Broj na koji Koen ovde govori zasnovan je na testu da se primora AI agent da dostigne određeni broj. I, kada se pokaže način da se to uradi, moglo bi da koristi više energije da optimizuje postizanje tog cilja. To je intrigantan predlog i onaj koji pokazuje zašto su mnogi zabrinuti zbog pretnje veštačke inteligencije.
Očigledno, primeri navedeni u radu nisu jedini mogući ishodi. I, možda bismo mogli pronaći način da držimo mašine pod kontrolom.
Ali, ovo novo istraživanje i rad naučnika postavlja neka pitanja o tome koliko želimo da verujemo AI u budućnosti i kako bismo je mogli kontrolisati ako dođe do egzistencijalne katastrofe.
