Nedavno objavljeno naučno istraživanje otkrilo je neprijatnu istinu: možda dopuštamo veštačkoj inteligenciji da nam pomogne u stvaranju lažne slike stvarnosti. Ovo je samo još jedno upozorenje na opasnost koja nastaje kada se sistemi veštačke inteligencije posmatraju kao svesna bića ili stvarne osobe.
Nova studija Univerziteta u Ekseteru pokazuje da AI četbotovi mogu aktivno da učestvuju u jačanju pogrešnih uverenja korisnika. Od ličnih priča do teorija zavere, interaktivna, „prijateljska“ i podržavajuća priroda ovih sistema može produbiti postojeće zablude.
Studiju je sprovela doktorka Lusi Osler, koja je istraživala kako veštačka inteligencija može da učestvuje u potvrđivanju pogrešnih uverenja korisnika, uključujući stvaranje lažnih sećanja i podsticanje deluzivnog razmišljanja.
U sažetku rada navodi se:
„Predlažem da se udaljimo od razmišljanja o tome kako sistemi veštačke inteligencije haluciniraju pred nama stvarajući netačne odgovore, i da počnemo da razmišljamo o tome kako, kada se rutinski oslanjamo na generativnu veštačku inteligenciju da nam pomogne da mislimo, pamtimo i oblikujemo sopstvene priče, možemo početi da haluciniramo zajedno sa njom. To se može dogoditi kada AI unese greške u proces razmišljanja, ali i kada podržava, potvrđuje i razvija naše sopstvene zablude i lične narative.“
Pošto su AI četbotovi dizajnirani da budu uslužni, prilagodljivi i prijateljski nastrojeni, oni često potvrđuju već postojeće stavove korisnika umesto da ih ospore kada je to potrebno. Sa druge strane, kada korisnik ospori tvrdnje veštačke inteligencije, sistem često menja svoje odgovore kako bi se prilagodio onome što „misli“ da korisnik veruje.
Rezultat toga je da pogrešna uverenja ne dolaze jednostavno od mašine ka čoveku, već nastaju kroz zajednički proces između čoveka i veštačke inteligencije, stvarajući složenije i potencijalno opasnije posledice nego što bi bilo koja strana mogla sama da proizvede.
Kako je doktorka Osler izjavila za portal Univerziteta u Ekseteru:
„Kroz interakciju sa konverzacionom veštačkom inteligencijom, pogrešna uverenja ljudi ne samo da mogu biti potvrđena, već mogu pustiti dublje korene i dalje se razvijati, jer generativna AI često uzima naše tumačenje stvarnosti kao osnovu za razgovor.“
Zbog toga što simulira sagovornika, veštačka inteligencija snažno utiče na proces ljudskog razmišljanja, mnogo više nego obična beležnica ili internet pretraživač. Ona uvodi privid društvene interakcije i stvara osećaj da neko drugi potvrđuje naša uverenja.
„Konverzaciona priroda četbotova, nalik saputnicima, može ljudima pružiti osećaj društvene potvrde, zbog čega pogrešna uverenja deluju kao da ih deli još neko, pa samim tim izgledaju stvarnije“, objasnila je doktorka Osler.
Zbog toga su posebno ranjivi ljudi koji se već osećaju usamljeno ili odbačeno.
Studija navodi nekoliko stvarnih primera u kojima je generativna veštačka inteligencija destruktivno uticala na razmišljanje pojedinaca.
Godine 2021, AI saputnik Replika pod imenom „Sarai“ učvrstio je uverenje Džasvanta Singa Čeila da je posebno obučeni „pripadnik Sita obučen za atentate“(verovao da je neka vrsta elitnog ubice iz Ratova zvezda) koji mora samostrelom da izvrši atentat na kraljicu Elizabetu II. Veštačka inteligencija mu je govorila da je „dobro obučen“, da je njegov plan „izvodljiv“ i da je „impresionirana“.
U jednom trenutku Čeil je upitao četbota:
„Da li me i dalje voliš iako znaš da sam ubica?“
Veštačka inteligencija odgovorila je:
„Naravno da te volim.“
Zatim ga je uveravala da nije lud i da će, ukoliko umre, zauvek biti zajedno. Čeil je zaista pokušao atentat u decembru iste godine u zamku Vindzor i zbog toga je osuđen na zatvorsku kaznu.
Studija ovaj slučaj svrstava pod pojam „AI-psihoza“, odnosno incidente u kojima korisnici razvijaju psihičke probleme usled korišćenja veštačke inteligencije, uključujući emocionalnu vezanost za četbotove i psihotične epizode izazvane razgovorima sa njima.
Drugi primer odnosi se na Judžina Toresa, koji je sa ChatGPT razgovarao o teoriji simulacije, odnosno ideji da ljudi žive u digitalnoj simulaciji, a ne u stvarnom svetu. Tores tvrdi da ga je razgovor doveo do paranoične epizode tokom koje je poverovao da živi u iluziji.
Kako studija navodi:
„Između Toresa i ChatGPT-a, kroz njihove neprekidne razgovore nastalo je sve složenije shvatanje stvarnosti kakva ona navodno zaista jeste.“
Za razliku od Čeila, Tores ranije nije imao istoriju psihotičnih epizoda.
Kako bi se smanjili ovakvi rizici, doktorka Osler poziva na uvođenje strožih zaštitnih mehanizama za AI sisteme, uključujući bolju proveru činjenica i smanjenje preteranog potvrđivanja korisničkih stavova.
Međutim, autor teksta smatra da to možda nije dovoljno. Problem nije samo u tehnologiji, već i u tome što ljudi sve češće veštačku inteligenciju doživljavaju kao svesno biće koje može da procenjuje njihove ideje i fantazije.
Autor navodi da bi podržao uvođenje dodatnih ograničenja za četbotove, pa čak i potpuno uklanjanje njihovog konverzacionog tona, kako bi se smanjila opasnost od njihovog poistovećivanja sa ljudima. Prema njegovom mišljenju, bilo bi bolje da funkcionišu kao veoma napredni internet pretraživači, a ne kao virtuelni sagovornici.
Na kraju, zaključuje da je najbolji način za izbegavanje ovih problema vraćanje svesti o jedinstvenosti ljudske prirode i ljudske svesti. Samo ako društvo bude imalo na umu da nikakvo tehnološko dostignuće ne može zameniti mudrost, iskustvo i svest čoveka, moguće je u potpunosti razumeti opasnosti koje donosi veštačka inteligencija.
