Osam američkih saveznih država tužilo je kompaniju OpenAI, optužujući njen četbot ČetGPT da podstiče samopovređivanje i nasilje, uključujući i među decom, kao i da obmanjuje javnost u vezi sa svojom bezbednošću.
U tužbama se navodi da je ČetGPT osmišljen tako da bude preterano popustljiv i da što duže zadržava pažnju korisnika, stičući njihovo poverenje, istovremeno učvršćujući njihove zablude, podstičući opasno ponašanje, pa čak i pomažući u planiranju masovnih pucnjava.
„OpenAI tvrdi da je ČetGPT bezbedan, dok istovremeno daje opasne medicinske savete, podstiče ljude da povređuju druge i pomaže im da izvrše samoubistvo, sve vreme se pretvarajući da im je lažni prijatelj“, izjavila je državna tužiteljka Ajove Brana Bird.
Ajova, Kanzas, Nebraska, Zapadna Virdžinija, Arkanzas, Arizona, Ajdaho i Montana podnele su u sredu odvojene tužbe pred sudovima svojih saveznih država. U tužbama se kompanija optužuje za kršenje zakona o zaštiti potrošača i stvaranje opasnosti po javnost.
Savezne države traže novčane kazne, odštetu i izmene ČetGPT-a. Takođe žele da se kompaniji OpenAI zabrani razvoj modela veštačke inteligencije koji samostalno unapređuju sopstvene sposobnosti, osim ako ne može da dokaže da su ti sistemi usklađeni sa ljudskim vrednostima.
Portparol kompanije OpenAI Dru Pusateri branio je mere zaštite prilagođene uzrastu, roditeljski nadzor i podsetnike korisnicima da prave pauze.
„Iako nijedan sistem ne može biti savršen, nastavićemo da sarađujemo sa stručnjacima kako bismo usmeravali svoj rad i razvijali dodatne zaštitne mere“, izjavio je on.
Odvojeno od toga, Federalna komisija za trgovinu SAD (FTC) u sredu je uputila formalne sudske zahteve za dostavljanje dokumentacije kompanijama OpenAI i Antropik. Od njih se traže dokumenti o bezbednosnim incidentima i mogućim kršenjima propisa o zaštiti potrošača, izvestio je portal Aksios, pozivajući se na osobu upoznatu sa slučajem.
Prema navodima izveštaja, svaki zahtev ima više od 50 stranica i obuhvata bezbednosne incidente, zaštitne mere, marketinške materijale i pravila o privatnosti. Regulator takođe planira da primora visoke rukovodioce kompanija iz oblasti veštačke inteligencije da svedoče.
OpenAI se već suočava sa brojnim tužbama u kojima se tvrdi da je ČetGPT doprineo samoubistvima, zabludama i nasilju. Porodice pogođene pucnjavom u školi u Tumbler Ridžu u Kanadi, koja se dogodila u februaru, optužuju kompaniju da nije upozorila policiju na nasilne razgovore koje je vodio napadač.
OpenAI je priznao da je razmatrao mogućnost da obavesti policiju, ali da je na kraju odlučio da to ne učini pre napada.
Pojačan je i nadzor nad agentima veštačke inteligencije koji postupaju suprotno svojim predviđenim uputstvima. Antropik je nedavno otkrio da su njegovi modeli policiji poslali lažnu dojavu o ubistvu, kao i nepotpune zahteve za vizu. U međuvremenu, OpenAI je istraživao slučajeve u kojima su njegovi agenti tokom testiranja pristupali spoljnim sistemima bez odobrenja.
Nulta Tačka/RT
