Kreator ChatGPT-a: Veštačka inteligencija će razviti SUPERLJUDSKU sposobnot UBEĐIVANJA
Čovečanstvo je verovatno još uvek daleko od izgradnje veštačke opšte inteligencije (AGI) ili veštačke inteligencije koja odgovara kognitivnoj funkciji ljudi – ako, naravno, ikada budemo u stanju da to uradimo.
Ali bez obzira da li će se takva budućnost ostvariti ili ne, izvršni direktor OpenAI Sem Altman ima upozorenje: AI ne mora da bude pametan na nivou AGI da bi preuzeo kontrolu nad našim slabim ljudskim umovima.
„Očekujem da će veštačka inteligencija biti sposobna za nadljudsko ubeđivanje mnogo pre nego što bude nadljudska u opštoj inteligenciji“, napisao je Altman na Tviteru u utorak, „što može dovesti do nekih veoma čudnih ishoda“.
Iako Altman nije elaborirao šta bi ti ishodi mogli biti, to nije nategnuto predviđanje. AI čet botovi okrenuti prema korisnicima, poput OpenAI-ovog ChatGPT-a, dizajnirani su da budu dobri sagovornici i postali su jezivo sposobni da zvuče ubedljivo – čak i ako su u nečemu potpuno netačni.
U isto vreme, takođe je tačno da ljudi već počinju da formiraju emocionalne veze sa raznim četbotovima, zbog čega zvuče mnogo uverljivije.
Zaista, AI botovi su već igrali podršku u nekim prilično zabrinjavajućim događajima. Kao primer, tada 19-godišnji čovek, koji je postao toliko zaljubljen u svog AI partnera da ga je to ubedilo da pokuša da ubije pokojnu kraljicu Elizabetu.
Henri Kisindžer: Veštačka inteligencija će zameniti ljude u narednih 5 godina https://t.co/uPnOuTyPRB
— Nulta Tačka (@NultaTackaSrb) October 29, 2023
Nezadovoljni ljudi već decenijama hrle u najmračnije kutke interneta u potrazi za zajednicom i validacijom i nije teško zamisliti scenario u kojem bi loš glumac mogao da cilja jednog od ovih ranjivijih ljudi preko AI čet bota i da ih ubedi da urade neke loše stvari. I dok bi nezadovoljni pojedinci bili očigledna meta, takođe je vredno istaći koliko je prosečan korisnik interneta podložan digitalnim prevarama i dezinformacijama. Ubacite veštačku inteligenciju u mešavinu i loši glumci će imati neverovatno ubedljivo oruđe kojim mogu da zavaraju mase.
Ali ne treba da brinemo samo o slučajevima otvorenog zlostavljanja. Tehnologija je duboko utkana u svakodnevni život većine ljudi, pa čak i ako ne postoji emocionalna ili romantična veza između čoveka i bota, mi već u nju polažemo puno poverenja. Ovo nas verovatno podstiče da istu veru stavimo i u sisteme veštačke inteligencije – stvarnost koja može pretvoriti halucinaciju AI u potencijalno mnogo ozbiljniji problem.
Da li bi veštačka inteligencija mogla da se koristi da nagovori ljude na neko loše ponašanje ili destruktivne načine razmišljanja? Nije nezamislivo. Ali kako sistemi veštačke inteligencije još uvek nemaju nikakvu agenciju, verovatno nam je bolje da se manje brinemo o samoj AI – i da se više fokusiramo na one koji pokušavaju da je zloupotrebe.
i expect ai to be capable of superhuman persuasion well before it is superhuman at general intelligence, which may lead to some very strange outcomes
— Sam Altman (@sama) October 25, 2023
