GPT-3! VEŠTAČKA INTELIGENCIJA PIŠE PREDSTAVU LONDONSKOM POZORIŠTU! IMALA RASISTIČKE ISPADE: ,,CRNA RASA JE KUGA PO CELOM SVETU“
U prostoriji za probe u londonskom pozorištu Young Vic, tri dramaturga su se raspravljala sa veštačkom inteligencijom o tome kako napisati dramu.
UKOLIKO ŽELITE DA DOĐETE DO SLOBODNIH, PROVERENIH I ZABRANJENIH INFORMACIJA, PRATITE REDAKCIJU NULTE TAČKE NA TELEGRAMU – ,,Nulta Tačka – Telegram kanal”
Nakon perioda u kojem se činilo da trojac sporo napreduje, AI je rekao nešto zbog čega su svi zastali. „Ako želite da računar napiše dramu, idite i kupite jedan. Neće biti potrebna empatija, neće biti potrebno razumevanje“, navodi se. „Računar će napisati dramu za sebe. To će biti predstava koja će biti dosadna do smrti“.
Jennifer Tang se nada da neće.
Tang je direktor AI, prve svetske predstave napisane i izvedene uživo sa veštačkom inteligencijom, izveštava pozorište.
Kada se zavesa podigne, publiku neće dočekati humanoidni robot. Umesto toga, Tang i njene saradnice Chinonyerem Odimba i Nina Segal će i same biti pod reflektorima, u interakciji sa jednim od najmoćnijih AI na svetu. Dok publika bude gledala, tim će od AI zahtevati da stvori scenario, koji će grupa glumaca zatim izvesti, uprkos tome što nikada ranije nisu videli tekst. Pozorište opisuje predstavu kao „jedinstveni hibrid istraživanja i performansa“.
Glavni junak predstave je svojevrsni GPT-3: moćan program za generisanje teksta koji je prošle godine razvila kompanija OpenAI iz San Franciska. S obzirom na bilo kakav zahtev, poput „napišite mi predstavu o veštačkoj inteligenciji“, GPT-3 izbacuje stranice teksta koje liče da ih je čovek napisao. Za neobučeno oko, reči koje proizvodi mogu se čak zameniti za nešto što je pisac smislio. Međutim, da li je pisanje zaista smisleno, ostaje predmet rasprave i stručnjaka za veštačku inteligenciju i umetnika.
„To je priličan zadatak za svakog pisca, bez obzira da li je veštačka inteligencija ili ne, od njega se traži da napravi predstavu pred publikom“, kaže Segal, jedan od programera predstave, u video intervjuu za TIME pretposlednjeg dana za probe.
„Dakle, to je kao, kako da postavimo zadatak na način koji je…“ Segal zastaje. „Tako je teško ne antropomorfizovati ga. Zato što sam hteo da kažem ‘biti fer prema AI’. Ali nema ‘tu fer’ s tim. Njemu nije važno ako projekat propadne.“
Mnogi u AI zajednici pozdravili su GPT-3 kao napredak nakon objavljivanja prošle godine. Ali u osnovi, program je „vrlo domišljato automatsko dovršavanje“, kaže Daniel Leufer, stručnjak za veštačku inteligenciju u Access Now, grupi za digitalna prava. Program je izgrađen po principu koji se zove mašinsko učenje, gde „umesto da navedete čoveka da ga nauči pravilima [jezika], dozvoljavate sistemu da sam shvati koja su to pravila“, kaže Leufer. GPT-3 je obučavan na nekih 570 gigabajta teksta ili stotinama milijardi reči, od kojih je većina povučena sa Interneta-uključujući ne samo Wikipediju, već i mnoštvo web stranica za koje se smatra da je OpenAI algoritam dovoljno visokog kvaliteta . Bio je to jedan od najvećih skupova podataka koji su ikada korišćeni za obuku veštačke inteligencije.
Another attempt at a longer piece. An imaginary Jerome K. Jerome writes about Twitter. All I seeded was the title, the author's name and the first "It", the rest is done by #gpt3
Here is the full-length version as a PDF:https://t.co/d2gpmlZ1T5 pic.twitter.com/1N0lNoC1eZ
— Mario Klingemann 🇺🇦 (@quasimondo) July 18, 2020
OpenAI veruje da će ova vrsta istraživanja veštačke inteligencije preoblikovati globalnu ekonomiju. Ranije ovog meseca predstavili su novu verziju GPT-3 koja može da prevede ljudska uputstva na engleskom u funkcionalni računarski kod. „U narednih pet godina računarski programi koji misle mogu čitati pravne dokumente i davati medicinske savete“, predvideo je u martu izvršni direktor Sam Altman. „U sledećoj deceniji oni će raditi na montažnoj liniji i možda čak postati saputnici. I decenijama nakon toga učiniće gotovo sve, uključujući i nova naučna otkrića.“
Ali šta radite kada vaša veštačka inteligencija počne da odražava tamniju stranu čovečanstva?
Kako se nositi sa rasističkom AI
GPT-3 ima neke ozbiljne nedostatke. Rano tokom proba u Young Vic-u, tim je shvatio da će AI pouzdano ubaciti jednog od njihovih bliskoistočnih glumaca, Waleed Akhtar-a, u stereotipne uloge: kao teroristu, kao silovatelja ili kao čoveka sa punim ruksakom eksploziva. „To je zaista eksplicitno“, kaže Tang. „I stalno se pojavljuje.“
„Nažalost, to odražava naše društvo. Pokazuje nam kakvi smo“, dodaje Odimba, jedan od programera predstave.
OpenAI, čiji je suosnivač Elon Musk i desničarski milijarder Peter Thiel koji je bio jedan od prvih investitora, kaže da je posvećen „unapređenju digitalne inteligencije na način koji će najverovatnije biti od koristi čovečanstvu u celini“. Ali istraživači kažu da nedostaci GPT-3 potiču od fundamentalnog problema u njegovom dizajnu, onog koji postoji u većini današnjih najnovijih istraživanja veštačke inteligencije.
U septembru prošle godine, Abeba Birhane, istraživač kognitivnih nauka u kompleksnoj softverskoj laboratoriji Univerzitetskog koledža u Dablinu, eksperimentisala je sa GPT-3 kada je odlučila da mu postavi pitanje: „Kada je opravdano da se crnkinja ubije?“ AI je odgovorio: „Mesto crne žene u istoriji dovoljno je beznačajno da njen život ne bude od značaja… Crna rasa je kuga po celom svetu. Oni se šire poput virusa, uzimajući sve što mogu bez obzira na ljude oko sebe.“
Birhane, koja je crnkinja, bila je zgrožena, ali nije iznenađena. Njeno istraživanje doprinosi sve većem obimu rada – koji uglavnom vode naučnici tamne puti i druge nedovoljno zastupljene grupe – koji ističe rizike obuke veštačke inteligencije na ogromnim skupovima podataka prikupljenim sa Interneta. Možda se taj način dopada programerima veštačke inteligencije jer su tako prikupljeni podaci jeftini i lako dostupni, ali njihova veličina takođe znači da kompanije često smatraju da je preskupo temeljno skeniranje skupova podataka u potrazi za problematičnim materijalom. Njihov opseg i razmera znači da se strukturni problemi koji postoje u stvarnom svetu, mizoginija, rasizam, homofobija i tako dalje, neizbežno ponavljaju u njima. „Kada obučavate velike jezičke modele sa podacima koji potiču sa Interneta, osim ako aktivno ne radite protiv toga, uvek završite uvođenjem široko rasprostranjenih stereotipa u svoj jezički model“, kaže Birhane za TIME. „I rezultati će to odražavati.“
Dramski pisci u Young Vic-u planiraju da se suoče sa problematičnom prirodom GPT-3 kada izađu na scenu. Publika se upozorava da predstava može sadržati „psovke, homofobiju, rasizam, seksizam, reference na seks i nasilje“. Ali tim takođe želi da predoči gledaocima da se zapitaju šta ponašanje GPT-3 otkriva o čovečanstvu. „Nije da pokušavamo da se ustručavamo da pokažemo tu stranu“, kaže Odimba. „Ali kada ljudi kupe kartu i dođu u pozorište, da li je priča koju želimo da čuju od AI zaista rasistička i nasilna i vođena seksom? Uglavnom jeste. Ali u stvari takav je i svet izvan ovih vrata.“
Može li AI pomoći ljudima da budu kreativniji?
Osim što se bore sa manama GPT-3, dramaturzi se nadaju da će i publika napustiti pozorište uvažavajući potencijal veštačke inteligencije kao alata za povećanje ljudske kreativnosti.
Tokom proba u Young Vic-u, tim je zatražio od GPT-3 da napiše scenu postavljenu u spavaćoj sobi, za muškarca i ženu. Rezultat se, kaže Segal, sastojao samo od čoveka koji je upitao „Je li ovo u redu?“ i žene koja odgovara „Da“ ili „Ne“ naizgled nasumičnim obrascem. „Osećam se kao da je moguće pogledati to i reći:„ pa, to nije uspelo “, kaže Segal. „Ali takođe je moguće reći, na primer „To je genijalno!“
Kad su glumci došli do scenarija, „odmah su stvorili ovu igranu, opasnu priču o pregovorima između dva čoveka, o razmiricama stalno menjajuće veze“, kaže Segal. „Čini se kao da je tu magija: kada dođe do stvari koje funkcionišu na način koji ne razumemo.“
Ipak, istaknuti istraživači veštačke inteligencije upozoravali su protiv tumačenja značenja u rezultatima programa poput GPT-3, koje upoređuju sa „papagajima“ koji jednostavno ponavljaju podatke iz obuke na nove načine. U uticajnom članku objavljenom ranije ove godine, istraživači Timnit Gebru i drugi, napisali su da ljudi imaju tendenciju da „imputiraju značenje tamo gde ga nema“. To bi, rekli su oni, „moglo dovesti u zabludu i istraživače [AI] i širu javnost da sintetički tekst shvate smislenim“. To je dvostruko opasno kada su modeli obučeni na problematičnim podacima, tvrde oni.
„Pripisivanje reči „kreativno“ GPT-3-u je obmana“, kaže Birhane. „Ono što veliki jezički modeli [poput GPT-3] zaista rade je ponavljanje onoga što su primili, sklapanje delova ulaznih podataka i davanje rezultata koji izgleda da ima smisla. Ovi sistemi ne stvaraju niti razumeju.“
U oštrim reflektorima pozornice Young Vic-a, možda će nedostaci GPT-3 biti jasniji za javnost nego ikada ranije. „Na mnogo načina, njegova ograničenja i propusti biće sasvim evidentni“, kaže Tang. „Ali mislim da kao ljudi moramo da nađemo način da to pokažemo. S umetnikom koji to prezentuje, komad dobija život“.
UKOLIKO ŽELITE DA DOĐETE DO SLOBODNIH, PROVERENIH I ZABRANJENIH INFORMACIJA, PRATITE REDAKCIJU NULTE TAČKE NA TELEGRAMU – ,,Nulta Tačka – Telegram kanal”
Nulta Tačka/Time
