Ovo je najveća pretnja koju donosi VEŠTAČKA INTELIGENCIJA!
Veštačka inteligencija (AI) ne može da razlikuje činjenice od fikcije. Takođe nije kreativna niti može da stvori novi sadržaj, već ponavlja, prepakuje i preformuliše ono što je već rečeno (ali možda na nove načine).
Siguran sam da se neko neće složiti sa ovim poslednjim, možda ukazujući na činjenicu da AI može jasno da generiše, na primer, nove pesme i tekstove. Slažem se sa ovim, ali nedostaje poenta. AI proizvodi „novu“ pesmu samo izvlačeći iz podataka prethodnih tekstova pesama, a zatim koristi te informacije (induktivno otkrivene obrasce u njoj) da generiše ono što nam se čini kao nova pesma (a može i biti jedna) . Međutim, u tome nema umetnosti, nema kreativnosti. To je samo strukturalno preispitivanje onoga što postoji.
Naravno, možemo raspravljati u kojoj meri ljudi mogu da misle zaista nove misli i da li se ljudsko učenje može zasnivati isključivo ili prvenstveno na mimikriji. Međutim, čak i ako bismo se – argumenta radi – složili da je sve što znamo i radimo puka reprodukcija, ljudi imaju ograničen kapacitet da tačno pamte i jasno je da će praviti greške. Takođe popunjavamo praznine onim što nam subjektivno (ne objektivno) ima smisla. Čak i u ovom veoma ograničenom scenariju, sa kojim se ne slažem, ljudi stvaraju novine iznad onoga što je AI u stanju da uradi.
I nemogućnost razlikovanja činjenica od fikcije i induktivna veza sa postojećim obrascima podataka su problemi koji se mogu programski ublažiti — ali su otvoreni za manipulaciju.
UŽIVO! SREDA! 20h! OVO SE NE PROPUŠTA! ANDRIJA KLARIĆ U BUNKERU
Manipulacija i propaganda
Kada je Google u februaru lansirao svoj Gemini AI, odmah je postalo jasno da AI ima plan. Između ostalog, veštačka inteligencija je gurnula levičarske ideale različitosti u svaki mogući odgovor i, između ostalog, odbila je da pokaže slike belaca (uključujući i kada su zamoljeni da proizvedu slike osnivača SAD).
Tehnološki guru i investitor iz Silicijumske doline, Mark Andreesen, rezimirao je to na X-u (bivši Tviter): „Znam da je teško poverovati, ali Big Tech AI generiše rezultate koje stvara zato što upravo izvršava specifičnu ideološku, radikalnu, pristrasnu agendu svojih kreatora . Naizgled bizaran rezultat je 100% namenjen. Radi kako je dizajnirano.”
Zaista postoji dizajn ovih AI izvan osnovne kategorizacije i generatora. Odgovori nisu savršeno induktivni ili generativni. Delimično, ovo je neophodno kako bi veštačka inteligencija bila korisna: primenjuju se filteri i pravila kako bi se osiguralo da su odgovori koje AI generiše prikladni, da odgovaraju očekivanjima korisnika i da su tačni i poštujući. S obzirom na pravnu situaciju, kreatori AI takođe moraju da se postaraju da veštačka inteligencija, na primer, ne krši zakone o intelektualnoj svojini ili ne učestvuje u govoru mržnje. AI je takođe dizajniran (usmeren) tako da ne uvredi svoje korisnike.
Ovo takođe otvara mogućnost za upravljanje generisanim odgovorima izvan pukog osiguranja kvaliteta. Sa filterima koji su već postavljeni, lako je naterati AI da daje izjave određenog tipa ili koje guraju korisnika u određenom pravcu (u smislu odabranih činjenica, tumačenja i pogleda na svet). Takođe se može koristiti da se veštačkoj inteligenciji da agenda, kao što Andreesen sugeriše.
Dakle, AI se može koristiti kao efikasno propagandno sredstvo, što su prepoznale i korporacije koje ih kreiraju i vlade i agencije koje ih regulišu.
Dezinformacije i greške
Države su dugo odbijale da priznaju da imaju koristi od propagande i da koriste propagandu da upravljaju i kontrolišu svoje podanike. Ovo je delimično zato što žele da zadrže budućnost legitimiteta kao demokratske vlade koje vladaju na osnovu mišljenja ljudi. Propaganda ima loš zvuk; to je sredstvo kontrole.
Međutim, kaže se da državni neprijatelji — i domaći i strani — razumeju moć propagande i ne oklevaju da je koriste da izazovu haos u našem inače „neokaljanom“ demokratskom društvu. Vlast mora da nas spase od takve manipulacije, tvrde. Naravno, retko se zaustavlja samo na odbrani. To smo jasno videli tokom pandemije kovida, u kojoj je vlada zajedno sa kompanijama društvenih medija zapravo zabranila izražavanje mišljenja koja nisu bila zvanična.
Veštačka inteligencija je jednako pogodna za manipulisanje u propagandne svrhe kao i algoritmima društvenih medija, ali uz dodatni bonus da to nisu samo mišljenja ljudi i da korisnici imaju tendenciju da veruju da je ono što AI izveštava istina. Kao što smo videli u prethodnom članku o AI revoluciji, ovo nije validna pretpostavka, ali je ipak široko rasprostranjeno gledište.
Ako se veštačkoj inteligenciji tada može naložiti da ne komentariše određene stvari koje kreatori (ili regulatori) ne žele da ljudi vide ili nauče, onda je to zapravo „rupa u pamćenju“. Ova vrsta „neželjenih“ informacija se neće širiti jer im ljudi neće biti izloženi.
Naravno, ništa ne znači da je ono što je predstavljeno korisniku istina. U stvari, sama veštačka inteligencija ne može da razlikuje činjenice od istine, već samo generiše odgovore u skladu sa smerom i samo na osnovu onoga što je veštačkoj inteligenciji predstavljeno. Ovo ostavlja mnogo prostora za pogrešno predstavljanje istine i može naterati svet da veruje u otvorene laži. AI se, stoga, lako može koristiti za nametanje kontrole, bilo da se radi o državi, subjektima pod njenom vlašću ili čak stranoj sili.
Prava pretnja veštačke inteligencije
Šta je onda prava pretnja veštačke inteligencije? Kao što smo videli u prvom članku , veliki jezički modeli neće (ne mogu) evoluirati u veštačku opštu inteligenciju jer ne postoji ništa o induktivnom prosejavanju kroz velike gomile (ljudski) stvorenih informacija koje će dovesti do svesti. Iskreno govoreći, nismo ni shvatili šta je svest, pa je pomisao da ćemo je stvoriti prilično hiperbolična. Veštačka opšta inteligencija je i dalje hipotetička.
Ne, prava pretnja je uticaj veštačke inteligencije na informacije. Ovo je delimično zato što je indukcija neprikladan izvor znanja — istina i činjenica nisu stvar učestalosti ili statističkih verovatnoća. Dokazi i teorije Nikolaja Kopernika i Galilea Galileja bi bili iskorijenjeni kao neverovatni (lažni) od strane AI obučenog za sve (najbolje i najsjajnije) spise o geocentrizmu u to vreme. Nema napretka i učenja novih istina ako verujemo samo istorijskim teorijama i prikazima činjenica.
Međutim, ovaj problem se verovatno može prevazići pametnim programiranjem (što znači primenu pravila—i ograničenja zasnovanih na činjenicama—na problem indukcije), barem u izvesnoj meri. Veći problem je korupcija onoga što AI predstavlja: dezinformacije koje njeni kreatori i administratori, kao i vlade i grupe za pritisak, usmeravaju da kreira kao sredstvo za kontrolu ili upravljanje javnim mnjenjem ili znanjem.
Ovo je prava opasnost zbog kojeg je i pisano otvoreno pismo , koje su potpisali Elon Musk, Steve Vozniak i drugi, a koje govori: „ Da li treba da dozvolimo mašinama da preplave naše informativne kanale propagandom i neistinom? Da li treba da automatizujemo sve poslove? Da li treba da razvijamo neljudske umove koji bi nas na kraju mogli nadmašiti, nadmudriti ili zameniti nas? Da li treba da rizikujemo gubitak kontrole nad našom civilizacijom?“
Osim ekonomski nepismenog pozivanja na „automatizaciju svih poslova“, upozorenje je dobro prihvaćeno. AI neće poput Terminatora početi da nas mrzi i pokušava da istrebi čovečanstvo. Neće nas sve pretvoriti u biološke baterije, kao u Matriksu . Međutim, on će nas – posebno kada je korumpiran – dezinformisati i obmanuti, stvoriti haos i potencijalno učiniti naše živote „usamljenim, siromašnim, gadnim, brutalnim i kratkim“.
