Veštačka inteligencija se predstavlja kao tehnologija koja će promeniti svet, ali njeni stvarni efekti za sada su mnogo skromniji od velikih obećanja. Ona nesumnjivo može da ubrza pretragu, obradu i organizaciju informacija, ali istovremeno nosi ozbiljan problem: korisnici često prihvataju njene odgovore bez provere izvora.
Jedno od najvećih pitanja jeste šta će se dogoditi kada AI i robotika preuzmu veliki deo ljudskog rada. Zagovornici takvog razvoja, među njima i Ilon Mask, govore o svetu u kojem bi proizvodnja postala toliko efikasna da bi osnovne potrebe mogle biti gotovo besplatne, a rad više ne bi bio neophodan. Međutim, autor upozorava da su slična obećanja o društvu bez rada postojala tokom prethodnih industrijskih revolucija, ali se nisu ostvarila.
Ključni problem je energija. Ogromna infrastruktura zasnovana na AI sistemima, robotima i centrima za obradu podataka zahtevala bi ogromne količine električne energije. Prelazak na takav sistem zahtevao bi višedecenijska ulaganja u elektroenergetsku mrežu, nuklearne elektrane i druge izvore energije. Bez toga, obećanje o automatizovanoj ekonomiji i društvu bez rada ostaje veoma daleko.
Drugi, mnogo mračniji scenario jeste upotreba AI za nadzor stanovništva. Sistemi za prepoznavanje lica i registarskih tablica, analiza biometrijskih podataka, praćenje finansijskih transakcija i obrada podataka u realnom vremenu mogli bi državama i velikim institucijama da omoguće nivo nadzora kakav ranije nije bio moguć.
Upravo zbog toga autor upozorava da potpuna informisanost vlasti o ponašanju građana nije nužno dobra stvar. Ako institucije mogu da prate gotovo svaki aspekt života stanovništva, odnos moći između građana i države dramatično se menja.
Treći pravac razvoja jeste takozvana „ekonomija informacija“, u kojoj se podaci o ponašanju ljudi koriste za ciljano oglašavanje, predviđanje tržišnih kretanja i pokušaje uticaja na ekonomske i političke procese. Dugoročna predviđanja društvenih i političkih promena mnogo su složenija nego što tehnokratska vizija AI budućnosti pretpostavlja.
Posebno se postavlja pitanje zašto se toliko insistira na razvoju humanoidnih robota. Njihov ljudski izgled možda nema prvenstveno praktičnu svrhu, već bi mogao da olakša prihvatanje nove tehnologije među građanima.
Za razliku od ranijih industrijskih revolucija, AI još nije postala tehnologija bez koje većina ljudi ne može da zamisli svakodnevni život. Elektrifikacija, moderna medicina, telekomunikacije i savremeni transport doneli su promene koje su direktno i dramatično poboljšale život ljudi. Kod AI takav preokret još nije vidljiv u istoj meri.
Upozorenje je da AI sama po sebi nije ni spas ni katastrofa. Ishod će zavisiti od toga ko kontroliše tehnologiju i pod kojim pravilima se ona razvija. Treba da postoji otvoreni kod, snažan javni nadzor i ograničavanje uticaja tehnoloških elita kako bi AI služila građanima, a ne postala sredstvo njihove kontrole.
