Hoće li veštačka inteligencija preuzeti svet?
Kao što znate, veštačka inteligencija (AI) je u modi ovih dana. Iz tržišne perspektive, to je svakako dobro ulaganje.
I verujem da će vodeći proizvođač AI čipova Nvidia biti pogođen, što bi moglo da izazove mnogo širi krah tržišta koji počinje sutra popodne, nešto posle 16 časova.
Ali iz šire perspektive veštačke inteligencije, vesti su pune priča o tome kako su mašine sa ogromnom računarskom snagom i zaslepljujućim brzinama obrade, koje imaju pristup milijardama knjiga i dokumenata i mogućnost da same podučavaju, spremne da preuzmu svet.
Da li je to istina? Godinama proučavam veštačku inteligenciju i njen potencijal, tako da imam dublje razumevanje AI od prosečnog čoveka.
U stvari, proveo sam vreme posećujući treći najbrži nevladin superkompjuter na svetu (HiPerGator AI kompjuter na Univerzitetu Florida) kao deo projekta primene generalizovane superinteligencije i veštačke inteligencije na zadacima nacionalne bezbednosti.
Eksperimentatori sada zamišljaju da mašine počinju da žive sopstveni život i napadaju ljude i civilizaciju. Ali važno je zapamtiti da ako mašina poludi, možete jednostavno izvući utikač.
Zagovornici kapaciteta veštačke inteligencije tvrde da izvlačenje utikača neće funkcionisati jer će veštačka inteligencija predvideti tu strategiju i „izvoziti“ se na drugu mašinu u scenariju „uhvati me ako možeš“ gde onemogućavanje jedne lokacije neće zaustaviti kod i algoritmi se pojavljuju negde drugde i nastavljaju da napadaju.
Možda. Ali postoje razne vrste logističkih problema sa ovim, uključujući dostupnost dovoljno mašina sa potrebnom procesorskom snagom, činjenicu da će alternativne mašine verovatno biti okružene zaštitnim zidovima i digitalnim bagovima i mnoštvo problema sa konfiguracijom i interoperabilnosti.
Profesor Duško Kuzović za Nultu Tačku o pravim razlozima Makronove posete Srbiji, novom ponižavanju naroda i krivičnim delima koje sprovodi sam režim predvođen Vučićem https://t.co/SkjcVtQDv5
— Nulta Tačka (@NultaTackaSrb) August 30, 2024
Dakle, za sada, možete samo izvući utikač. U stvari, postoji niz mera zaštite koje se predlažu kako bi se ograničila potencijalna šteta od veštačke inteligencije, a da se i dalje iskoriste njene ogromne prednosti.
Ovo nije tehnički članak, ali ove zaštitne mere uključuju transparentnost (tako da treće strane mogu da identifikuju nedostatke), nadzor, oslabljeni oblik borbene obuke (tako da mašina može da rešava probleme bez zavere protiv nas u svoje slobodno vreme), odobrenje- zasnovana modifikacija (mašina mora da „traži dozvolu“ pre nego što aktivira autonomno mašinsko učenje), rekurzivno modeliranje nagrađivanja (mašina se kreće samo u određenim pravcima gde je ljudi „tapšu po glavi“) i drugi slični alati.
Naravno, nijedna od ovih mera zaštite ne funkcioniše ako je moć koja stoji iza veštačke inteligencije maligna i zapravo želi da uništi čovečanstvo. Ovo bi bilo kao stavljanje atomskog oružja u ruke očajnog Adolfa Hitlera. Znamo šta bi se dalje desilo.
Džejms Bond sa veštačkom inteligencijom
Rešenje bi u tom slučaju bilo više političko, forenzičko i odbrambeno. Prikupljanje obaveštajnih podataka bi igralo ogromnu ulogu. Naravno, to brzo evoluira u rat inteligencije mašina protiv mašine prikupljanja podataka i obmane.
Zamislite Džejmsa Bonda sa hiper-kompjuterom umesto Walther PPK. Neposrednija pretnja veštačke inteligencije je manje ozbiljna, ali ipak uznemirujuća, posebno za investitore.
Investitori treba da budu oprezni kada se oslanjaju na GPT sisteme za finansijske savete, uprkos njihovoj ogromnoj procesorskoj moći. Izlaz nikada nije bolji od inputa, a tržišni inputi su prepuni loših modela, lažnih pretpostavki, loših prognoza i predrasuda.
Smeće unutra, smeće napolje.
AI se već programira sa „woke“ ideologijom, na primer. Verovatno se sećate Google-ovog smešnog Gemini AI generatora slika koji je prikazivao crne Vikinge, ženske pape i druge apsurdne slike. Možete zamisliti distopijsku budućnost koju bi mogla stvoriti woke superinteligencija.
Woke 1984
Verovatno ste upoznati sa klasičnim distopijskim romanom Džordža Orvela 1984; (često se objavljuje kao 1984). Napisana je 1948. godine; naslov potiče od preokretanja poslednje dve cifre 1948. godine.
Orvel je stvorio originalan rečnik za svoju knjigu, od kojih je većina danas uobičajena, iako cinična. Termini kao što su Misaona policija, Veliki brat, dvoumljenje, novogovor i rupa u pamćenju, svi potiču iz 1984.
Orvel je to nameravao kao upozorenje o tome kako bi određene zemlje mogle evoluirati nakon Drugog svetskog rata i početka Hladnog rata. On je svakako bio zabrinut zbog staljinizma, ali su se njegova upozorenja odnosila i na zapadne demokratije.
Kada je došla i prošla kalendarska 1984. godina, mnogi su odahnuli da se Orvelovo proročanstvo nije ostvarilo. Ali taj uzdah olakšanja bio je preran. Orvelovo društvo iz košmara danas je ovde i možemo ga videti.
Kina ima većinu aparata totalitarnih društava opisanih u Orvelovoj knjizi. Kina naporno radi na veštačkoj inteligenciji dok koristi softver za prepoznavanje lica i sveprisutni digitalni nadzor kako bi pratila svoje građane. Internet je cenzurisan i nadgledan. Policija će vas uhapsiti zbog izražavanja mišljenja koja se protive vladi ili njenoj politici.
Dok možete biti uhapšeni zbog izražavanja nepopularnih mišljenja ili osporavanja preovlađujućih dogmi, mogli biste se suočiti i sa drugim sankcijama. Možete čak i da izgubite posao i da je skoro nemoguće pronaći drugi. Razmislite o kulturi otkazivanja.
Ali to nije samo u Kini. Osnivač aplikacije za razmenu poruka Telegram Pavel Durov upravo je uhapšen na aerodromu u Francuskoj. Vrlo je moguće da je američka vlada imala ulogu u hapšenju, zajedno sa EU.
Vlasti tvrde da je Telegram promovisao dečju pornografiju i druga gnusna dela. Ali u stvarnosti, Durov je uhapšen jer nije pristajao na zahteve zapadne vlade da cenzuriše određene informacije i stavove. Takođe, zato što vlastima ne bi dao informacije o kreatorima tog sadržaja (Telegram nudi kreatorima opcije šifrovanja).
To je pravi razlog zašto je Durov uhapšen. Da li je Ilon Mask sledeći?
„Pokaži mi čoveka i pokazaću ti zločin“
U Sjedinjenim Državama, mnogi konzervativni učesnici društvenih medija su deplatformisani ili suspendovani, ne zbog pretnji ili vulgarnosti ili promovisanja dečje pornografije, već zbog kritike „progresivnih“ stavova (iako kritika sa oštrim ivicama).
U međuvremenu, oni sa progresivnim stavovima mogu reći skoro sve na društvenim medijima, uključujući implicitno odobravanje nasilja. Ali ništa se ne dešava.
Problem je što se trend veoma brzo kreće u ovom pravcu i teško ga je zaustaviti. A sofisticirana tehnologija nadzora za praćenje građana je već uspostavljena…
Na primer, kamere sa najnovijom tehnologijom za nadzor mogu uočiti i upariti milione lica u realnom vremenu sa stopom tačnosti od preko 99%. Oni se reklamiraju kao sredstva za borbu protiv terorizma i kriminala, što svakako jesu.
Ali kako je Staljinov nemilosrdni šef tajne policije Lavrentij Berija rekao: „Pokažite mi čoveka i pokazaću vam zločin“. Lako je uočiti da se moć zloupotrebljava za ciljanje običnih građana.
(Uzgred, Berija bi na kraju dokazao svoju poentu, pošto je kasnije uhapšen i pogubljen zbog izdaje.)
Ako se vratimo na AI, problem je u tome što kada loši akteri počnu da popunjavaju literaturu pogrešnim informacijama i pristrasnosti programera se infiltriraju u kod, jasno je da AI može biti instrument tiranije.
Sve u svemu, veštačka inteligencija je nešto na šta treba obratiti pažnju i trebalo bi da postavljamo važna pitanja. Ali ne treba da brinemo da će uskoro zavladati svetom. Ili možda treba ako nastavi sa woke ideologijom i indoktrinacijom novih generacija?
Nulta Tačka/ZeroHedge/Autor James Rickards