Da li bi nekontrolisana veštačka inteligencija (AI) mogla da izazove budući Treći svetski rat?
Ne trebaju nam filmovi poput „Terminatora 2“ i njegovog Skajneta da bismo ovo zamislili. Godina je 2026. i već postoji zastrašujući primer iz stvarnog sveta koji je mogao da pokrene oružani sukob sa nuklearno naoružanom Kinom.
Ljudski analitičar unutar američke obaveštajne zajednice koristio je podatke koje je prikupila veštačka inteligencija za izradu izveštaja koji je kasnije široko distribuiran kroz poverljive kanale Pentagona, osim što je četbot na koji se oslanjao praktično „halucinirao“ delove nuklearnog oružja koji su se navodno prevozili na kineskom brodu koji je plovio ka Iranu.
To je, naravno, izazvalo najviši stepen uzbune u Vašingtonu usred aktivnog rata koji je predsednik Tramp pokrenuo, navodno kako bi sprečio upravo ono što se ovde dogodilo: da Iran dođe do nuklearnog oružja i komponenti za atomsko oružje.
Od tog trenutka vojno planiranje je ubrzano, a operacija ukrcavanja specijalnih snaga bila je pred neposrednim pokretanjem. Navodno su elitne jedinice već bile u vazduhu, spremne da se spuste na pomenuti kineski brod.
Ali onda je „operacija obustavljena tek nakon što su zvaničnici detaljnije analizirali obaveštajni izveštaj i otkrili da je izrađen uz pomoć AI četbota“, navodi CNN u ekskluzivnom izveštaju objavljenom u petak. Incident se, prema navodima, dogodio prošlog proleća.
Ozbiljna greška otkrivena je u poslednjem trenutku, taman na vreme da se obustavi ono što je moglo da bude najveći geopolitički promašaj i katastrofa veka. „Četbot je pogrešno identifikovao materijal koji je brod prevozio.“
U suštini, Sjedinjene Države su se našle u situaciji da se oslanjaju na potpuno izmišljene „obaveštajne podatke“ koji su potencijalno mogli da dovedu do sukoba sa Kinom.
Kao da želi da predupredi svakoga ko bi mogao da pomisli da je ovaj prikaz samo preuveličavanje ili nepotrebno senzacionalizovanje, jedan neimenovani zvaničnik rekao je CNN-u da je obaveštajna procena bila „potpuno netačna“ i da je na kraju „skoro pokrenula rat“.
Dok se rukovodstvo Pentagona, uključujući Američku komandu za specijalne operacije za Pacifik, još nije oglasilo povodom pitanja CNN-a, taj medij je sastavio navodni sled događaja i objasnio kako je do svega moglo da dođe:
U ovom konkretnom slučaju, analitičar je postavio pitanje četbotu o obaveštajnim podacima u vezi sa teretnim manifestom broda, koji su potekli od Američke komande za specijalne operacije za Pacifik sa sedištem na Havajima. Nije bilo jasno da li je četbot bio komercijalno dostupan ili proizvod američke vlade.
„Interni alati su uglavnom samo kopije komercijalnih proizvoda kojima je stavljen sloj šminke“, rekao je bivši visoki američki zvaničnik upoznat sa sistemima veštačke inteligencije koje koriste vojni i obaveštajni analitičari.
Četbot je spojio obaveštajne podatke iz javno dostupnih izvora sa tajnim signalnim obaveštajnim podacima iz vladinih baza i došao do svog kobnog zaključka o materijalu koji je brod prevozio.
Analitičar je zatim ponovo koristio AI kako bi nalaze upakovao u standardni obaveštajni izveštaj, kakav vojni zvaničnici koriste i kojem veruju, i distribuirao ga.
Izveštaj naizgled sugeriše da bi nepoznati AI alat koji je korišćen za ovako važnu procenu u startu bio ocenjen kao nedovoljno kvalitetan i nepouzdan.
Dodatno „utešno“ za čitaoce jeste to što, imajući u vidu da se sve veća integracija AI-ja čini „nepovratnim“ trendom današnjice širom Ministarstva odbrane, odnosno Ministarstva rata, i obaveštajne zajednice, slične situacije za dlaku izbegnute katastrofe gotovo sigurno će se dešavati i u bliskoj i daljoj budućnosti.
„Širom američke vojske i obaveštajne zajednice, zvaničnici nastoje da AI uključe u gotovo svaki aspekt svog rada, od analize ogromnih količina sirovih obaveštajnih podataka koje SAD prikupljaju i odabira ciljeva za napade, do mnogo svakodnevnijih primena poput upravljanja budžetima, logistikom i lancima snabdevanja.“
Dakle, očigledno nisu samo lenji studenti koji su postali previše zavisni od AI-ja kao zamene za detaljno istraživanje i kritičko razmišljanje, već sada izgleda imamo i generaciju američkih obaveštajnih analitičara koji uz pomoć ove tehnologije prave potencijalno katastrofalne greške koje mogu da promene tok svetskih događaja.
