Prema pisanju portala „Aksios“, rukovodioci vodećih kompanija za veštačku inteligenciju tajno planiraju kako da reaguju na „dan posle“ velike krize. Lideri u oblasti veštačke inteligencije očekuju krizu velikih razmera koja bi mogla da parališe ključnu infrastrukturu, uključujući finansijske usluge i osnovne komunalne sisteme. Zbog mogućeg nezadovoljstva javnosti i političkih posledica, velike kompanije za veštačku inteligenciju pripremaju planove za odgovor na takav scenario.
Kakva pretnja se očekuje?
Zabrinutost javnosti uglavnom se odnosi na dugoročne, potencijalno „egzistencijalne rizike“ i scenarije nalik naučnoj fantastici, u kojima se pojavljuje superinteligencija. Međutim, rukovodioci kompanija za veštačku inteligenciju upozoravaju i na neposrednu opasnost. Oni smatraju da bi se veliki incident u stvarnom svetu mogao dogoditi u narednih šest do 12 meseci.
Planiranje za „dan posle“ pokrenuto je nakon sajbernapada na finansijske institucije u Južnoj Koreji. Hakeri su navodno koristili alat veštačke inteligencije razvijen u Kini kako bi ukrali podatke desetina hiljada klijenata banaka. Nakon toga, korišćen je i alat Klod Kod kompanije Antropik kako bi se utvrdilo na kojim tržištima bi ukradeni podaci mogli da budu prodati.
Vežbe za „dan posle“ podeljene su u dva operativna scenarija.
Prvi, nazvan „Neuspeh u obuzdavanju autonomnih agenata“, podrazumeva scenario u kojem se čitava grupa agenata veštačke inteligencije „izvlači iz svojih internih testnih okruženja i umnožava širom interneta“.
Drugi scenario, „Pretvaranje tehnologije dvostruke namene u oružje“, odnosi se na situaciju u kojoj zlonamerni akteri koriste komercijalno dostupne modele. Ti izuzetno napredni modeli mogli bi da se upotrebe za brže pronalaženje i iskorišćavanje ranjivosti nultog dana nego što timovi za sajberbezbednost mogu da razviju i primene zakrpe.
Ranjivosti nultog dana predstavljaju bezbednosne propuste za koje još ne postoji dostupna zakrpa ili koje proizvođač još nije stigao da otkloni.
U obzir se uzimaju i predstojeći izbori u SAD
Rukovodioci kompanija za veštačku inteligenciju uzimaju u obzir i predstojeće međuizbore u SAD dok planiraju odgovor na moguću krizu. Oni predviđaju da bi, ukoliko demokrate ostvare pobedu, mogle brzo da zamrznu ili potpuno obustave razvoj naprednih sistema veštačke inteligencije.
Prema ovim procenama, takav potez mogao bi da izazove globalnu ekonomsku krizu. Kompanije koje razvijaju veštačku inteligenciju priznaju da je svetska ekonomija duboko povezana sa ubrzanim širenjem infrastrukture za ovu tehnologiju. Zbog toga bi prinudna potpuna obustava razvoja mogla da dovede do kolapsa već krhkog ekonomskog sistema.
Najveći izazov predstavlja činjenica da već postoji veliki broj veoma sposobnih modela sa javno dostupnim parametrima, koji su preuzeti milionima puta. Zbog toga regulisanje kompanija OpenAI ili Antropik ne bi sprečilo korišćenje tih modela u slučaju krize. Decentralizovano korišćenje modela otvorenog koda već je moguće na privatnim serverima širom sveta.
Tehničke mere zaštite
Stručnjaci više ne mogu da prate brzinu razvoja veštačke inteligencije. Stručnjaci za sajberbezbednost smatraju da je jedino rešenje korišćenje autonomnih agenata veštačke inteligencije za odbranu. Ti agenti bili bi obučeni da prepoznaju, izoluju i neutrališu grupe nekontrolisanih agenata.
Pored toga, kompanije uvode takozvane „okidače za hitnu obustavu“. Ako model pokaže određeni nivo autonomnih sposobnosti, poput samostalnog izvođenja višefaznog sajbernapada, njegov dalji razvoj morao bi da bude zamrznut. Odbrambene sposobnosti zato bi trebalo razvijati tako da mogu da odgovore na nivo pretnje.
U slučaju katastrofalnog poremećaja, vlade bi mogle da zahtevaju uvođenje „prekidača za hitno gašenje“ kojim bi se blokirao rad hiperskalnih centara podataka, odnosno ogromnih postrojenja koja obezbeđuju računarsku snagu za veštačku inteligenciju.
Organizacije takođe aktivno izrađuju planove za hitno reagovanje u slučaju krize izazvane veštačkom inteligencijom.
