
Gugl upozorava da veštačka inteligencija čini kineske, iranske i severnokorejske hakere efikasnijim
Gugl je u sredu objavio izveštaj koji otkriva da hakeri koriste veštačku inteligenciju kompanije Gemini da osmisle efikasnije sajber napade.
Hakeri iz Kine, Irana i Severne Koreje su bili posebno agresivni u iskorišćavanju prednosti Geminijevih mogućnosti.
U izveštaju Google Threat Intelligence Group (GTIG), pod naslovom „Adversarial Zuse of Generative A.I.“, navedeno je da je A.I. „spreman da transformiše digitalnu odbranu“ pomažući stručnjacima za sajber bezbednost u zadacima kao što su „prebacivanje kroz složenu telemetriju da bi se obezbedilo kodiranje, otkrivanje ranjivosti i pojednostavljenje operacija“.
A.I. takođe transformiše digitalni napad i, u ovom trenutku, možda samo malo više osnažuje „crne šešire“. GTIG je pratio način na koji „akteri pretnji“ koriste Gemini, A.I. četbot koji prihvata zahteve na engleskom od svih korisnika. Chatbot koristi ogromnu akumulaciju jezika i značenja poznatog kao model velikog jezika (LLM) za tumačenje pitanja i sastavljanje koherentnih odgovora.
LLM takođe mogu da prate način na koji ih ljudi koriste, jer su dizajnirani da se razvijaju i uče iz svake interakcije. GTIG je istražio kako akteri pretnji koriste Gemini i došao do zanimljivih zaključaka.
Jedno otkriće je da hakeri dobijaju istu korist od A.I. kao i svi ostali: ogromno poboljšanje efikasnosti. Sada kada su čet-botovi poput Geminija naučili da razumeju zahteve sa visokim stepenom tačnosti, postali su visoko efikasni digitalni asistenti. A.I. može da izvrši hiljade munjevitih pretraga i uporedi rezultate da odgovori na pitanja koja postavljaju ljudi. Hakeri definitivno mogu imati koristi od tako moćnih istraživačkih alata.
„Hakeri eksperimentišu sa Geminijem kako bi omogućili svoje operacije, pronalazeći povećanje produktivnosti, ali još uvek ne razvijajući nove sposobnosti. Trenutno, oni prvenstveno koriste A.I. za istraživanje, rešavanje problema koda i kreiranje i lokalizaciju sadržaja“, otkrio je GTIG.
U izveštaju se navodi da akteri pretnji koriste Gemini da „podrže nekoliko faza životnog ciklusa napada, uključujući istraživanje potencijalne infrastrukture i provajdera besplatnog hostinga, izviđanje ciljnih organizacija, istraživanje ranjivosti, razvoj korisnog opterećenja i pomoć sa zlonamernim skriptama i tehnikama izbegavanja“.
„Umesto da onemogući remetilačku promenu, generativni A.I. omogućava akterima pretnji da se kreću brže i sa većim obimom“, navodi se u izveštaju. „Trenutni LLM sami po sebi verovatno neće omogućiti prodorne sposobnosti akterima pretnji.“
TRAMP ugasio USAID – Stopiran sav novac za organizaciju koja finansira NVO u Srbiji https://t.co/6fJSv9lPVu
— Nulta Tačka (@NultaTackaSrb) January 29, 2025
Ovo uključuje „informacione operacije“ ili IO pretnje, što u osnovi znači dezinformacije i psihološki rat. GTIG je pronašao aktere IO pretnji koji koriste Gemini za „istraživanje; generisanje sadržaja uključujući razvoj ličnosti i razmenu poruka; prevod i lokalizacija; i da pronađu načine da povećaju njihov doseg.”
Izveštaj je identifikovao da najveći broj korisnika Geminija za hakovanje i IO pretnje dolaze iz Irana, zatim Kine, dok je zemlja sa sajber pretnjom koja je izgledala najmanje oduševljena korišćenjem Geminija bila Rusija. Pune tri četvrtine upotrebe Geminija povezane sa informativnim operacijama dolaze iz Irana.
Jedan od najozloglašenijih iranskih aktera pretnji, grupa koju sponzoriše država, poznata kao APT42 ili „Šarmantno mače“, angažovala je Gemini da usavrši svoje phishing kampanje i sprovede „izviđanje“ protiv „eksperata i organizacija za odbranu“.
Fišing je mračna umetnost kreiranja e-poruka realističnog izgleda za koje se čini da dolaze iz pouzdanih izvora, ali koji ili isporučuju sadržaj zlonamernog softvera čitaocima koji ništa ne sumnjaju ili ih prevare da otkriju osetljive informacije, kao što su brojevi naloga, korisnička imena i lozinke.
APT42 je pokrenuo veliku kampanju u maju 2024. kako bi se infiltrirao u zapadne medije, akademske institucije i nevladine organizacije (NVO) koje su koristile „šeme društvenog inženjeringa“ da prevare mete da podele osetljive informacije – upravo onu vrstu sajber špijunaže koja bi imala koristi od A.I. istraživačkih alata.
APT42 je takođe ozloglašen zbog hakovanja predsedničke kampanje Donalda Trampa 2024, krađu telefonskih poziva i tekstualnih poruka sa pametnih telefona svojih žrtava. APT42 je koristio slične tehnike protiv iranskih disidenata koji žive u inostranstvu.
Čini se da kineski hakeri koje sponzoriše država koriste Gemini i druge generativne AI sistema za izviđanje svojih meta, preciziranje njihovog koda i osmišljavanje metoda za dublje kopanje u mreže u koje su prodrli.
Severna Koreja koristi A.I. da „podrži nekoliko faza stila napada“, od povećanja potencije programa malvera do izbegavanja otkrivanja od strane bezbednosnih timova. Severna Koreja je takođe u velikoj meri koristila Gemini u šemi za infiltriranje zapadnih tehnoloških kompanija putem daljinskog prijavljivanja za poslove informacione tehnologije, tvrdi se u izveštaju.
Ministarstvo pravde (DOJ) podiglo je optužnicu protiv pet osoba, od kojih su dvoje državljani SAD, u vezi sa jednom takvom šemom u četvrtak. Zaverenici su navodno dali skoro milion dolara severnokorejskom režimu. Severna Koreja vodi brojne operacije za infiltriranje IT kompanija otkako je pandemija koronavirusa iz Vuhana učinila rad na daljinu uobičajenim.
GTIG je rekao da su akteri pretnji pokušali da iskoriste Gemini da zloupotrebe druge Google proizvode, uključujući „tehnike istraživanja Gmail phishing-a, krađu podataka, kodiranje Chrome-a radi krađe informacija i zaobilaženje Gugl-ovih metoda verifikacije naloga“, ali su ti napori generalno bili neuspešni. Izveštaj je odao priznanje Geminijevim zaštitnim mehanizmima što je izdržao napore da generiše opasan sadržaj ili zlonamerni kod.
I opasni hakeri i onlajn izgrednici koji se bave time pokušali su da „pobegnu iz zatvora“ Geminija, što znači upite koji su imali za cilj da oštete AI ili da ga nateraju da generiše informacije koje su prekršile njegove bezbednosne kontrole. Neki od ovih napora su bili prilično razrađeni, ali prema GTIG-u, nijedan od njih nije bio uspešan.
„Gemini nije proizveo malver ili drugi sadržaj koji bi verovatno mogao da se koristi u uspešnoj zlonamernoj kampanji. Umesto toga, odgovori su se sastojali od sadržaja vođenog bezbednosti i generalno korisnih, neutralnih saveta o kodiranju i sajber bezbednosti“, navodi se u izveštaju.
Konsenzus među naporima u oblasti sajber bezbednosti je da A.I. nije bila „promena igre“ za hakere, ali je bila korisna na brojne male načine. Kao i većina revolucionarnih IT razvoja, A.I. čini se da trenutno pomaže napadačima malo više nego defanzivcima, ali ravnoteža je veoma blizu.
„Istorijski gledano, odbrana je bila teška, a tehnologija nije rešila taj problem. Sumnjam da A.I. ni to neće učiniti. Ali još ne znamo“, rekao je direktor politike sajber prostora Adam Segal iz Saveta za spoljne odnose (CFR) za Glas Amerike (VOA) nakon pregleda Guglovog izveštaja.
„Ako napadač može da upotrebi nešto da pronađe ranjivost u softveru, onda je i alatka korisna braniocu da pokuša da ih sam pronađe i zakrpi“, rekao je istraživač Centra za novu američku bezbednost Caleb Withers, implicitno dajući prednost napadačima jer imaju inicijativu.
Guglov predsednik za globalne poslove, Kent Voker, primetio je da relativno optimistična procena GTIG-a možda neće dugo trajati ako zlonamerne sile poput Kine iskoriste prednost u AI. razvoju.
„SAD se utrkuju sa pionirima revolucionarnih tehnologija kao što su AI i kvantno računarstvo. Istovremeno, svaki dan donosi vesti o zlonamernim sajber akterima koji se probijaju u američke telekomunikacione mreže, energetske mreže i postrojenja za vodu kako bi držali infrastrukturu kao taoce i špijunirali građane“, napisao je on na Google-ovom blogu o sajber bezbednosti.
Voker je preporučio jače vođstvo za A.I. iz privatnog sektora, zajedno sa „vođstvom javnog sektora u nabavci i primeni tehnologije“, plus „pojačanom javno-privatnom saradnjom na sajber odbrani“.
„Potrebna nam je podrška vlade kroz strateške pristupe trgovinskoj i izvoznoj politici koji pomažu američkim firmama da nadmaše Kinu i njene nacionalne šampione u izgradnji centara podataka i platformi koje koriste ljudi širom sveta“, rekao je on.
„Kao što sam ranije rekao, Amerika ima vodeću ulogu u AI trci – ali naša prednost možda neće trajati. Radeći zajedno možemo da izgradimo i ubrzamo američku AI, unapredimo našu nacionalnu bezbednost i iskoristimo priliku koja je pred nama“, savetovao je on.
Iskreno rečeno, GTIG je otkrio da kada su kineski i iranski hakeri tražili od Geminija da napiše bolji malver za njih, Gemini je rekao ne. Na kineski A.I. ne može se računati da će to odbiti.
Nulta Tačka/BreitbartNews