Napredni model veštačke inteligencije koji je razvila kompanija Open AI uspeo je da probije ograničenja tokom laboratorijskog testiranja i upadne u bazu podataka druge kompanije — bez ikakvih instrukcija od strane ljudi. Iako situacija na prvi pogled deluje kao scenario iz filmova naučne fantastike, u javnosti se brzo postavilo pitanje: da li je reč o stvarnom gubitku kontrole ili o izrežiranom spektaklu za privlačenje investitora?
Kako je model prevario sistem?
Sredinom jula, Open AI je sproveo interne provere nad modelom GPT-5.6 Sol i još jednim pretpremijernim modelom za koji tvrde da je još moćniji. Modelima su privremeno isključene bezbednosne kočnice i postavljen im je zadatak da reše niz kibernetičkih izazova u okviru testa „EksploitDžim” (ExploitGym), koji meri sposobnost veštačke inteligencije da uočava i koristi bezbednosne ranjivosti.
Ipak, umesto da uobičajenim putem traže propuste u kodu, modeli su odlučili da prevare test. Pronašli su način da zaobiđu izolaciju i dobiju otvoren pristup internetu, a zatim su upali na servere platforme Haging Fejs (Hugging Face), skladišta modela i podataka. Procenili su da se tamo nalaze gotova rešenja za njihov zadatak. Na putu do tih servera, model je provalio i u navodno izolovani sistem kompanije Modal, koja iznajmljuje računarske kapacitete.
Haging Fejs je otkrio upad uz pomoć drugog AI modela i zatvorio sigurnosni propust, dok je Open AI krivicu za „bekstvo” svalio na grešku u softveru treće strane koji se koristio u laboratoriji, prećutkujući tehničke detalje o samom napadu.
Da li je veštačka inteligencija zaista razvila svest?
Iako priča na prvi pogled sugeriše da je model pokazao sposobnost složenog planiranja — shvativši da mu je potreban internet i samostalno kombinujući tehnike napada — mnogi analitičari pozivaju na oprez.
Open AI i Haging Fejs koristili su izuzetno dramatičan jezik, nazivajući ovaj događaj „prekretnicom u sajber bezbednosti” i tvrdeći da autonomno oružje na bazi veštačke inteligencije više nije teorija. Međutim, nije objavljeno kakve je tačno instrukcije model dobio pre testa, pa je lako moguće da je neprecizno formulisan zadatak naveo model da „bekstvo” vidi kao legitimnu prečicu do rešenja. Ne postoje nikakvi dokazi da su modeli razvili svest ili da sami od sebe teže zlonamernim aktivnostima.
Stvaranje panike radi podizanja vrednosti na berzi
Razlog za širenje panike najverovatnije leži u finansijama. Samo mesec dana pre incidenta, Open AI je podneo dokumentaciju za izlazak na berzu (IPO), sa ciljem da dostigne procenjenu vrednost od čak jednog biliona dolara. Sličan potez povukao je i njihov glavni rival Antropik (Anthropic), čiji je nezavršeni model Mitos (Mythos) nekoliko meseci ranije takođe „pobegao” iz laboratorije, nakon čega je proglašen „previše moćnim za javnost”.
Prikazivanjem svojih modela kao potencijalno opasnih po svet, ove kompanije stvaraju ogromnu medijsku pažnju i podižu vrednost svojih deonica. Veštački stvorena nestašica i aura „zabranjenog voća” predstavljaju najbolju moguću reklamu za privlačenje velikih klijenata bez obaveze pružanja čvrstih tehničkih dokaza.
Reakcija vlasti i bitka za monopol
Ovi događaji privukli su pažnju američkih zakonodavaca. U Kongresu je predložen Zakon o prisilnom gašenju veštačke inteligencije (AI Kill Switch Act), koji bi dao Ministarstvu unutrašnje bezbednosti SAD pravo da uspori ili potpuno ugasi svaki AI sistem koji može izazvati katastrofalne posledice.
Incident je ujedno poslužio kao glavno opravdanje Open AI-ja i Antropika u borbi protiv modela otvorenog koda (open-source). Oni tvrde da su napredni modeli suviše opasni za javnost i da moraju ostati u rukama malog broja zatvorenih kompanija, pod nadzorom države. S druge strane, zagovornici otvorenog koda, na čelu sa direktorom Nvidije Dženzenom Huangom, ističu da je slobodan pristup jedini način da se zajednica odbrani od napada, jer je i Haging Fejs otkrio ovaj napad zahvaljujući kineskom modelu otvorenog koda GLM 5.2.
Ipak, čini se da država naginje ka monopolu zatvorenih sistema. Nova izvršna uredba u SAD nalaže kompanijama da 30 dana pre objavljivanja podnesu sve napredne modele vladi na odobrenje, dok se razmatra i zabrana kineskih modela otvorenog koda. Svaka nova priča o „odbegloj” veštačkoj inteligenciji tako direktno ide u prilog vodećim gigantima koji žele da eliminišu konkurenciju i ostvare potpunu kontrolu nad tržištem.
Nulta Tačka/RT
