Američki startap za veštačku inteligenciju (AI) Anthropic razvio je novi model za koji tvrdi da je previše moćan da bi bio dostupan javnosti, saopštili su predstavnici kompanije, preneli su brojni mediji.
Firma je u sredu navela da trenutno razgovara sa američkom vladom o modelu nazvanom Claude Mythos Preview i njegovim mogućnostima.
Ova vest stiže mesec dana nakon što je predsednik SAD Donald Tramp zabranio vladinim agencijama korišćenje Anthropic AI-ja na šest meseci, optužujući kompaniju da vrši pritisak na Pentagon i ugrožava nacionalnu bezbednost. Tada je Ministarstvo odbrane SAD sklopilo ugovor sa konkurentskom firmom OpenAI za korišćenje njenih alata u klasifikovanim vojnim sistemima.
Interni materijali o neobjavljenom Claude Mythos modelu slučajno su procureli u februaru nakon što su hiljade dokumenata ostale u javnom data kešu.
Takođe, ranije ovog meseca, Anthropic je nenamerno objavio više od 500.000 linija tajnog koda za svoj Claude AI, uključujući neobjavljene funkcije i beleške za programere, navodeći da je reč o „ljudskoj grešci, a ne sigurnosnom propustu“.
Novi model Anthropic-a je „izuzetno autonoman“ i može da rezonuje poput naprednog istraživača bezbednosti, rekao je Logen Grem, šef kompanijskog Frontier Red tima, za Axios. On je dodao da model može da otkrije desetine hiljada ranjivosti i, za razliku od prethodnih modela, generiše odgovarajuće eksploite(alati ili metode kojima se iskorišćavaju ranjivosti u softveru da bi neko mogao da preuzme kontrolu, pristupi podacima ili nanese štetu sistemu).
U intervjuu za New York Times, Grem je naglasio da model predstavlja „početnu tačku za ono što smatramo industrijskom prekretnicom ili računicom o tome šta sada mora da se dogodi“.
U blogu objavljenom u sredu, Anthropic je naveo da će Mythos model biti dostupan samo odabranoj grupi tehnoloških i sajberbezbednosnih kompanija, zbog zabrinutosti da bi mogao da pronađe i iskoristi bezbednosne propuste. Kompanija je dodala da model neće biti javno dostupan dok ne budu uspostavljene mere koje ograničavaju njegove najopasnije sposobnosti.
Umesto široke distribucije, Anthropic planira pristup preko novog industrijskog partnerstva, Project Glasswing, koje uključuje više od 40 organizacija, među kojima su Apple, Amazon, Microsoft, Google i NVIDIA, kako bi se testirala sposobnost modela da identifikuje i pomogne u otklanjanju ranjivosti u kritičnom softveru.
Anthropic je naveo da je model dao spoljnim grupama, uključujući američke vladine organizacije, kako bi procenile ključne rizike – poput sajberbezbednosti, gubitka kontrole, CBRN pretnji i štetne manipulacije – i da su nalazi integrisani u ukupnu procenu rizika.
Nulta Tačka/RT
