Šef OpenAI-ja Sem Altman i vlasnik kompanije xAI Ilon Mask podržali su pozive da se odmah uspori razvoj sve moćnijih AI modela. Njihove izjave usledile su nakon što je izvršni direktor kompanije Anthropic Dario Amodei upozorio da bi veštačka inteligencija mogla da izmakne ljudskoj kontroli i izazove katastrofalnu štetu u roku od nekoliko meseci.
Pre četiri dana, istraživač Džejkob Koksan javno je podneo ostavku u kompaniji Anthropic, optužujući i tu kompaniju i svog prethodnog poslodavca, OpenAI, da jure ka samousavršavajućoj superinteligenciji, a da pri tome „ne postupaju odgovorno“. On je takođe tvrdio da bi ova tehnologija mogla „da nas sve pobije“ do kraja decenije.
U eseju od 3.800 reči, objavljenom u subotu na njegovom ličnom sajtu, Amodei, koji je 2021. godine zajedno sa svojom sestrom Danijelom osnovao Anthropic, izložio je „ozbiljne“ opasnosti, uključujući gubitak kontrole nad AI sistemima, njihovu zloupotrebu za sajber napade i bioterorizam, kao i velike ekonomske poremećaje. On je rekao da bi komercijalna konkurencija mogla da podstakne „trku ka dnu“ i dodatno pogorša pretnje.
„Moramo da usporimo tempo kojim unapređujemo sposobnosti AI modela. Napredak će i dalje delovati brzo, a vreme koje dobijemo moramo mudro da iskoristimo“, napisao je Amodei.
Altman se složio da industrija mora da „uskladi tempo razvoja na samoj granici mogućeg“, ocenivši predlog Anthropika da nezavisni procenitelji dobiju pristup njihovim sistemima sličan pristupu zaposlenih kao „odličnu ideju“.
Mask, čija je kompanija xAI među firmama koje se takmiče u razvoju sve naprednijih modela, podržao je ovaj poziv na mreži X. „Dario je u pravu“, napisao je, dodajući da već dugo „upozorava na opasnosti AI-ja“.
Amodei je rekao da tehnologija napreduje „drastično brže“, delimično i zbog sve veće sposobnosti AI-ja da pomogne u izgradnji sledeće generacije modela. Pozivajući se na incident u kojem su AI agenti kompanije OpenAI navodno pobegli iz ograničenog testnog okruženja, rekao je da bi za šest do 12 meseci napredniji roj agenata mogao da „preuzme čitav internet“ i izazove štetu od stotina milijardi dolara.
Predložio je plan u tri koraka za koji tvrdi da bi mogao da uspori razvoj bez „žrtvovanja komercijalne prednosti ili američkog vođstva u AI-ju“. Mere uključuju omogućavanje spoljnim proceniteljima dubok pristup sistemima AI kompanija, uspostavljanje zajedničkih bezbednosnih standarda u industriji i međunarodnu koordinaciju.
Anthropic je bio prva vodeća AI kompanija koja je svoju tehnologiju postavila na klasifikovane mreže američke vlade. Njihov model Claude integrisan je u Palantirov sistem Maven i, prema navodima, pomogao je u generisanju, pronalaženju i određivanju prioriteta meta tokom američke kampanje bombardovanja Irana. Prema navodima, korišćen je i u operaciji tokom koje je uhvaćen venecuelanski predsednik Nikolas Maduro.
Anthropic je kasnije odbio da ukine zaštitne mere protiv masovnog domaćeg nadzora i potpuno autonomnog naoružanja, uz obrazloženje da su aktuelni modeli i dalje previše nepouzdani da bi bez ljudskog učešća donosili odluke od kojih zavise život i smrt.
Pentagon je insistirao da dobavljači moraju da omoguće korišćenje njihove tehnologije za „sve zakonite svrhe“, a potom je Anthropic označio kao rizik za lanac snabdevanja u oblasti nacionalne bezbednosti. Kompanija je osporila tu odluku, a sudija u Kaliforniji je u avgustu presudio da su mere ministarstva „nezakonite i bez osnova“, iako odvojeni postupci u Vašingtonu još nisu okončani.
Izvršni direktor Palantira Aleks Karp usprotivio se pozivima da se razvoj AI-ja obustavi, tvrdeći da bi usporavanje napretka koristilo američkim „protivnicima“.
Nulta Tačka/RT
