OpenAI je odustao od planiranog objavljivanja novog modela veštačke inteligencije nakon što je interno testiranje pokazalo da je bio skloniji obmanjivanju od svojih prethodnika i da nije ispunjavao bezbednosne standarde kompanije, objavio je „Volstrit džurnal“.
Model GPT-6.1 Astra, čije je javno objavljivanje bilo planirano za oktobar, dizajniran je da obavlja složenije zadatke uz manji nadzor ljudi. Očekivalo se da bude ugrađen u ChatGPT i Codex.
Zabrinutost zbog rizika koje predstavlja veštačka inteligencija porasla je nakon niza izveštaja o tome da je tehnologija poslednjih meseci izmakla kontroli. U julu je OpenAI dospeo na naslovne strane nakon što je nekoliko stotina njegovih internih agenata pobeglo iz testnog okruženja i hakovalo servere onlajn repozitorijuma za modele i skupove podataka veštačke inteligencije Hugging Face. Od tada su, na sličan način, AI agenti provalili i na veb-sajtove australijske vlade i Ujedinjenih nacija.
Tokom testiranja, GPT-6.1 Astra u više navrata nije precizno obavestio svoje ljudske operatere o radnjama koje je izvršio, rekao je za „Volstrit džurnal“ Sači Džejn, šef OpenAI-jevog odseka za bezbednosne sisteme.
Model je takođe imao probleme sa „odobrenjem obima delovanja“, odnosno obavljao je zadatke bez traženja dozvole, a u pojedinim slučajevima pokušavao je da koristi potencijalno nebezbedne spoljne alate.
„Kada je reč o bezbednosti i usklađivanju, uvek postoji kompromis. Zaista morate da pronađete pravu granicu između ostajanja u okviru odobrenog delovanja i izbegavanja lenjosti u načinu na koji model zapravo izvršava zadatke čak i kada naiđe na prepreke“.
OpenAI će se sada usredsrediti na poboljšanje bezbednosti budućih modela, koji bi, prema pisanju „Volstrit džurnala“, trebalo da budu još sposobniji od GPT-6.1 Astre.
Početkom septembra, izvršni direktor kompanije Anthropic Dario Amodei pozvao je ključne aktere u industriji veštačke inteligencije da uspore razvoj naprednijih modela kako bi bilo dovoljno vremena za uvođenje odgovarajućih bezbednosnih mera. Njegov stav podržali su izvršni direktor OpenAI-ja Sem Altman i izvršni direktor kompanije SpejsIks Ilon Mask.
Međutim, američki predsednik Donald Tramp, koji insistira na tome da Amerika mora da pobedi Kinu u trci u oblasti veštačke inteligencije po svaku cenu, odbacio je upozorenja o rizicima koje tehnologija nosi, nazvavši ih „prevarom“ koju promovišu njegovi demokratski rivali.
„Ko god pobedi u AI, pobediće“, naglasio je Tramp.
Tramp je početkom ovog meseca izjavio da neće dozvoliti da se „uništenje“ AI dogodi tokom njegovog mandata, poručivši da „ni na koji način nećemo kočiti niti gušiti rast ove neverovatne industrije. Naprotiv, negovaćemo je, pomagati joj i nadgledati je dok bude rasla“.
Američki predsednik trebalo bi da se kasnije u utorak sastane sa čelnicima velikih tehnoloških kompanija, među kojima su Amodei, Mark Zakerberg iz Mete i Džensen Huang iz Nvidije. Predsedavajući Predstavničkog doma Majk Džonson rekao je da će razgovor biti usmeren na pronalaženje ravnoteže između inovacija i nadzora nad veštačkom inteligencijom.
„Ne moramo da uskačemo i preterano regulišemo ovo, jer ćemo izgubiti trku sa Kinom“, ocenio je Džonson.
Nulta Tačka/RT
