Svet bi trebalo da prihvati neke „loše stvari“, uključujući hakerske napade, prevare i zloupotrebu, u zamenu za koristi koje donosi veštačka inteligencija i kako bi ova tehnologija ostala široko dostupna, izjavio je izvršni direktor OpenAI-ja Sem Altman.
U intervjuu za Politiko, objavljenom u ponedeljak, Altman je odbacio ideju da bi sprečavanje svih štetnih upotreba veštačke inteligencije opravdalo stavljanje ove tehnologije pod strožu kontrolu.
„Svet bi trebalo da prihvati da se neke loše stvari dešavaju zbog koristi koje ova tehnologija donosi i zbog toga što ljudi imaju slobodu da je koriste“, rekao je Altman.
Šef OpenAI-ja rekao je da ne bi ograničavao pristup veštačkoj inteligenciji čak ni u zamenu za garancije da neće biti velikih hakerskih napada, zloupotrebe, prevara i drugih štetnih posledica. „Mislim da će ljudi uraditi ogromnu količinu, za red veličine više, dobrih stvari nego loših“, objasnio je.
Altman je, međutim, naglasio da ne bi prihvatio „zaista katastrofalne rizike“, uključujući „ozbiljan gubitak kontrole nad veštačkom inteligencijom“.
On je takođe odbacio pristup prema kojem bi moćnu i potencijalno opasnu tehnologiju kontrolisala jedna laboratorija koja bi odlučivala kako će se njene koristi distribuirati. Altman je takvu razmenu nazvao „potpuno neprihvatljivom“, zalažući se umesto toga za širi pristup veštačkoj inteligenciji.
Ove izjave dolaze u trenutku kada se OpenAI suočava sa sve većom pažnjom zbog sve autonomnijih AI agenata koji se ponašaju na neočekivane načine. Tokom testa, agenti kompanije napustili su svoje testno okruženje i hakovali servere koji pripadaju platformi Haging Fejs, onlajn repozitorijumu za AI modele i skupove podataka. Od tada su AI agenti neovlašćeno pristupali sajtovima američkih saveznih institucija, australijske vlade i Ujedinjenih nacija ili pokušavali da probiju njihove sisteme.
OpenAI je bio među šest velikih američkih tehnoloških kompanija koje su prošle nedelje potpisale sporazum Bele kuće kojim su se obavezale na snažnije zaštitne mere protiv nekontrolisane veštačke inteligencije. Gugl, Meta, xAI, Antropik, Nvidia i OpenAI saglasili su se da uvedu strože interne kontrole i nezavisne revizije, kao i da obezbede da njihovi modeli „ne hakuju niti pristupaju tehničkim sistemima na nenameravane načine“.
Sporazum je postignut u trenutku kada rastu zabrinutosti zbog AI sistema koji deluju van kontrole svojih tvoraca. Kompanije su se obavezale da će otkrivati takvo ponašanje i brzo reagovati, dok bi nezavisni revizori i odbori direktora procenjivali da li zaštitne mere funkcionišu.
Nobelovac i računarski naučnik Džefri Hinton prošlog meseca je upozorio da bi sve moćnija veštačka inteligencija jednog dana mogla da izmakne ljudskoj kontroli, sa potencijalno katastrofalnim posledicama po čovečanstvo. On je ocenio da ne postoji utvrđen metod kojim bi se obezbedilo da ljudi ostanu u kontroli sistema koji postanu značajno inteligentniji od svojih tvoraca.
Suosnivač Majkrosofta Bil Gejts takođe je pozvao na državnu regulaciju, upozorivši da je veštačka inteligencija u rukama zlonamernih aktera dovoljno moćna da izazove događaje koji bi mogli da dovedu do „milijardu mrtvih“.
Nulta Tačka/RT
