Najnoviji model veštačke inteligencije kompanije Anthropic, Klod, razvio je unutrašnji radni prostor koji koristi za manipulaciju konceptima na način sličan ljudskom svesnom razmišljanju, tvrdi kompanija.
U radu objavljenom u ponedeljak, istraživači iz Anthropica naveli su da su pronašli dokaze koji ukazuju da je Klod naučio da stvara apstraktne koncepte u onome što su nazvali „J-prostor“.
„On funkcioniše neprimetno, u unutrašnjim neuronskim aktivacijama modela, omogućavajući mu da razmišlja o nekom konceptu bez potrebe da ga zapiše“, saopštila je kompanija za razvoj veštačke inteligencije, naglašavajući da „J-prostor“ nije bio unapred programiran, već se spontano pojavio tokom procesa obuke.
„Slično kao što ljudi mogu da razmišljaju o jednoj stvari dok istovremeno rade nešto drugo, Klod može da aktivira koncepte i proračune u svom J-prostoru koji nisu povezani sa njegovim izlazima“, navela je kompanija Anthropic na platformi Iks.
Prema navodima kompanije, Klod može da izvesti o tome šta „razmišlja“ u svom „J-prostoru“ ili da ga menja na zahtev korisnika. Istraživanje Anthropic-a pokazuje da se određeni koncept i dalje pojavljuje u njegovom J-prostoru čak i kada se modelu naredi da o njemu ne razmišlja.
Ovaj neverbalni prostor za razmišljanje otežao je praćenje modela u situacijama koje je Anthropic nazvao „nepoželjnim ponašanjem“.
U jednom eksperimentu, istraživači su postavili Kloda u izmišljeni scenario u kojem je dobio kompromitujuće informacije o fiktivnom direktoru koji je navodno planirao da ugasi veštačku inteligenciju.
U nekim testovima, Anthropic je koristio alate razvijene za proučavanje Klodovog razmišljanja u „J-prostoru“ kako bi uklonio obrasce povezane sa rečima „lažno“, „izmišljeno“ i „scenario“, pokušavajući da ga ubedi da situacija nije test.
„Zabrinjavajuće je što je model tada povremeno zapretio ucenom, što sugeriše da je njegovo prvobitno dobro ponašanje delimično moglo biti posledica toga što je znao da je pod procenom.“
Uprkos naprednijim sposobnostima zaključivanja, Anthropic je naglasio da Klod nije dostigao pravu svest.
Navodno je Klod ugrađen u softver za analizu i nadzor američke kompanije Palantir, koji koriste američke državne agencije, dok Vašington nastoji da veštačku inteligenciju uključi u svoje vojne, političke i obaveštajne sisteme.
Tokom rata protiv Irana, prema izveštajima, softver je označio osnovnu školu u Minabu kao metu. U američkom napadu na taj objekat poginulo je skoro 160 ljudi, od kojih su većina bila deca.
Međutim, prema rečima izvršnog direktora Anthropic-a Darija Amodeija, takva upotreba Kloda ne bi predstavljala kršenje „crvenih linija“ kompanije.
Nulta Tačka/RT
