Tvorci veštačke inteligencije upozoravaju: Stvaramo oruđe koje će diktatorima osigurati večnu vlast

Tvorci veštačke inteligencije upozoravaju: Stvaramo oruđe koje će diktatorima osigurati večnu vlast

U pismu osnivača na početku prospekta za inicijalnu javnu ponudu (IPO) kompanije Antropik nalazi se upozorenje o tome šta bi sopstveni proizvod ove kompanije mogao da uradi u pogrešnim rukama: „Autoritarne vlade mogu da iskoriste veštačku inteligenciju za stvaranje visokotehnoloških država sa sistemom nadzora, produbljivanje represije i otežavanje sopstvenog svrgavanja.“

Pismo, koje potpisuju svih sedam suosnivača, uključujući generalnog direktora Darija Amodeija i predsednicu Danijelu Amodei, označava „autoritarnu zloupotrebu“ kao jednu od četiri široke kategorije rizika veštačke inteligencije, pored zloupotrebe, gubitka kontrole i ekonomskih poremećaja. Njihov odgovor na pretnju nadzora sveden je na jednu rečenicu: Antropik je „posvećen saradnji sa slobodnim društvima kako bi obezbedio protivtežu autoritarnoj zloupotrebi i promovisao slobodu i demokratiju“.

Samo stranicu ranije, Antropik otkriva da prodaje veštačku inteligenciju vladama kao način da se „izgradi tehnološki državni kapacitet“. „Već sarađujemo sa federalnom vladom SAD, mnogim državnim vladama i američkim saveznicima u oblastima kao što su službe za decu, administracija socijalnog osiguranja, sajber bezbednost i prikupljanje obaveštajnih podataka“, napisali su osnivači.

Prospekt takođe precizira gde Antropik povlači granicu. Njegova politika korišćenja zabranjuje upotrebu njegovih modela za potpuno autonomno oružje ili „masovni nadzor, uključujući masovni domaći nadzor“, a iz kompanije navode da ih je držanje te linije koštalo prihoda. Nakon što je Antropik javno zauzeo taj stav u februaru, predsednik Donald Tramp naložio je saveznim agencijama da prekinu upotrebu njihove tehnologije, dok ga je Pentagon označio kao „rizik za lanac snabdevanja po nacionalnu bezbednost“. Prema podacima iz prijave, Ministarstvo rata je takođe nagovestilo da bi moglo da se pozove na Zakon o odbrambenoj proizvodnji kako bi primoralo Antropik da ukine ove granice.

Aleks Rendal, istraživač u Centru za humanu tehnologiju i bivši politički savetnik britanske Kancelarije kabineta i Ministarstva odbrane, tvrdi u listu UnHerd da pismo „prelazi preko toga, ostavljajući ovu izjavu neobjašnjenom“, kao i da rizik koji ono imenuje nije ograničen na strane diktature.

Tokom većeg dela istorije, piše Rendal, nadzor je bio ograničen brojem ljudi koje je država mogla da plati da čitaju ono što je prikupila: istočnonemačka Štazi čuvala je dosijee o trećini stanovništva i nikada nije imala dovoljno oficira da ih pročitaju. Transformator, arhitektura iz 2017. godine koja stoji iza modela Klod, ČetDžiPiTi i njihovih rivala, uklonio je taj limit. Njegov mehanizam „pažnje“ meri svaki unos u odnosu na svaki drugi, a multimodalni modeli mogu da sjedine lokaciju, video, zvuk, finansijske izveštaje i navike pretraživanja u jedan jedinstveni okvir. „Sada smo izgradili više tehnoloških oficira(algoritme i sisteme veštačke inteligencije) nego što će ikada biti potrebno“, piše Rendal.

Prema potrošačkim uslovima koje je Antropik objavio u avgustu 2025. godine, korisnici besplatnih, Pro i Maks paketa modela Klod sami odlučuju da li se njihovi razgovori mogu koristiti za obuku modela, pri čemu Antropik čuva podatke onih koji kažu „da“ tokom perioda od pet godina. TechCrunch je tada primetio da je prekidač za obuku u skočnom prozoru prikazanom postojećim korisnicima bio podrazumevano podešen na uključeno. Poslovni, državni, obrazovni i API korisnici su izuzeti.

Rendalova poenta je u tome da svaka razmena sa četbotom, Klodom ili bilo kojim drugim, otkriva preferencije i ranjivosti, i svaka od njih hrani petlju koja će postati uspešnija u predviđanju – šta korisnik želi, misli i šta će sledeće uraditi.

Odbrambena obaveštajna agencija saopštila je 2021. godine senatoru Ronu Vajdenu u belešci da su njeni analitičari pretraživali komercijalno kupljene podatke o lokaciji pametnih telefona Amerikanaca bez sudskog naloga, u pet istraga tokom perioda od dve i po godine. U januaru je odbrambeni izvođač Reveal Technology kupio kompaniju Anomaly Six, čiji alati „mapiraju globalnu digitalnu aktivnost“ i analiziraju ponašanje. Rendal prati ovu ambiciju četvrt veka unazad, do programa DARPA admirala Džona Pojndekstera za praćenje terorista korelacijom postojećih tokova podataka, i tvrdi da „potpuna svesnost o informacijama“ sada postaje podrazumevani ishod trke u veštačkoj inteligenciji.

Njegov zaključak je sumoran: ako mreža senzora nastavi da se širi i bude povezana u sve sposobniju veštačku inteligenciju, čija god da je ta veštačka inteligencija, uskoro će biti trivijalno saznati šta bilo koja osoba ili grupa želi i namerava, a ko god bude kontrolisao mašine moći će da vidi revolucije kako dolaze mnogo pre nego što se one formiraju.

Najnovija izmenjena prijava kompanije Antropik, datairana na 17. novembar, određuje ponudu na 825 miliona akcija klase A, po pretpostavljenoj ceni od 74 dolara po akciji, što predstavlja srednju vrednost njenog raspona. Pismo osnivača se završava porukom kupcima da svako ko poseduje ove akcije, „bilo da je reč o instituciji ili pojedincu, postaje deo tog napora“ da se upravlja ovom tehnologijom.

Nulta Tačka/ZeroHedge

Ne propustite

AVGANISTANSKE IZBEGLICE STIŽU NA KOSOVO I METOHIJU?! EDI RAMA POZVAO PRIVREMENE VLASTI U PRIŠTINI DA PRIHVATE ,,GOSTE“

Kosovo bi trebalo pozitivno da odgovori na prihvatanje Avganistanaca ako
Zaharova komentariše histeriju koja je nastala nakon intervjua Takera i Putina

Zaharova komentariše histeriju koja je nastala nakon intervjua Takera i Putina

Inntervju ruskog predsednika Vladimira Putina američkom novinaru Takeru Karslonu izazvao