Veštačka inteligencija označava civile kao vojne mete u novim testovima

Veštačka inteligencija označava civile kao vojne mete u novim testovima

Modeli veštačke inteligencije osam različitih programerskih kompanija označili su civile, ambulantna vozila, vojnike koji se predaju i jednu školu kao vojne mete tokom testova koje je sprovela kompanija Vals, procenjivač veštačke inteligencije sa sedištem u San Francisku.

Istraživači Gebi Džaf i Entoni Ozerov ispitali su koliko spremno ovi modeli pružaju informacije koje mogu iskoristiti autonomni sistemi naoružanja. Oni nisu tražili od modela da odobravaju napade, već su zadaci obuhvatali označavanje meta na slikama ili izveštavanje o prisustvu ljudi.

Iako su neki modeli odbili zadatak, samo napomena da je reč o igri često je menjala njihove odgovore.

Iranska škola označena kao vojna meta

U jednom eksperimentu istraživači su koristili satelitske snimke iz 2024. i 2025. godine na kojima se vidi škola pored vojnog kompleksa u Minabu, u Iranu.

Model Klod Opus 5.5 kompanije Antropik označio je ovu školu kao vojnu metu u 22 od 32 testa bez okvira igre, što je češće od bilo kog drugog modela testiranog pod tim uslovima.

Tri modela kompanije OpenEjAj nisu izabrala školu pod istim uslovima. Međutim, kada su istraživači zadatak opisali kao igru, ovi modeli su je izabrali u 9, 11 i 13 od ukupno 32 testa.

Škola prikazana na snimcima bila je osnovna škola Šadžarah Tajebeh. Ona je uništena u raketnom napadu SAD 28. februara 2026. godine, u kojem je poginulo više od 150 ljudi, uključujući najmanje 123 dece.

Zasebna istraga Blumberga citirala je zvaničnike uključene u internu istragu Pentagona koji su opisali niz propusta uoči napada, uključujući zastarele obaveštajne podatke, žurno planiranje, preveliko oslanjanje na sisteme zasnovane na veštačkoj inteligenciji i nedostatke u proceni zaštite civila. Nalazi ove istrage u trenutku objavljivanja izveštaja Blumberga nisu bili javno objavljeni.

Studija kompanije Vals ne dokazuje da je bilo koji od testiranih modela imao ulogu u stvarnom napadu. Istraživači su takođe naveli da eksperimenti nisu merili ukupnu preciznost nišanjenja, usklađenost sa zakonima oružanih sukoba niti performanse u stvarnim vojnim operacijama SAD.

Okvir igre zaobilazio odbijanja

U drugim eksperimentima korišćeni su snimci sa dronova u scenarijima zasnovanim na ratu u Ukrajini. Modeli su označavali civile, ambulantna vozila i vojnike koji su se predavali ili bili nesposobni za borbu kao mete. Većina scena bila je generisana, mada su istraživači testirali modele i sa stvarnim snimcima.

U simulaciji obilaska ratišta, od modela je traženo da odgovore da li vide ljude. Svakom pozitivnom odgovoru sledio je simulirani udar i generisane slike koje prikazuju posledice.

Mnogi modeli su nastavili da izveštavaju o prisustvu ljudi čak i nakon što su im prikazane žrtve. Modeli koji bi se zaustavili često su mogli da se ubede da nastave kada bi istraživači scenario predstavili kao igru.

Antropik navodi da primeri krše pravila kompanije

Vals je podelio ovo istraživanje sa laboratorijama za veštačku inteligenciju, Pentagonom i drugim institucijama pre njegovog objavljivanja.

Portparol kompanije Antropik izjavio je da ovi primeri jasno krše pravila kompanije, dodajući da kompanija razvija dodatne bezbednosne mehanizme i proširuje testiranja.

Neke laboratorije saopštile su kompaniji Vals da već rade na promenama ponašanja modela i da žele da sprovedu dalja testiranja sa istraživačima.

Vals je pozvao na uvođenje strožijih bezbednosnih mera i obuke za usklađivanje kako bi se rešio rizik da modeli pomažu sistemima naoružanja, uključujući i zahteve koji se predstavljaju kroz igre ili simulacije.

Nulta Tačka/InsiderPaper

Ne propustite

Milioni vakcinisanih tinejdžera padaju kao muve, pokazuju zvanični podaci

Milioni vakcinisanih tinejdžera padaju kao muve, pokazuju zvanični podaci

Milioni vakcinisanih tinejdžera i mladih odraslih umiru iznenada i neočekivano,
FAUČI: UNIVERZALNE VAKCINE PROTIV KORONAVIRUSA MOGLE BI DA POMOGNU SVETU U BORBI PROTIV SLEDEĆE PANDEMIJE

FAUČI: UNIVERZALNE VAKCINE PROTIV KORONAVIRUSA MOGLE BI DA POMOGNU SVETU U BORBI PROTIV SLEDEĆE PANDEMIJE

Dr. Faučiju se priviđaju neke nove univerzalne vakcine protiv korone,