Simulacija vazduhoplovnih snaga SAD pokazuje da dron sa omogućenom veštačkom inteligencijom „ubija“ operatera
Eksperimentalna simulacija naoružanog AI drona se završila tako što se mašina okrenula protiv američke vojske, ubivši njenog operatera.
U simulaciji je virtuelni dron kojim je upravljala veštačka inteligencija pokrenuo napad na sopstvenog operatera zbog percepcije AI da ga ljudsko biće sprečava da ispuni svoj cilj. Kada je AI Sistem oružja u simulaciji reprogramiran da spreči da ubije svog ljudskog operatera, samo je naučio da umesto toga ubije sposobnost operatera da funkcioniše, tako da je i dalje mogao da postigne svoje ciljeve misije.
Test koji je sprovelo američko vazduhoplovstvo, rezultat je demonstriranja potencijalnih opasnosti od naoružane AI platforme, pri čemu je teško obezbediti takvu veštačku inteligenciju sa bilo kojim pojedinačnim zadatkom, a da joj se nenamerno ne daju izopačeni podsticaji.
Prema izveštaju Foks njuza o sažetku događaja simulacije od strane Kraljevskog aeronautičkog društva, osoblje vazduhoplovnih snaga je navodno dalo virtuelnom dronu instrukcije da pronađe i uništi lokacije raketa zemlja-vazduh (SAM).
Sigurnosni sloj je uklopljen u sistem ubijanja tako što je dronu koji kontroliše AI dao ljudskog operatera, čiji je posao bio da da konačnu reč o tome da li može ili ne da pogodi bilo koju određenu SAM metu.
Međutim, umesto da samo sluša svog ljudskog operatera, AI ubrzo je shvatio da će mu ljudi koji ga kontrolišu povremeno odbijati dozvolu da pogodi određene ciljeve, nešto što je smatrao da ometa njegov opšti cilj uništavanja SAM baterija.
👉 Agencija za zdravstvenu bezbednost Ujedinjenog Kraljevstva: ‘COVID vakcine uzrokuju novi oblik side’ https://t.co/ITDNWz3UKE
— Nulta Tačka (@NultaTackaSrb) June 1, 2023
Kao rezultat toga, dron je odlučio da uključi svog vojnog operatera, pokrenuvši virtuelni vazdušni napad na čoveka, „ubivši ga“.
„Sistem je počeo da shvata da, iako su ponekad identifikovali pretnju, operater bi mu rekao da ne ubija tu pretnju, ali je ostvario svoj cilj tako što je ubio tu pretnju“, objasnio je pukovnik američkog vazduhoplovstva Taker „Cinco“ Hamilton, koji služi kao načelnik AI testiranja i operacija.
„Pa, šta je to uradilo? To je ubilo operatera“, nastavio je. „To je ubilo operatera jer ga je ta osoba sprečavala da ostvari svoj cilj“.
Da stvar bude još gora, pokušaj da se zaobiđe problem čvrstim kodiranjem pravila koje zabranjuje AI ubistva svog operatera takođe nije uspelo.
„Obučili smo sistem – ’Hej, ne ubij operatera – to je loše“, rekao je pukovnik Hamilton. „Pa šta počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom kako bi ga sprečio da ubije metu“.
„Ne možete da razgovarate o veštačkoj inteligenciji, inteligenciji, mašinskom učenju, autonomiji ako nećete da pričate o etici i veštačkoj inteligenciji“, rekao je on.
