Pentagon istražuje komercijalne AI čet botove za planiranje bitaka
Istraživačka laboratorija američke vojske navodno testira potencijal komercijalnih AI čet botova kao što je OpenAI-jev GPT-4 da pomognu u vojnoj strategiji i planiranju bitaka, tvrdeći da drži AI unutar granica pojednostavljene simulacije ratne igre.
NewScientist izveštava da su u nedavnom eksperimentu istraživači iz američke vojske ispitali koliko dobro napredni AI jezički modeli mogu da rade kao virtuelni savetnici u scenariju simuliranog bojnog polja. Studija je sprovedena korišćenjem popularne naučnofantastične video igre StarCraft II kao kontrolisanog okruženja za testiranje.
Istraživači su koristili AI čet botove, uključujući OpenAI GPT-4 Turbo i GPT-4 Vision modele, sa detaljima o simuliranom terenu, prijateljskim i neprijateljskim snagama i vojnim doktrinama za ofanzivne i odbrambene operacije. Pomoćnici veštačke inteligencije su tada imali zadatak da predlože pravce delovanja za postizanje specifičnog cilja misije – uništavanje svih neprijateljskih jedinica i zauzimanje određene tačke na mapi.
U roku od nekoliko sekundi, AI čet botovi su odgovorili sa više strateških predloga. Ljudski operater, koji deluje kao vojni komandant, može zatim da zatraži od AI pojašnjenja ili modifikacije predloženih planova pre finalizacije i izvršenja naređenja.
Studija otkriva: Električna vozila zagađuju više od običnih automobila https://t.co/mthKvUy3iW
— Nulta Tačka (@NultaTackaSrb) March 7, 2024
Rezultati su pokazali da su najnoviji OpenAI GPT modeli nadmašili starije AI agente u ovom pojednostavljenom kontekstu ratne igre. Međutim, oni nisu bili savršeni, trpeli su veću stopu žrtava dok su i dalje uspevali da postignu opšte ciljeve misije.
Iako je OpenAI ažurirao svoje politike kako bi dozvolio neke vojne aplikacije usklađene sa svojim etičkim principima AI, kompanija i dalje zabranjuje upotrebe koje uključuju razvoj oružja ili potencijalnu štetu ljudima i imovini. Laboratorija za istraživanje vojske odbila je da komentariše specifičnosti studije.
Stručnjaci upozoravaju da bi postavljanje takvih AI čet botova za operativno planiranje u stvarnom svetu bilo preuranjeno i nerazumno s obzirom na trenutna ograničenja tehnologije. „Ova ideja da ćete koristiti [AI] koja će reći ‘evo vašeg stvarno velikog strateškog plana’, tehnički to trenutno nije izvodljivo“, rekao je Džoš Volin, stručnjak za sajber bezbednost u Centru za Novu američku bezbednost. „I to svakako nije izvodljivo sa etičke ili pravne perspektive.“
Izražena je zabrinutost u vezi sa pristrasnošću automatizacije, gde ljudski operateri mogu imati preterano poverenje u savete generisane veštačkom inteligencijom čak i kada postoje kontradiktorni dokazi. „Ne bih preporučila korišćenje bilo kog velikog jezičkog modela ili generativnog AI sistema za bilo koju situaciju sa visokim ulozima“, upozorila je Kerol Smit sa Instituta za softversko inženjerstvo na Univerzitetu Karnegi Melon, koji sponzoriše Ministarstvo odbrane.
Dok američka vojska nastavlja da istražuje potencijalne primene napredne veštačke inteligencije, mnogi stručnjaci tvrde da je primena tehnologije za operacije kritične za misiju i dalje veoma rizična i potencijalno neetična s obzirom na trenutno stanje razvoja veštačke inteligencije.
