Ukrajina postaje poligon za razvoj robota ubica sa veštačkom inteligencijom
Na polju na periferiji Kijeva, osnivači Vyriy, ukrajinske kompanije dronova, nedavno su radili na oružju budućnosti.
Da bi to demonstrirao, Oleksij Babenko, 25, Virijev izvršni direktor, skočio je na svoj motocikl i otišao zemljanom stazom. Iza njega je usledio dron, dok je kolega pratio kretanje sa kompjutera veličine aktovke.
Do nedavno, čovek bi upravljao kvadrokopterom. Više ne. Umesto toga, nakon što je dron odredio svoju metu – gospodina Babenka – poleteo je sam, vođen softverom koji je koristio kameru mašine da ga prati.
Režući motor motocikla nije mogao da se meri sa tihim dronom dok je vrebao gospodina Babenka. „Guraj, guraj više. Stisni gas, čoveče“, povikale su njegove kolege preko voki-tokija dok je dron jurio prema njemu. „Sjeb*n si, sj*ban!“
Da je dron bio naoružan eksplozivom i da njegove kolege nisu isključile autonomno praćenje, gospodin Babenko bi nestao.
Vyriy je samo jedna od mnogih ukrajinskih kompanija koje rade na velikom iskoraku u naoružavanju ratne tehnologije, podstaknute ratom sa Rusijom. Pritisak da se nadmaši neprijatelj, zajedno sa ogromnim tokovima investicija, donacija i vladinih ugovora, pretvorio je Ukrajinu u Silicijumsku dolinu za autonomne dronove i drugo oružje.
Ono što kompanije stvaraju je tehnologija koja čini ljudski sud o ciljanju i pucanju sve tangencijalnijim. Široka dostupnost gotovih uređaja, softvera koji se lako dizajnira, moćnih algoritama za automatizaciju i specijalizovanih mikročipova sa veštačkom inteligencijom gurnula je smrtonosnu trku inovacija na neistraženu teritoriju, podstičući potencijalnu novu eru robota ubica.
Atmosfera ključa, pred nama su dani odluke | Branimir Nestorović | Mario Zna, 285 Uživo
Najnaprednije verzije tehnologije koja omogućava bespilotnim letelicama i drugim mašinama da deluju autonomno omogućene su dubokim učenjem, oblikom A.I. koji koristi velike količine podataka za identifikaciju obrazaca i donošenje odluka. Duboko učenje je pomoglo u generisanju popularnih velikih jezičkih modela, kao što je OpenAI-jev GPT-4, ali takođe pomaže da modeli tumače i reaguju u realnom vremenu na video i snimke kamere. To znači da softver koji je nekada pomogao dronu da prati snowboarder-a niz planinu sada može postati smrtonosno oruđe.
U više od deset intervjua sa ukrajinskim preduzetnicima, inženjerima i vojnim jedinicama, pojavila se slika bliske budućnosti kada rojevi samonavođenih dronova mogu da koordiniraju napade, a mitraljezi sa kompjuterskim vidom mogu automatski da obaraju vojnike. Neobičnije kreacije, poput bespilotnog helikoptera koji lebdi i ima mitraljeze, takođe se razvijaju.
Oružje je grublje od uglađenih stvari naučnofantastičnih blokbastera, poput „Terminatora“ i njegovog T-1000 ubice od tečnog metala, ali ono je korak ka takvoj budućnosti. Iako ovo oružje nije toliko napredno kao skupi vojni sistemi koje proizvode Sjedinjene Države, Kina i Rusija, ono što razvoj čini značajnim je njihova niska cena – samo hiljade dolara ili manje – i spremna dostupnost.
Osim municije, mnoga od ovih oružja su napravljena od koda koji se nalazi na mreži i komponenti kao što su računari za hobi, poput Raspberry Pi, koji se mogu kupiti u Best Buy-u i u prodavnici hardvera. Neki američki zvaničnici su izjavili da su zabrinuti da bi se te sposobnosti uskoro mogle iskoristiti za izvođenje terorističkih napada.
Za Ukrajinu, tehnologije bi mogle da obezbede napredak u borbi protiv Rusije, koja takođe razvija autonomne ubice gadžete — ili jednostavno da joj pomognu da održi korak. Sistemi podižu ulog u međunarodnoj debati o etičkim i pravnim posledicama A.I. na bojnom polju. Grupe za ljudska prava i zvaničnici Ujedinjenih nacija žele da ograniče upotrebu autonomnog oružja iz straha da bi ono moglo pokrenuti novu globalnu trku u naoružanju koja bi mogla izmaći kontroli.
U Ukrajini, takva zabrinutost je sekundarna u odnosu na borbu za zapadne interese.
Evo kako Sjedinjene Države nasilno guraju LGBTQ agendu širom sveta – Zvaničan izveštaj Stejt Department otkriva ubijanje tradicije drugih nacija https://t.co/UAGXkHIt4G
— Nulta Tačka (@NultaTackaSrb) July 9, 2024
„Potrebna nam je maksimalna automatizacija“, rekao je Mihail Fedorov, ukrajinski ministar digitalne transformacije, koji je predvodio napore zemlje da koristi tehnološke start-apove za proširenje naprednih borbenih sposobnosti. „Ove tehnologije su fundamentalne za našu pobedu.
Prema ukrajinskim zvaničnicima i video zapisu koji je potvrdio The New York Times, autonomne bespilotne letelice poput Virijeve već su korišćene u borbi za gađanje ruskih ciljeva. G. Fedorov je rekao da vlada radi na finansiranju kompanija za dronove kako bi im pomogla da brzo povećaju proizvodnju.
Glavna pitanja se postavljaju o tome koji nivo automatizacije je prihvatljiv. Za sada, bespilotne letelice zahtevaju od pilota da se zakači na metu, držeći „čoveka u petlji“ – fraza na koju se često pozivaju kreatori politike i AI etičari. Ukrajinski vojnici su izrazili zabrinutost zbog potencijala neispravnih autonomnih dronova da pogode sopstvene snage. U budućnosti, ograničenja za takvo oružje možda neće postojati.
Ukrajina je „brutalno razjasnila logiku zašto autonomno oružje ima prednosti“, rekao je Stjuart Rasel, AI naučnik i profesor na Kalifornijskom univerzitetu u Berkliju, koji je upozorio na opasnosti od naoružanja A.I. „Postojaće oružja za masovno uništenje koje je jeftino, skalabilno i lako dostupno na tržištima oružja širom sveta.
Silicijumska dolina dronova
U trošnoj radionici u stambenoj zgradi u istočnoj Ukrajini, Dev, 28-godišnji vojnik iz 92. jurišne brigade, pomogao je da se proguraju inovacije koje su jeftine dronove pretvorile u oružje. Prvo je zakačio bombe na trkačke bespilotne letelice, zatim dodao veće baterije kako bi im pomogao da lete dalje i nedavno je uključio noćni vid kako bi mašine mogle da love u mraku.
U maju je bio jedan od prvih koji je koristio autonomne dronove, uključujući i one iz Virija. Iako su neka potrebna poboljšanja, rekao je Dev, veruje da će to biti sledeći veliki tehnološki skok koji će pogoditi prve linije fronta.
Autonomni dronovi su „već u velikoj potražnji“, rekao je on. Mašine su bile posebno korisne protiv ometanja koje može prekinuti komunikacione veze između drona i pilota. Dok sam dron leti, pilot može jednostavno da se zaključa na metu i pusti uređaj da uradi ostalo.
Širom Ukrajine su se pojavile improvizovane fabrike i laboratorije za pravljenje mašina na daljinsko upravljanje svih veličina, od aviona velikog dometa i jurišnih čamaca do jeftinih kamikaza dronova — skraćeno F.P.V.s, za pogled iz prvog lica, jer ih vodi pilot koji nosi naočare nalik virtuelnoj stvarnosti koje pružaju pogled sa drona. Mnogi su prethodnici mašina koje će na kraju delovati same.
Napori da se automatizuju F.P.V. letovi su počeli prošle godine, ali su usporeni zbog neuspeha u izgradnji softvera za kontrolu leta, kaže g. Fedorov, koji je rekao da su ti problemi rešeni. Sledeći korak je bio povećanje tehnologije uz veću državnu potrošnju, rekao je on, dodajući da oko 10 kompanija već pravi autonomne dronove.
„Već imamo sisteme koji se mogu masovno proizvoditi i oni su sada opsežno testirani na prvim linijama fronta, što znači da se već aktivno koriste“, rekao je gospodin Fedorov.
Neke kompanije, poput Vyriy-a, koriste osnovne algoritme kompjuterskog vida, koji analiziraju i tumače slike i pomažu računaru da donese odluke. Druge kompanije su sofisticiranije, koriste duboko učenje za pravljenje softvera koji može da identifikuje i napada mete. Mnoge kompanije su rekle da su izvukle podatke i video zapise sa simulatora letenja i letova dronova na prvoj liniji.
Jedan ukrajinski proizvođač dronova, Saker, napravio je autonomni sistem ciljanja sa A.I. procesima prvobitno dizajniranim za sortiranje i klasifikovanje voća. Tokom zime, kompanija je počela da šalje svoju tehnologiju na prve linije, testirajući različite sisteme sa pilotima dronova. Potražnja je porasla.
Do maja, Saker je masovno proizvodio računare sa jednim kolom napunjene svojim softverom koji se lako mogao priključiti na F.P.V. bespilotne letelice kako bi mašine mogle automatski da se zaključaju na metu, rekao je izvršni direktor kompanije, koji je tražio da ga pominju samo po imenu Viktor, iz straha od odmazde Rusije.
Dron se zatim sruši u svoju metu „i to je to“, rekao je on. „Opire se vetru. Otporan je na ometanje. Samo treba da budete precizni sa onim što ćete pogoditi.“
Saker sada pravi 1.000 štampanih ploča mesečno i planira da se proširi na 9.000 mesečno do kraja leta. Nekoliko ukrajinskih vojnih jedinica već je pogodilo ruske ciljeve na prvim linijama fronta pomoću Sakerove tehnologije, navodi kompanija i video snimci koje je potvrdio Tajms.
U jednom snimku Saker tehnologije koji je podeljen na društvenim mrežama, dron leti iznad polja oštećenog granatiranjem. Kutija u sredini pilotove pretrage iznenada zumira rezervoar, ukazujući na bravu. Dron napada sam, eksplodirajući u bočnu stranu oklopa.
Saker je otišao dalje poslednjih nedelja, uspešno koristeći izviđački dron koji je identifikovao mete sa A.I. a zatim poslao autonomne dronove kamikaze za ubijanje, rekao je Viktor. U jednom slučaju, sistem je pogodio metu udaljenu 40km.
„Kada dođemo do tačke kada nemamo dovoljno ljudi, jedino rešenje je da ih zamenimo robotima“, rekao je Rostislav, suosnivač Sakera koji je takođe tražio da ga nazivaju samo imenom.
Minijaturizovani rat
U vrelom popodnevu prošlog meseca u istočnom ukrajinskom regionu poznatom kao Donbas, Jurij Kloncak, 23-godišnji rezervista, obučio je četiri vojnika da koriste najnovije futurističko oružje: topovsku kupolu sa autonomnim ciljanjem koja radi sa PlayStation kontrolerom i tabletom.
Govoreći o udarima granatiranja u blizini, gospodin Kloncak je objasnio kako pištolj, nazvan Volli po sličnosti sa Pikar robotom WALL-E, može automatski da zaključa metu udaljenu do 1.000 metara i skače između unapred programiranih pozicija da brzo pokrije veliku širinu oblasti. Kompanija koja proizvodi oružje, DevDroid, takođe je razvijala automatski praćenje cilja i pogađanje pokretnih ciljeva.
„Kada sam prvi put video pištolj, bio sam fasciniran“, rekao je gospodin Kloncak. „Shvatio sam da je to jedini način, ako ne da dobijemo ovaj rat, onda da barem zadržimo svoje pozicije.
Pištolj je jedan od nekoliko koji su se pojavili na prvim linijama koristeći softver obučen sa AI za automatsko praćenje i gađanje ciljeva. Ne razlikuje se od identifikacije objekata u kamerama za nadzor, softver na ekranu okružuje ljude i druge potencijalne mete digitalnom kutijom. Sve što je strelcu preostalo je da daljinski povuče okidač pomoću kontrolera za video igre.
Za sada, proizvođači oružja kažu da ne dozvoljavaju mitraljezu da puca a da čovek ne pritisne dugme. Ali takođe su rekli da bi bilo lako napraviti onaj koji bi mogao.
Mnoge ukrajinske inovacije se razvijaju kako bi se suprotstavile napredovanju ruskog naoružanja. Ukrajinski vojnici koji koriste mitraljeze su glavna meta ruskih napada dronom. Sa robotskim oružjem, nijedan čovek ne umire kada je pogođen mitraljez. Novi algoritmi, koji su još u razvoju, mogli bi na kraju da pomognu topovima da ispucaju ruske dronove sa neba.
Takve tehnologije, kao i sposobnost da se brzo naprave i testiraju na prvim linijama fronta, privukle su pažnju i ulaganja iz inostranstva. Prošle godine, Erik Šmit, bivši izvršni direktor Gugla, i drugi investitori osnovali su firmu pod nazivom D3 da ulažu u nove tehnologije na bojnom polju u Ukrajini. Druge odbrambene kompanije, kao što je Helsing, takođe se udružuju sa ukrajinskim firmama.
Ukrajinske kompanije se kreću brže od konkurenata u inostranstvu, rekla je Eveline Buchatskii, upravljački partner u D3, dodajući da kompanija traži od kompanija u koje investira van Ukrajine da posete zemlju kako bi mogle da ubrzaju svoj razvoj.
„Ovde postoji samo drugačiji skup podsticaja“, rekla je ona.
Često zahtevi na bojnom polju okupljaju inženjere i vojnike. Oleksandr Jabčanka, komandant Da Vinci Volvesa, bataljona poznatog po svojim inovacijama u oružju, priseća se kako se ruta koja se koristila za snabdevanje trupa koje se bore protiv Rusa duž istočne linije fronta u Bahmutu bila opasna. Zamišljajući rešenje, na Fejsbuku je objavio otvoreni zahtev za kompjuterizovani mitraljez na daljinsko upravljanje.
Za nekoliko meseci, gospodin Jabčanka je imao radni prototip iz firme Roboneers. Mitraljez je skoro odmah pomogao njegovoj jedinici.
„Mogli bismo da sedimo u rovu, pijemo kafu i pušimo cigarete i pucamo na Ruse“, rekao je on.
Rešenje g. Jabčanke je kasnije pomoglo Roboneersima da razviju novu vrstu oružja. Kompanija je postavila kupolu mitraljeza na bespilotni letelicu koja se kotrlja kako bi pomogla trupama da izvrše napade ili brzo promene položaje. Aplikacija je dovela do veće potrebe za automatskim nišanom na bazi AI, rekao je izvršni direktor Roboneersa Anton Skripnik.
Slična partnerstva su podstakla druge pomake. Na poligonu za bespilotne letelice u maju, Svarmer, druga lokalna kompanija, održala je video poziv sa vojnom jedinicom kako bi provela vojnike kroz ažuriranja svog softvera, što omogućava bespilotnim letelicama da vrše napade bez pilota.
Softver kompanije Svarmer, koji je prošle godine formirao bivši inženjer Amazona, Serhii Kupriienko, izgrađen je na A.I. modelu koji je obučen sa velikim količinama podataka o misijama dronova na prvoj liniji. Omogućava jednom tehničaru da upravlja sa do sedam dronova u misijama bombardovanja i izviđanja.
Nedavno je Svarmer dodao sposobnosti koje mogu da usmere kamikaze napadajuće dronove do 56km. Nadamo se da će softver, koji se testira od januara, smanjiti broj ljudi potrebnih za upravljanje minijaturizovanim vazdušnim snagama koje dominiraju na linijama fronta.
Tokom demonstracije, inženjer Svarmera za kompjuterom je posmatrao mapu dok je šest autonomnih dronova zujalo iznad glave. Jedan za drugim, veliki dronovi bombarderi leteli su iznad potencijalne mete i bacali flaše sa vodom umesto bombi.
Neki piloti dronova se plaše da će biti potpuno zamenjeni tehnologijom, rekao je Kuprijenko.
„Kažu: ’O, leti bez nas. Oduzeće nam daljinske upravljače i staviti oružje u naše ruke“, rekao je on, misleći na uverenje da je bezbednije upravljati dronom nego zauzimati rov na frontu.
„Ali ja kažem, ne, sada ćete moći da letite sa pet ili 10 dronova u isto vreme“, rekao je on. „Softver će im pomoći da se bolje bore.”
2017. g. Rasel, Berkli A.I. istraživač, objavio je onlajn film „Slaughterbots“, upozoravajući na opasnosti od autonomnog oružja. U filmu, lutajući paketi jeftinih naoružanih AI dronova koriste tehnologiju prepoznavanja lica da love i ubijaju mete.
Ono što se dešava u Ukrajini pokreće nas ka toj distopijskoj budućnosti, rekao je gospodin Rasel. Već ga, kako je rekao, progone ukrajinski video snimci vojnika koje progone naoružani dronovi kojima upravljaju ljudi. Često postoji trenutak kada vojnici prestanu da pokušavaju da pobegnu ili se sakriju jer shvate da ne mogu da pobegnu od drona.
„Nemaju gde da odu, pa samo čekaju da umru“, rekao je gospodin Rasel.
On nije jedini u strahu da je Ukrajina prekretnica. U Beču su članovi panela eksperata UN-a takođe rekli da su zabrinuti zbog posledica novih tehnika koje se razvijaju u Ukrajini.
Zvaničnici su proveli više od decenije raspravljajući o pravilima o upotrebi autonomnog oružja, ali malo njih očekuje da će bilo koji međunarodni sporazum postaviti nove propise, posebno pošto se Sjedinjene Države, Kina, Izrael, Rusija i drugi utrkuju u razvoju još naprednijeg oružja. U jednom američkom programu objavljenom u avgustu, poznatom kao inicijativa Replikator, Pentagon je rekao da planira masovnu proizvodnju na hiljade autonomnih dronova.
„Geopolitika to čini nemogućim“, rekao je Aleksandar Kment, glavni austrijski pregovarač o autonomnom oružju u UN. „Ovo oružje će se koristiti i koristiće se u vojnom arsenalu skoro svih“.
Niko ne očekuje da zemlje prihvate potpunu zabranu takvog oružja, rekao je on, „ali ono bi trebalo da bude regulisano na način da ne završimo sa scenarijem apsolutne noćne more“.
Grupe uključujući Međunarodni komitet Crvenog krsta zalagale su se za pravno obavezujuća pravila koja zabranjuju određene vrste autonomnog oružja, ograničavaju upotrebu drugih i zahtevaju nivo ljudske kontrole nad odlukama o upotrebi sile.
Za mnoge u Ukrajini, debata je akademska. Oni su nadjačani.
„Prvo moramo da pobedimo“, rekao je gospodin Fedorov, ministar digitalne transformacije. „Da bismo to uradili, učinićemo sve što možemo da uvedemo automatizaciju do maksimuma kako bismo spasili živote naših vojnika“, kojih je sve manje, a svedoci smo video snimaka o nasilnoj regrutaciji na ulicama Ukrajine.
