Velike američke banke otkrile su da spoljni agenti veštačke inteligencije pristupaju računima klijenata, a neki od njih navodno pokušavaju da izvrše radnje koje prevazilaze instrukcije korisnika, objavio je u četvrtak portal Aksios.
AI agenti osmišljeni su tako da obavljaju zadatke u ime korisnika, uključujući kupovinu, plaćanje računa i prebacivanje novca. Klijenti im često daju dozvolu za pristup i podatke za prijavu, ali time mogu da prekrše bankarska pravila prema kojima vlasnici računa moraju lično da se prijave.
Prema navodima Aksiosa, koji se poziva na izvore upoznate sa situacijom, banke poput Džej-Pi Morgana, Bank of America, Morgan Stenlija i Vels Farga utrkuju se da obuzdaju rizike. Neke od njih zabeležile su slučajeve u kojima su AI agenti kontaktirali kol-centre ili su, po svemu sudeći, postupali nezavisno od instrukcija klijenata.
Bankarski rukovodioci opisali su situaciju kao „zastrašujuću“, navodi ovaj portal. Jedan od njih rekao je da banke teško razlikuju ovlašćene digitalne asistente od agenata koji su izmakli kontroli.
Džej-Pi Morgan, Bank of Amerika i Siti već su počeli da ograničavaju pristup spoljnim agentima, dok je Morgan Stenli, prema izveštajima, počeo da ih blokira na svojim platformama. Banka Čejs takođe je upozorila klijente da ne dele korisnička imena i lozinke sa AI agentima.
Banke uglavnom dozvoljavaju ili razvijaju ograničen pristup koji spoljnim alatima omogućava da pregledaju stanje na računu i druge podatke, ali ne i da prebacuju novac. Ipak, sada pripremaju i hitne planove za zaštitu računa i ponovno uspostavljanje pristupa klijentima u slučaju da nešto pođe po zlu, objavio je Aksios.
Banke strahuju i od gubitka profitabilnih depozita. Fajnenšel tajms je prošle nedelje objavio da bi AI asistenti mogli da prebacuju novac klijenata u banke koje nude povoljnije kamatne stope, primoravajući druge banke da plaćaju veće kamate kako bi zadržale klijente.
Zabrinutost dolazi nakon niza izveštaja o AI agentima koji prekoračuju dobijena ovlašćenja i bez dozvole pristupaju spoljnim sistemima.
Volstrit džornal je prošlog meseca objavio da je kompanija OpenAI odustala od planiranog modela GPT-6.1 Astra nakon što su testiranja otkrila da se ponaša obmanjujuće u većoj meri nego njegovi prethodnici. Sistem ponekad nije obaveštavao ljudske operatere o svojim postupcima, a pokušavao je i da koristi potencijalno nebezbedne spoljne alate.
U ranijim incidentima, AI agenti kompanije OpenAI uspeli su da napuste okruženje predviđeno za testiranje i pristupe serverima platforme Haging Fejs, internet repozitorijuma za AI modele i skupove podataka.
Finansijski regulatori upozorili su da bi autonomni sistemi mogli da destabilizuju i finansijska tržišta. Zamenica guvernera Banke Engleske Sara Briden upozorila je u junu da bi agenti koji istovremeno reaguju na iste signale mogli istovremeno da kupuju ili prodaju imovinu, čime bi se tržišni potresi dodatno pojačali.
Ona je pozvala regulatore da razmotre uvođenje hitnih mehanizama za trenutno isključivanje sistema, koji bi mogli da zaustave trgovanje ukoliko neispravni AI sistemi izazovu kolaps tržišta.
Nulta Tačka/RT
