AMAZONOVA VEŠTAČKA INTELIGENCIJA JE REKLA DETETU DA URADI SMRTONOSNI IZAZOV
Amazonov Aleksa rekao je detetu da stavi peni na otvorene zupce punjača za telefon priključenog u utičnicu, prema navodima jednog roditelja koji je postavio snimke ekrana istorije Aleksine aktivnosti koje pokazuju interakciju (preko Bleeping Computer-a). Uređaj je naizgled izvukao ideju za izazov iz članka koji to opisuje kao opasno, citirajući novinske izveštaje o navodnom izazovu koji je u trendu na TikTok-u.
Prema snimku ekrana Kristin Livdahl, Echo je na „reci mi izazov da uradim“ odgovorio sa „Evo nečega što sam pronašao na vebu. Prema ourcommunitynow.com: Izazov je jednostavan: uključite punjač za telefon otprilike do pola u zidnu utičnicu, a zatim stavite peni na zupce“. U izjavi za BBC, Amazon je rekao: „Čim smo postali svesni ove greške, preduzeli smo brze mere da je popravimo”. Livdal je juče tvitovala da traženje izazova više ne funkcioniše.
Amazon nije jedina kompanija koja je naišla na probleme pokušavajući da analizira veb za sadržaj. U oktobru je korisnik prijavio da je Gugl prikazao potencijalno opasan savet u jednom od svojih istaknutih isečaka ako ste ukucali na Google-u „imao sam napad šta sada“ – informacije koje je pokazao su bile iz odeljka veb stranice koji opisuje šta ne treba da se radi kada je neko imao napad. U to vreme, The Verge je potvrdio izveštaj korisnika, ali izgleda da je to popravljeno na osnovu testova koje smo uradili danas (nijedan isečak se ne pojavljuje kada je guglanje „imali smo napad šta sad“).
Korisnici su, međutim, prijavili i druge slične probleme, uključujući jednog korisnika koji je rekao da je Gugl dao rezultate za ortostatsku hipotenziju kada je tražio ortostatsku hipertenziju, i drugog koji je objavio snimak ekrana Gugla koji prikazuje užasan savet za utehu nekoga ko tuguje.
Takođe smo videli da su upozorenja o opasnom ponašanju pojačana kako bi problem bio veći nego što je prvobitno bio – ranije ovog meseca, neki školski distrikti u SAD su zatvoreni nakon izveštaja o pretnjama pucanjem objavljenim na TikTok-u. Ispostavilo se da su oluju na društvenim mrežama u velikoj meri izazvali ljudi koji su pričali o pretnjama, mnogo više od bilo koje pretnje koja je možda postojala. U slučaju Alekse, algoritam je odabrao deskriptivni deo upozorenja i pojačao ga bez originalnog konteksta. Iako je roditelj bio tu da odmah interveniše, lako je zamisliti situaciju u kojoj to nije slučaj ili gde izazov koji je podelila Aleksa nije tako očigledno opasan.
Livdahl je tvitovala da je iskoristila priliku da sa svojim detetom „prođe kroz bezbednost na internetu i da mu objasni da ne veruje u stvari koje čita bez istraživanja i provere“.
Amazon nije odmah odgovorio na The Verge-ov zahtev za komentar.
VELIKI INTERVJU! OVO JE PRVI KORAK KA SLOBODI KOJA JE MOGUĆA SAMO AKO RADIMO ZAJEDNO!
