Zaposleni u Guglu upozorili svoje nadređene vezano za opasnosti BARD veštačke inteligencije

Hiljade zaposlenih u Guglu pokušalo je da upozori kompaniju da njen AI chatbot, Bard, nije samo „patološki lažov“, već potencijalno ubica, nudeći savete koji bi mogli da dovedu do smrti, izvestio je Blumberg u sredu. 18 sadašnjih i bivših zaposlenih u Guglu koji su razgovarali sa agencijom dodali su da kompanija nije slušala savete.

Jedan zaposleni je tvrdio da su obavestili rukovodstvo Gugla da će Bardovi saveti o ronjenju „verovatno dovesti do ozbiljnih povreda ili smrti“, dok je drugi rekao da bi njegov opis kako spustiti avion skoro sigurno rezultirao nesrećom.

Treći zaposleni, u belešci koju je videlo 7.000 Google korisnika, opisao je Bard kao „gore od beskorisnog“ i molio je kompaniju da ga ne pokreće. Drugi su AI nazvali „zastrašujućim“.

Stručnjacima za etiku je rečeno da se povuku dok je kompanija požurila sa primenom Barda na tržištu, rekli su izvori za Bloomberg. Meredit Vitaker, bivša menadžerka u kompaniji, rekla je da je „etika veštačke inteligencije otišla u pozadinu“ u pogledu profita i rasta, a dva druga radnika su rekla da su etički pregledi skoro potpuno neobavezni.

Proizvodi koji su ranije morali da pređu prag od 99% za metriku kao što je „pravičnost“ sada su morali da mere samo do „80, 85% ili nešto slično“ da bi bili lansirani, navodno je zaposlenima rekla šef uprave AI Jen Gennai.

👉 ILON MASK zapretio da će tužiti Majkrosoft https://t.co/oWrghQ0i4w

— Nulta Tačka (@ProdukcijaNT) April 20, 2023

Ranije ovog meseca dva uzbunjivača su otkrila da su pokušali da blokiraju Bardovu primenu, upozoravajući da je veštačka inteligencija sklona „netačnim i opasnim izjavama“, samo da bi njihova zabrinutost bila razbijena dok je Gennai preinačio „lansiranje proizvoda“ kao „eksperiment“.

Predstavljen kao konkurent OpenAI-jevom blokbasteru ChatGPT prošlog meseca, Bard je trebalo da bude uzdanica Guglove transformacije svog poslovanja pretrage. Kada je ChatGPT lansiran, Google nije imao sopstvenu generativnu veštačku inteligenciju integrisanu u svoje proizvode na način na koji bi kupci mogli da ga koriste. Kompanija se navodno uspaničila, izdavši „crvenu šifru“ i prihvativši rizik, počevši od decembra, rekli su zaposleni za Bloomberg.

Gugl je negirao etiku degradiranja. „Nastavljamo da ulažemo u timove koji rade na primeni naših principa veštačke inteligencije na našu tehnologiju“, rekao je portparol Brajan Gabrijel za Blumberg.

Kompanija je u januaru otpustila tri člana svog „odgovornog AI“ tima, najavljujući planove da ove godine uvede više od 20 proizvoda sa AI. U međuvremenu, oni koji su ostali u timu za etiku veštačke inteligencije sada su „oslabljeni i demoralisani“, navodi Blumberg.

Nulta Tačka/RT