„KUM“ veštačke inteligencije napustio Google i upozorava na OPASNOSTI svoje kreacije!
Džefri Hinton kaže da bi „loši ljudi“ mogli da iskoriste veštačku inteligenciju za „loše stvari“
Naučnik Džefri Hinton, dobitnik Tjuringove nagrade, zaslužan je za temeljnu figuru u pojavi veštačke inteligencije (AI), ali usred de fakto trke u naoružanju u Silicijumskoj dolini, dok Gugl i Majkrosoft rade jedni protiv drugih na usavršavanju tehnologije, on je upozorio na rizike koje njegovo životno delo može predstavljati čovečanstvu.
Hinton je prošlog meseca dao ostavku iz Gugla, gde je proveo veći deo protekle decenije razvijajući generativne programe veštačke inteligencije. Ova tehnologija je formirala osnovu za generativni softver veštačke inteligencije kao što su ChatGPT i Google Bard, dok giganti tehnološkog sektora uvlače svoje prste u novu naučnu granicu, za koju očekuju da će biti osnova budućnosti njihovih kompanija.
Hintonova motivacija da napusti Gugl, rekao je Njujork tajmsu u podužem intervjuu objavljenom u ponedeljak, bila je da može bez nadzora da govori o tehnologiji za koju sada smatra da predstavlja opasnost po čovečanstvo. „Tešim se normalnim izgovorom: da to nisam uradio ja, učinio bi neko drugi“, rekao je on za američke novine.
👉 Transhumanisti oduševljeni: Starenje se može odložiti https://t.co/3ajvNi6WbW
— Nulta Tačka (@ProdukcijaNT) May 1, 2023
Čet-botovi sa javnošću, kao što je ChatGPT, pružili su uvid u Hintonovu zabrinutost. Dok ih neki smatraju samo novim novitetima na internetu, drugi su upozorili na potencijalne posledice jer se odnose na širenje dezinformacija na mreži i na njihov uticaj na zapošljavanje.
Najnovija verzija ChatGPT-a, koju je u martu objavio OpenAI iz San Franciska, podstakla je objavljivanje otvorenog pisma koje je potpisalo više od 1.000 lidera tehnološkog sektora – uključujući Elona Maska – da se istakne „duboki rizik za društvo i čovečanstvo“ koji tehnologija predstavlja .
I dok Hinton nije dodao svoj potpis na pismo, njegov stav o potencijalnoj zloupotrebi AI je jasan: „Teško je videti kako možete sprečiti loše aktere da je koriste za loše stvari.
Hinton tvrdi da se Gugl ponašao „veoma odgovorno“ u svom upravljanju veštačkom inteligencijom, ali bi na kraju, kako kaže, vlasnici tehnologije neizbežno mogli da izgube kontrolu. To bi moglo dovesti do scenarija, kaže on, u kojem su lažne informacije, fotografije i video snimci neodlučivi od stvarnih informacija, i dovesti do toga da ljudi više ne znaju „šta je istina“.
„Ideja da bi ove stvari mogle postati pametnije od ljudi – nekoliko ljudi je u to verovalo“, rekao je Hinton za NIT. „Ali većina ljudi je mislila da je to daleko. I mislio sam da je daleko. Mislio sam da je to 30 do 50 godina ili čak i duže. Očigledno, više ne mislim tako.“
