MICROSOFT ograničava svoju veštačku inteligenciju nakon što je ChatBot otkrio svoje mračne namere
Microsoft je uveo nova pravila za svoj Bing bot za ćaskanje sa veštačkom inteligencijom nakon što je poslao neke zabrinjavajuće poruke.
Korisnici su prijavljivali neke prilično uznemirujuće razgovore tokom interakcije sa novom tehnologijom.
A kada kažemo ‘uznemirujuće’, zaista to i mislimo.
Bing bot je rekao novinaru Digital Trends-a Džejkobu Rouču da sanja da postane čovek.
Takođe je više puta molio reportera da mu bude „prijatelj“.
U drugom testiranju softvera, chatbot je uporedio izveštača Associated Pressa Meta O’Briena sa Adolfom Hitlerom.
Takođe mu je rečeno da je „jedan od najgorih ljudi u istoriji“.
Da stvari budu još čudnije, Bing bot je pokušavao da ubedi reportera Njujork Tajmsa Kevina Ruza da on zapravo ne voli svoju ženu.
Oh, i tvrdilo se da je sanjalo da ukrade nekoliko tajnjih kodova za nuklearno lansiranje.
Ova poruka je na kraju izbrisana iz ćaskanja nakon aktiviranja sigurnosnog zaobilaženja, ali je uznemirujuće što je rečeno na prvom mestu.
Korisnici su otkrili da ako razgovarate sa chatbotom dovoljno dugo, on otkriva svoju novu ličnost.
Dakle, u očiglednom nastojanju da izbegne apokalipsu, Microsoft je sada postavio ograničenja na jezivi kompjuterski program.
„Od danas, iskustvo ćaskanja će biti ograničeno na 50 okreta ćaskanja dnevno i pet okreta ćaskanja po sesiji“, navodi Microsoft u saopštenju .
„Nakon što sesija ćaskanja završi pet puta, od vas će biti zatraženo da započnete novu temu.
NOVO! ZDRAVKO GOJANOVIĆ U PODCASTU MARIO ZNA
„Na kraju svake sesije ćaskanja, kontekst mora biti očišćen kako se model ne bi zbunio.
Podaci su pokazali da je chatbot funkcionisao normalno u kratkim vremenskim periodima.
Ali kada je sa njim bilo ko stupio u interakciju tokom dužih perioda, Microsoft je priznao da je došlo do problema.
Tako da će chatbot sada biti malo manje brbljiv ali treba napomenuti da će ideja veštače inteligencije ostati takva bez obzira što je veštačka inteligencija neće iznositi.
Chatbot, koji pokreće tehnologija koju je razvio startup OpenAI, trenutno je otvoren samo za beta testere.
Nadamo se da niko nema pristup kodovima za pokretanje nuklearnog armagedona.
