Kreator ChatGPT-a: Svet nije toliko daleko od potencijalno zastrašujuće veštačke inteligencije
Jedan od kreatora ChatGPT-a upozorio je da svet možda nije „tako daleko od potencijalno zastrašujuće“ veštačke inteligencije (AI).
Sem Altman, izvršni direktor OpenAI kreatora ChatGPT-a, rekao je u seriji tvitova 18. februara da je „kritično“ da se veštačka inteligencija reguliše u budućnosti, sve dok se ne bude bolje razumela. On je naveo da veruje da je društvu potrebno vreme da se prilagodi „nečemu tako velikom” kao što je veštačka inteligencija.
Pridružite nam se – https://t.me/nultatacka
„Treba nam i dovoljno vremena da naše institucije shvate šta da rade. Regulacija će biti od velike važnosti i biće potrebno vreme da se shvati. Iako alati za veštačku inteligenciju trenutne generacije nisu mnogo strašni, mislim da potencijalno nismo toliko daleko od onih potencijalno strašnih“, napisao je Altman na Tviteru.
Altman je dalje rekao da je put ka budućnosti poboljšane AI „uglavnom dobar i da se može desiti donekle brzo“, upoređujući ga sa prelaskom iz „sveta pre pametnih telefona u svet posle pametnih telefona“.
On je rekao da je jedna poteškoća u vezi sa usvajanjem AI chatbot tehnologije od strane društva su „ljudi koji se udaljavaju od razgovora sa četbotom, čak i ako znaju šta se zaista dešava“.
Altman je pisao o regulisanju AI na svom blogu još u martu 2015.
„Vlada SAD i sve druge vlade treba da regulišu razvoj SMI“, misleći na nadljudsku mašinsku inteligenciju.
„U idealnom svetu, regulativa bi usporila loše momke i ubrzala dobre momke. Čini se da će ono što će se desiti sa prvim SMI koji će biti razvijen biti veoma važno“.
Microsoft-ov ChatGPT AI suočava se sa kritikama zbog „probuđenih“ odgovora korisnicima
U međuvremenu, prošle nedelje su se pojavili problemi sa Microsoft-ovim pretraživačem Bing koji pokreće ChatGPT.
Bing je navodno dao kontroverzne odgovore na upite, koji su se kretali od retorike u stilu „probuđenih“, poremećenih pretnji, do upuštanja u emocionalne rasprave sa korisnicima.
👉Velika Britanija započinje pilot program praćenja građana i njihovih navika: “Sledi nagrada za dobro ponašanje” https://t.co/oYfcccUtO4
— Nulta Tačka (@ProdukcijaNT) February 20, 2023
Microsoft je u postu na blogu prošle nedelje primetio da određeni angažmani korisnika mogu „zbuniti model“, što može dovesti do toga da softver „odrazi ton kojim se od njega traži da pruži odgovore koji može dovesti do stila koji nismo nameravali”.
Prema postu na blogu od 17. februara, Microsoft će sada ograničiti broj razmena koje korisnici mogu da imaju sa botom na „50 puta dnevno i pet puta po sesiji“, sve dok programeri ne reše probleme.
Mask u Dubaiju poziva na regulaciju veštačke inteligencije
Industrijalac Ilon Mask, suosnivač i bivši član odbora Open AI, takođe se zalagao za proaktivnu regulaciju AI tehnologije.
Trenutni vlasnik Tvitera jednom je tvrdio da tehnologija ima potencijal da bude opasnija od nuklearnog oružja i da bi Guglov projekat Deepmind AI jednog dana mogao efektivno da preuzme svet.
Kako prenosi CNBC, Mask je rekao učesnicima na samitu Svetske vlade 2023. u Dubaiju prošle nedelje da „treba da regulišemo bezbednost veštačke inteligencije“ i da je veštačka inteligencija „mislim da je zapravo veći rizik za društvo od automobila, aviona ili lekova“.
Međutim, Mask i dalje misli da projekat Otvorene veštačke inteligencije ima „velika, velika obećanja“ i mogućnosti – i pozitivne i negativne, ali mu je potrebna regulacija.
Takođe je bio kritičan prema smeru Otvorene veštačke inteligencije u tvitu od 17. februara.
Mask je rekao da je pomogao u osnivanju sa Altmanom kao neprofitnom kompanijom otvorenog koda koja će služiti kao protivteža Guglovom projektu Deepmind AI, „ali je sada postala kompanija zatvorenog izvora, maksimalno profitabilna kompanija koju efektivno kontroliše Microsoft. Uopšte nije ono što sam nameravao“.
Mask je najavio svoju ostavku u upravnom odboru OpenAI-a 2018. kako bi „eliminisao potencijalni budući sukob“ sa Teslinim programom autonomnih automobila.
Kasnije je napisao u tvitu 2019. da se „Tesla takmičio za neke iste ljude kao OpenAI i ja se nisam slagao sa nečim od onoga što je OpenAI tim želeo da uradi“.
Drugi uključeni u projekat, kao što je Mira Murati, glavni tehnološki direktor OpenAI-a, rekli su za Time 5. februara da ChatGPT treba regulisati kako bi se izbegla zloupotreba i da „nije prerano“ da se reguliše tehnologija.
