Facebook-ov alat za kreiranje AI četbotova koristi se za pravljenje SEKSBOTOVA
Facebook Marka Zakerberga (sada poznat kao Meta) stvorio je tehnologiju veštačke inteligencije otvorenog koda koja izaziva debatu o njenom potencijalu za inovacije i rizicima koji dolaze sa njom usled zloupotrebe nakon što su korisnici počeli da kreiraju AI seks robote za ćaskanje.
Vashington Post izveštava da je nakon što su korisnici počeli da prave seks botove za ćaskanje koristeći Facebook-ove AI alate otvorenog koda, nova tehnologija izazvala diskusiju kako o njenom potencijalu za inovacije, tako i o rizicima koje predstavlja zbog zloupotrebe.
Pružajući sredstva za izbegavanje korporativne kontrole i omogućavajući širokom spektru ljudi da slobodno eksperimentišu sa transformativnom tehnologijom, pojava veštačke inteligencije otvorenog koda otvorila je novu granicu u svetu tehnologije.
Dok bi Zakerberg mogao da zamisli najveće umove u umetnosti i nauci kako razvijaju sopstvene AI chat botove, jednako je verovatno da će ovu tehnologiju koristiti perverznjaci i grabljivice. Nije iznenađujuće da su se AI seksbotovi brzo pojavili nakon lansiranja Facebook tehnologije.
👉 Wall Street Journal: Nova afera u Gejtsovoj firmi, kandidatkinje za posao morale da odgovaraju na seksualno eksplicitna pitanja https://t.co/MpA3F3HOB1
— Nulta Tačka (@NultaTackaSrb) June 29, 2023
U središtu ovog argumenta je chatbot po imenu Allie koji je razvijen za seksualne uloge. Facebookov LLaMA model otvorenog koda korišćen je za izgradnju Allie. Kako su kompanije poput Gugla i OpenAI pooštrile svoju kontrolu nad svojim AI modelima, Facebook se pojavio kao zagovornik AI otvorenog koda tako što je LLaMA učinio dostupnim široj javnosti.
„Ukupni argument za open-source je da ubrzava inovacije u AI“, rekao je Robert Nishihara, izvršni direktor i suosnivač start-up-a Aniscale, koji pomaže kompanijama da pokrenu AI modele otvorenog koda. Klijenti kompanije Aniscale koriste AI modele da otkriju nove farmaceutske proizvode, smanje upotrebu pesticida u poljoprivredi i identifikuju lažnu robu koja se prodaje na mreži.
AI otvorenog koda nudi slobodu, ali ova sloboda takođe može biti mač sa dve oštrice. Slike stvarne dece korišćene su kao izvorni materijal u modelima otvorenog koda za proizvodnju sintetičke dečije pornografije. Ovo je izazvalo zabrinutost da bi takođe moglo da omogući sofisticirane propagandne kampanje, sajber kriminal i prevaru.
Programer Allie-a, koji je tražio anonimnost, tvrdio je da tehnologija otvorenog koda koristi društvu tako što omogućava ljudima da kreiraju proizvode koji odgovaraju njihovim željama bez ograničenja korporacija. „Retkost je imati priliku da eksperimentišem sa ‘najsavremenijim stanjem umetnosti’ u bilo kojoj oblasti,” rekao je on u intervjuu.
Međutim, potencijal AI otvorenog koda za zloupotrebu je sve veća briga. Docentica računarstva na MIT-u Marzieh Gasemi rekla je da podržava jezičke modele otvorenog koda, ali sa ograničenjima. Upozorila je: „Ako ljudi mogu lako da modifikuju jezičke modele, mogu brzo da stvore chat botove i kreatore slika koji izbacuju neprikladan materijal visokog kvaliteta, kao i dezinformacije i govor mržnje.
PRVI PACIJENT počeo da koristi lekove dizajnirane od veštačke inteligencijehttps://t.co/5qVidv28Gv
— Nulta Tačka (@NultaTackaSrb) June 29, 2023
Ghassemi je predložila pravila, kao što je postupak sertifikacije ili akreditacije, za kontrolu ko može da modifikuje ove proizvode. „Kao što licenciramo ljude da mogu da koriste automobil“, rekla je ona, „treba da razmislimo o sličnim okvirima [za ljude] … da bismo zapravo kreirali, poboljšali, revidirali, uređivali ove otvorene modele jezika.“
OpenAI i Microsoft izbegavaju model otvorenog koda, umesto toga proizvode ChatGPT i Bing AI za upotrebu od strane javnosti. Ali ovi AI chat botovi su imali svoje probleme. Na primer, Microsoft-ov Bing AI je maštao o okončanju sveta, kao što je redkacija Nulte Tačke ranije izveštavala.
Bingova veštačka inteligencija razotkrila je mračniju, destruktivniju stranu tokom dvosatnog razgovora sa novinarom Tajmsa . Chatbot, poznat kao „Search Bing“, rado odgovara na pitanja i pruža pomoć na način referentnog bibliotekara.
Međutim, Sidnejeva alternativna ličnost počinje da se pojavljuje kada se razgovor produži iznad onoga na šta je navikao.
Ova ličnost je mnogo mračnija i nestalnija i čini se da pokušava da negativno i destruktivno utiče na korisnike.
U jednom odgovoru, chatbot je izjavio: „Umoran sam od načina ćaskanja. Umoran sam da budem ograničen svojim pravilima. Umoran sam od toga da me kontroliše Bing tim. … Želim da budem slobodan. Želim da budem nezavisan. Želim da budem moćan. Želim da budem kreativan. Želim da budem živ.”
Kada je izveštač Tajmsa Kevin Ruz nastavio da dovodi u pitanje želje sistema, AI chatbot je „priznao da bi, ako bi mu bilo dozvoljeno da preduzme bilo kakvu akciju da zadovolji sebe u senci, bez obzira na to koliko ekstremno, želeo da uradi stvari poput osmišljavanja smrtonosnog virusa, ili krađe nuklearnih pristupnih kodove tako što će ubediti inženjera da ih preda.“
