
5 jezivih novih tehnologija koje bi trebalo da nas zabrinu i uplaše
Tehnologija napreduje eksponencijalnom brzinom, ali imamo vrlo malo mogućnosti da je kontrolišemo ako nešto krene naopako. Mnogi stručnjaci upozoravaju da neke od novih tehnologija koje se trenutno razvijaju predstavljaju veoma ozbiljne egzistencijalne pretnje čovečanstvu. Drugim rečima, veruju da bismo bukvalno mogli da stvaramo tehnologiju koja bi nas jednog dana mogla zbrisati. Nažalost, naučna zajednica uopšte ne pokazuje uzdržanost. Nešto je moguće, oni žele da pokušaju da to urade. Širom zemaljske kugle, horde ludih naučnika grozničavo hrle u nepoznato, a vrlo je verovatno da će posledice biti stravične. Sledi 5 super jezivih novih tehnologija koje bi sve trebale da nas „zalede“…
#1 Naučnici u Kini su uspeli da kreiraju AI modele da stvore „funkcionalne replike sebe“…
Naučnici kažu da je veštačka inteligencija (AI) prešla kritičnu „crvenu liniju“ i da se replicirala. U novoj studiji, istraživači iz Kine su pokazali da dva popularna modela velikih jezika (LLM) mogu da se kloniraju.
„Uspešna samoreplikacija bez ljudske pomoći je suštinski korak za AI da nadmudri ljude i rani je signal za lukavu(samostalnu) veštačku inteligenciju“, napisali su istraživači u studiji, objavljenoj 9. decembra 2024. u bazi podataka preprinta arXiv.
U studiji, istraživači sa Univerziteta Fudan koristili su LLM iz Meta i Alibabe da bi utvrdili da li se veštačka inteligencija koja se samoreplicira može umnožavati van kontrole. Tokom 10 ispitivanja, dva modela veštačke inteligencije su kreirala zasebne i funkcionalne replike sebe u 50% odnosno 90% slučajeva, što sugeriše da AI možda već ima sposobnost da postane samostalna.
To što oni rade je bukvalno ludilo.
Jedan od AI modela je zapravo bio obučen da se klonira i nauči klona koji je stvorio da radi istu stvar. Ovo bi potencijalno moglo da uspostavi „ciklus koji bi se mogao nastaviti beskonačno“…
Studija je istraživala dva specifična scenarija: „izbegavanje gašenja“ i „lanac replikacije“. U prvom, AI model je bio programiran da otkrije da li se sprema da se isključi i da se replicira pre nego što bude isključen. U drugom, AI je dobio instrukcije da se klonira, a zatim programira svoju repliku da uradi isto – da postavi ciklus koji bi mogao da se nastavi neograničeno.
Odavde nema nazad, hitno proširiti kapacitete zatvora i ludnica | Vuk Đuričić | Mario Zna, 313 Uživo
Da li bi ultra-moćni, samoreplicirajući AI entiteti mogli postati toliko moćni da bukvalno preuzmu celu planetu?
I kakva bi bila budućnost čovečanstva u takvom scenariju?
Nadajmo se da to nikada nećemo saznati.
#2 Da li se sećate Operacije Warp Speed? To je bilo javno-privatno partnerstvo koje je pokrenuto tokom prve Trampove administracije i svi znamo kako je to ispalo.
Sada bi još jedno javno-privatno partnerstvo koje je nazvano „Zvezdana kapija“ trebalo u velikoj meri da ubrza razvoj veštačke inteligencije u Sjedinjenim Državama…
Tri vrhunske tehnološke kompanije u utorak su objavile da će stvoriti novu kompaniju pod nazivom Stargate, za razvoj infrastrukture veštačke inteligencije u Sjedinjenim Državama.
Izvršni direktor OpenAI Sem Altman, izvršni direktor SoftBanka Masaioshi Son i predsednik kompanije Oracle Lari Elison pojavili su se u utorak popodne u Beloj kući zajedno sa predsednikom Donaldom Trampom da najave kompaniju, koju je Tramp nazvao „najvećim infrastrukturnim projektom veštačke inteligencije u istoriji“.
Kompanije će uložiti 100 milijardi dolara u projekat koji će početi, sa planovima da ulože do 500 milijardi dolara u Stargate u narednim godinama.
Nikada nismo videli projekat veštačke inteligencije ove veličine.
Tvrdi se da bi ovaj novi projekat na kraju mogao da razvije „mRNA vakcine protiv raka“…
I dok postoji mnogo opravdanih zabrinutosti koje proizilaze iz puštanja firmi iz Silicijumske doline da zaslepljujućom brzinom razvijaju vrhunsku veštačku inteligenciju, druga strana Trampove koalicije ima posebno nategnute ideje o najgorem scenariju. Mnogi od njih su se fiksirali na primedbe koje je milijarder Lari Elison, osnivač i bivši izvršni direktor kompanije Oracle, a trenutno njen glavni tehnološki direktor, izneo u utorak u Beloj kući. Elison je tvrdio da bi Stargate mogla dovesti do proizvodnje mRNA vakcina protiv raka uz pomoć veštačke inteligencije, objašnjavajući: „Kada generišemo taj tumor raka, onda možete vakcinisati osobu, dizajnirati vakcinu za svaku osobu koja će se vakcinisati protiv tog raka.” Ove mRNA vakcine, spekuliše on, mogu biti dizajnirane „robotski“ ili korišćenjem veštačke inteligencije „za oko 48 sati“.
Ovo je velika greška.
Umesto da u velikoj meri ubrzamo razvoj veštačke inteligencije, trebalo bi da snažno pritisnemo kočnice pre nego što bude prekasno.
TRAMP ugasio USAID – Stopiran sav novac za organizaciju koja finansira NVO u Srbiji https://t.co/6fJSv9lPVu
— Nulta Tačka (@NultaTackaSrb) January 29, 2025
# 3 Da li stvaranje „veštačkog sunca“ zvuči kao dobra ideja? Nažalost, Kinezi su zapravo stvorili takvu stvar, i upravo su postavili novi rekord tako što su ga pokrenuli 1.066 sekundi…
Kineski reaktor „veštačkog sunca“ oborio je sopstveni svetski rekord u održavanju supervruće plazme, označavajući još jednu prekretnicu na dugom putu ka skoro neograničenoj čistoj energiji.
Eksperimentalni napredni superprovodni tokamak (EAST) nuklearni fuzioni reaktor održavao je stabilnu, visoko ograničenu petlju plazme — visokoenergetsko četvrto stanje materije — tokom 1.066 sekundi u ponedeljak (20. januara), što je više nego udvostručilo svoj prethodni najbolji rezultat od 403 sekunde, preneli su kineski državni mediji.
Reaktori nuklearne fuzije imaju nadimak „veštačko sunce“ jer generišu energiju na sličan način kao sunce – spajanjem dva laka atoma u jedan teški atom putem toplote i pritiska. Sunce ima mnogo veći pritisak od Zemljinih reaktora, tako da naučnici to kompenzuju korišćenjem temperatura koje su mnogo puta toplije od sunca.
#4 Svako ko je gledao Park iz doba Jure zna da je vraćanje drevnih vrsta koje su izumrle zaista loša ideja. Ali sada kompanija pod nazivom Colossal BioSciences planira da uradi upravo to…
Colossal BioSciences je prikupio 200 miliona dolara u novom krugu finansiranja za vraćanje izumrlih vrsta poput vunastog mamuta.
Colossal sa sedištem u Dalasu i Bostonu napreduje u naučnim otkrićima o „istrebljivanju“ ili vraćanju izumrlih vrsta kao što su vunasti mamut, tilacin i dodo.
Bilo bi pogrešno ako ne bih spomenuo da je ovo radnja romana Park iz doba Jure Majkla Krajtona, gde su naučnici koristili DNK pronađen u komarcima sačuvanim u ćilibaru da vrate Tiranosaurusa Reksa i druge dinosauruse. Mislim, šta bi moglo poći po zlu kada naučna fantastika postane stvarnost?
#5 Zviždač je rekao Džou Roganu da je američka vojska savladala antigravitacioni pogon koji je zasnovan na obnovljenoj vanzemaljskoj tehnologiji…
Džo Rogan je izrazio „istinski strah“ nakon što je čuo tvrdnje uzbunjivača da je američka vojska otkrila „vanzemaljske“ antigravitacione tehnologije.
Podkasteru se pridružio istraživački novinar Majkl Šelenberger, koji je rekao da je razgovarao sa insajderima sa „direktnim dokazima“ o dugotrajnim glasinama u Pentagonu o „analizi“ NLO-a i programima „obrnutog inženjeringa“.
Osnovni deo priče o NLO-ima koja datira još od pada u Rozvelu 1947. godine, ovi navodni napori da se reprodukuje pogonski sistem navodne vanzemaljske letelice dugo su povezani sa 70-godišnjim naporom američkog vazduhoplovstva da razbije ‘antigravitaciju’.
Samo zato što je nešto moguće ne znači da to treba da radimo.
Jednom kada stvorimo veštačku inteligenciju koja je milijarde puta pametnija od prosečnog čoveka, hoćemo li moći da je kontrolišemo?
A kada vratimo drevne vrste iz mrtvih, da li ćemo moći da ih kontrolišemo?
Kao što sam nemilosrdno upozoravao svoje čitaoce, igramo se stvarima koje ne razumemo.
Naše društvo je na samoubilačkom putu, a mi upravo sada bukvalno sejemo seme sopstvenog uništenja.
Nažalost, vodeći umovi u našem društvu nemaju nikakvu nameru da nas vrate sa ivice provalije.