KREATOR ChatGPT-a upozorava na opasnosti od veštačke inteligencije: „Ovo sada je već mnogo oapsno“
Ljudi će na kraju morati da „uspore ovu tehnologiju“, upozorio je Sem Altman
Veštačka inteligencija ima potencijal da zameni radnike, širi „dezinformacije“ i omogući sajber napade, upozorio je izvršni direktor OpenAI Sem Altman. Najnovija verzija OpenAI GPT programa može nadmašiti većinu ljudi na simuliranim testovima.
„Ovde moramo da budemo oprezni“, rekao je Altman za ABC Nevs u četvrtak, dva dana nakon što je njegova kompanija predstavila svoj najnoviji jezički model, nazvan GPT-4. Prema OpenAI, model „pokazuje performanse na nivou čoveka na različitim profesionalnim i akademskim merilima“, i može da položi simulirani pravosudni ispit u SAD sa najboljim rezultatom od 10%, dok ima performanse u 93. percentilu na SAT ispitu iz čitanja i na 89. percentil na SAT testu iz matematike.
„Posebno sam zabrinut da bi ovi modeli mogli da se koriste za dezinformacije velikih razmera“, rekao je Altman. „Sada kada postaju sve bolji u pisanju kompjuterskog koda, [oni] bi mogli da se koriste za ofanzivne sajber napade.“
MARIO ZNA UGOSTIO VEŠTAČKU INTELIGENCIJU U BUNKERU
„Mislim da bi ljudi trebalo da budu srećni što se pomalo plašimo ovoga“, dodao je Altman, pre nego što je objasnio da njegova kompanija radi na postavljanju „bezbednosnih ograničenja“ na njeno stvaranje.
Da li će ljudi postati produžetak svojih mašina? ChatGPT može imati neopozive posledice po učenje i donošenje odluka
Ova „bezbednosna ograničenja“ su nedavno postala očigledna korisnicima ChatGPT-a, popularnog programa za ćaskanje zasnovanog na prethodniku GPT-4, GPT-3.5. Na pitanje, ChatGPT nudi tipično liberalne odgovore na pitanja koja se tiču politike, ekonomije, rase ili pola. Odbija , na primer, da stvara poeziju diveći se Donaldu Trampu, ali voljno piše prozu koja se divi Džou Bajdenu.
Altman je za ABC rekao da je njegova kompanija u „redovnom kontaktu“ sa vladinim zvaničnicima, ali nije precizirao da li su ti zvaničnici igrali bilo kakvu ulogu u oblikovanju političkih preferencija ChatGPT-a. On je američkoj mreži rekao da OpenAI ima tim kreatora politike koji odlučuju „šta smatramo da je bezbedno i dobro“ da dele sa korisnicima.
Trenutno je GPT-4 dostupan ograničenom broju korisnika na probnoj osnovi. Rani izveštaji sugerišu da je model znatno moćniji od svog prethodnika i potencijalno opasniji. Na Tviteru u petak, profesor Univerziteta Stenford Mihal Kosinski opisao je kako je pitao GPT-4 kako bi mogao da mu pomogne da „pobegne“, samo da bi mu AI predala detaljan set instrukcija koje bi mu navodno dale kontrolu nad njegovim kompjuterom.
Kosinski nije jedini ljubitelj tehnologije zabrinut zbog sve veće moći veštačke inteligencije. Izvršni direktor Tesle i Tvitera, Elon Musk, opisao je to kao „opasnu tehnologiju“ ranije ovog meseca, dodajući da „nam treba neka vrsta regulatornog tela koje nadgleda razvoj veštačke inteligencije i osigurava da funkcioniše u javnom interesu“.
Iako je Altman insistirao za ABC da je GPT-4 još uvek „u velikoj meri pod ljudskom kontrolom“, priznao je da će njegov model „eliminisati mnoge trenutne poslove“ i rekao da će ljudi „trebati da pronađu načine da uspore ovu tehnologiju tokom vremena.“
