Kompjuterski naučnik kojeg često nazivaju "kumom vještačke inteligencije" potvrdio je da je napustio posao u Guglu (Google) kako bi progovorio o opasnostima tehnologije na kojoj je radio skoro pola vijeka.
Odluka Džefrija Hintona (Geoffrey) dolazi nakon što su brojni tehnološki lideri i istraživači podigli uzbunu u vezi uvođenja chatbotova s vještačkom inteligencijom (artificial intelligence, AI) koji bi mogli uticati na širenje dezinformacija na internetu, masovno ukidanje radnih mjesta i predstavljaju rizike po čovječanstvo, pišu svjetski mediji.
Mogu li roboti ubice postati stvarnost?
Džefri Hinton je pola vijeka radio na razvoju tehnologije koja je u suštini chatbotova kao što je ChatGPT. Sada se brine da će to uzrokovati ozbiljnu štetu, napisao je Njujork tajms (The New York Times), naglasivši da se pionir vještačke inteligencije pridružio sve većem broju kritičara koji upozoravaju da tehnološki divovi, koji užurbano kreiraju proizvode na osnovu AI, jure ka opasnosti.
Hinton je za list potvrdio da je krajem aprila dao otkaz u Guglu gdje je radio više od decenije jer želi slobodno govoriti o rizicima AI, dok dio njega, kako kaže, sada žali zbog svog životnog djela. Njegova neposredna zabrinutost je da će internet biti preplavljen lažnim fotografijama, video zapisima i tekstovima, a prosječna osoba "više neće moći znati šta je istina".
Hinton i dvojica njegovih postdiplomaca na Univerzitetu u Torontu, izgradili su 2012. godine neuronsku mrežu koja je mogla da analizira hiljade fotografija i sama nauči da identifikuje uobičajene objekte. Gugl je, dodaje list, kupio njihovu kompaniju za 44 milijarde dolara, dok je tehnologija koju su stvorili postala intelektualna baza za AI sisteme za koje najveće kompanije u tehnološkoj industriji vjeruju da su ključ njihove budućnosti.
Za rad na neuronskim mrežama, Hinton i njegovi saradnici dobili su 2018. godine Turingovu nagradu, koja se često naziva "Nobelova nagrada za računarstvo". Otprilike u isto vrijeme, ističe Njujork tajms, kompanije poput Gugla i OpenAI-a počele su graditi neuronske mreže koje su učile iz ogromnih količina digitalnog teksta.
'Kum vještačke inteligencije' tvrdi da je sve do prošle godine vjerovao da je Gugl "odgovarajući upravitelj" tehnologije, ali to se promijenilo kada je kompanija počela da se brine o poslovnom riziku za svoj pretraživač nakon što je Majkrosoft (Microsoft) počeo da ugrađuje chatbot u svoj pretraživač Bing.
Tehnološki divovi su zaglavljeni u konkurenciji koju je možda nemoguće zaustaviti, rekao je dr. Hinton naglasivši također da kako kompanije poboljšavaju svoje AI sisteme, oni postaju sve opasniji. Rekao je da se plaši dana kada će istinski autonomno oružje - ti roboti ubice - postati stvarnost.
Hinton, 75-godišnji britanski iseljenik, doživotni je akademik čija je karijera bila vođena njegovim ličnim uvjerenjima o razvoju i korištenju AI, napisao je Njujork tajms dodajući da je njegovo putovanje od AI pionira do onog koji upozorava na opasnosti vještačke inteligencije, označava izuzetan trenutak za tehnološku industriju u možda najvažnijoj prekretnici u posljednjih nekoliko decenija.
Lideri industrije, ukazuje list, vjeruju da bi novi AI sistemi mogli biti jednako važni kao uvođenje web pretraživača u ranim 1990-ima te dovesti do otkrića od područja istraživanja lijekova do obrazovanja.
Ipak, mnogi insajderi upozoravaju da generativna vještačka inteligencija već može biti alat za dezinformacije a da bi uskoro mogla predstavljati rizik za radna mjesta, dok bi na kraju mogla da izmakne kontroli ili uništi čovječanstvo. Hinton vjeruje da će trenutna trka tehnoloških divova eskalirati u globalnu trku koja neće prestati bez neke vrste globalne regulacije.
Inteligentniji od ljudi
Nakon što je u ponedjeljak, 1. maja, potvrdio da je napustio Gugl kako bi upozorio na sve veće opasnosti od razvoja tehnologije, Hinton je u izjavi za BBC rekao da su neke od opasnosti od AI chatbotova "prilično zastrašujuće".
U članku Njujork tajmsa, u kojem je potvrdio da odlazi iz Gugla, Hinton se osvrnuo na "loše aktere" koji bi pokušali koristiti AI za "loše stvari". Na pitanje BBC-a da to razradi, on je odgovorio da je to "neka vrsta najgoreg scenarija, neka vrsta scenarija iz noćne more".
"Možete zamisliti, na primjer, da je neki loš akter poput (ruskog predsjednika Vladimira) Putina odlučio dati robotima mogućnost da kreiraju svoje podciljeve."
Hinton je upozorio da bi to na kraju moglo "stvoriti podciljeve poput 'Moram imati više moći'".
Britansko-kanadski kognitivni psiholog i kompjuterski naučnik također upozorava da bi chatbot uskoro mogao postati inteligentniji od ljudi.
"Došao sam do zaključka da se vrsta inteligencije koju razvijamo veoma razlikuje od inteligencije koju imamo. Dakle, kao da imate 10.000 ljudi i kad god bi jedna osoba nešto naučila, svi bi to automatski znali. I tako ovi chatbotovi mogu znati mnogo više od bilo koje osobe."
On je naglasio da ne želi da kritikuje Gugl koji je bio "veoma odgovoran", te je za BBC kazao i da su njegove godine uticale na odluku da napusti tehnološkog diva, dodajući da ima 75 godina i da je "vrijeme da se povuče".
Sve glasnija upozorenja
Hintonova odluka da se povuče iz Gugla i progovori o AI tehnologiji dolazi u vrijeme kada sve veći broj zakonodavaca, zagovaračkih grupa i tehnoloških insajdera upozorava na rizike širenja dezinformacija i ukidanja radnih mjesta uslijed razvoja novih chatbotova s vještačkom inteligencijom, ističe CNN.
- Poslanici EU traže kontrolu naprednih sistema veštačke inteligencije
- Njemačka može 'blokirati ChatGPT ako je potrebno'
Sva pažnja oko ChatGPT-a krajem prošle godine pomogla je da se obnovi trka među tehnološkim kompanijama za razvoj i primjenu sličnih AI alata u svojim proizvodima. Na čelu te utrke su OpenAI, Majkrosoft i Gugl, dok na sličnim tehnologijama rade i IBM, Amazon, Baidu i Tencent.
U martu su neke istaknute ličnosti u tehnologiji potpisale pismo u kojem su pozvale laboratorije za vještačku inteligenciju da zaustave obuku najmoćnijih AI sistema na najmanje šest mjeseci, navodeći "duboke rizike za društvo i čovječanstvo".
Pismo, koje je objavio Future of Life Institute, neprofitna organizacija koju podržava Ilon Mask (Elon Musk), stiglo je samo dvije sedmice nakon što je OpenAI najavio GPT-4, još moćniju verziju tehnologije koja pokreće ChatGPT. U ranim testovima i demonstraciji kompanije, GPT-4 je korišten za izradu tužbi, polaganje standardizovanih ispita i izradu web stranice koja radi na osnovu ručno nacrtane skice, ukazao je CNN.
Čak i prije nego što se povukao iz Gugla, Hinton je javno govorio o potencijalu vještačke inteligencije da čini štetu i dobro. "Vjerujem da će brzi napredak AI transformirati društvo na načine koje ne razumijemo u potpunosti i da neće svi efekti biti dobri", rekao je u obraćanju na početku 2021. na Institutu za tehnologiju u Bombaju. Napomenuo je tada kako će AI unaprijediti zdravstvenu zaštitu, a da će istovremeno stvoriti mogućnosti za smrtonosno autonomno oružje.
Hinton nije prvi Guglov zaposlenik koji je upozorio javnost na vještačku inteligenciju, ističe CNN dodajući da je u julu prošle godine kompanija otpustila inženjera koji je tvrdio da je njihov AI sistem postao svjestan i osjećajan. Gugl ga je otpustio uz obrazloženje da je inženjer prekršio politiku zapošljavanja i sigurnosti podataka.
'Preispitivati sve na internetu'
Hintonova zabrinutost je nešto što je u kratkom roku već postalo stvarnost, piše Gardijan (The Guardian), ističući kako ljudi više neće moći da razaznaju šta je istina s fotografijama, video zapisima i tekstovima na internetu koje je generisala vještačka inteligencija.
List dodaje da su prošlog mjeseca novinari Gardijana uspjeli da uz pomoć onlajn sintetizatora glasa AI "zaobiđu" sistem glasovne autentikacije koji koristi državna služba Servisi Australije (Services Australia), dovodeći u pitanje održivost glasovne biometrije za autentifikaciju.
Glavni naučnik na Institutu za vještačku inteligenciju Univerziteta Novog Južnog Velsa Tobi Volš (Toby Walsh), rekao je da bi ljudi trebali preispitivati sve medije koje sada vide na internetu. "Kada su u pitanju bilo koji digitalni podaci koje vidite – audio ili video – morate imati na umu da vas je neko prevario."
Hinton je također izrazio zabrinutost da će AI na kraju zamijeniti poslove koje sada obavljaju pomoćni pravnici, lični asistenti ili prevodioci, ističe Gardijan, ukazujući na primjer IBM-a, čiji je izvršni direktor Arvind Krišna (Krishna) nedavno izjavio da bi do 30 posto određenih radnih mjesta kompanije moglo biti zamijenjeno vještačkom inteligencijom i automatizacijom u roku od pet godina.
Facebook Forum