Bivši šef Googlea: Isključite AI
epa10004039 A logo of technology giant 'Google' at the 're:publica 22' digital conference in Berlin, Germany, 09 June 2022. The 're:publica' is one of the largest conferences about digital culture, blogs, social media and information society in the world. It takes place annually in Berlin and runs from 08 to 10 June. EPA/FILIP SINGER/Filip Singer
“Isključite je.” To je bio direktan odgovor bivšeg izvršnog direktora Googlea Erika Šmita na pitanje o budućnosti u kojoj bi sistemi vještačke inteligencije postali toliko napredni da ljudi više ne bi mogli razumjeti šta rade.
Šmit ističe da tri ključna pravca razvoja već mijenjaju AI: znatno veći tzv. “kontekstualni prozori”, AI agenti i sistemi koji tekstualne upute pretvaraju u funkcionalan softver.
On vjeruje da bi te promjene mogle omogućiti vještačkoj inteligenciji da nadmaši odgovaranje na pitanja i počne rješavati izuzetno složene zadatke.
Pratite Banjaluka.net na “Isključite je.” To je bio direktan odgovor bivšeg izvršnog direktora Googlea Erika Šmita na pitanje o budućnosti u kojoj bi sistemi vještačke inteligencije postali toliko napredni da ljudi više ne bi mogli razumjeti šta rade.
Šmit ističe da tri ključna pravca razvoja već mijenjaju AI: znatno veći tzv. “kontekstualni prozori”, AI agenti i sistemi koji tekstualne upute pretvaraju u funkcionalan softver.
On vjeruje da bi te promjene mogle omogućiti vještačkoj inteligenciji da nadmaši odgovaranje na pitanja i počne rješavati izuzetno složene zadatke.
Pratite Banjaluka.net na Googleu
Tri pravca koja oblikuju budućnost AI
Njegova zabrinutost proizlazi iz mogućih posljedica saradnje tih tehnologija.
Objasnio je da AI sistemi sve bolje pamte ogromne količine informacija i koriste rezultate jednog zadatka kao polazište za sljedeći.
Ideju je pojasnio na primjeru recepta: AI bi mogla ponuditi jedan korak, primiti potvrdu da je taj korak završen, a zatim odrediti šta dalje.
Šmit kaže da bi takav način zaključivanja s vremenom mogao omogućiti vještačkoj inteligenciji da prolazi kroz procese od hiljadu koraka kako bi riješila teške naučne probleme.
Uspon specijalizovanih AI agenata
Druga velika promjena, prema Šmitu, biće uspon AI agenata. Opisao ih je kao specijalizovane AI sisteme koji mogu učiti o određenoj temi, razvijati ideje i potencijalno ih testirati.
Na primjer, AI agent mogao bi proučavati hemiju, postavljati hipoteze, provoditi laboratorijske testove i koristiti te rezultate za nadogradnju svog znanja.
Šmit očekuje da bi se s vremenom mogli pojaviti milioni takvih agenata, a postojaće i platforme koje će ljudima omogućiti da ih pronađu i koriste za različite zadatke.
Od teksta do funkcionalnog softvera
Treći je razvojni pravac ono što Šmit naziva “tekstualnom akcijom”. Koncept se temelji na tome da korisnici vještačkoj inteligenciji jednostavno opišu šta žele da softver radi, umjesto da sami pišu kod.
Kao primjer područja gdje su AI sistemi već vrlo sposobni istakao je programske jezike poput Pythona.
On smatra da bi još veća promjena mogla nastupiti kada ti sistemi budu mogli kontinuirano raditi na softverskim zadacima.
Jezik koji nećemo razumjeti
Erik Šmit je rekao da bi kombinacija velikih kontekstualnih prozora, AI agenata i programiranja uz pomoć vještačke inteligencije mogla omogućiti saradnju različitih AI sistema.
Zatim je iznio i spekulativniju mogućnost: da bi AI agenti mogli razviti vlastiti jezik. Šmit smatra da bi to mogla biti tačka u kojoj ljudi više neće razumjeti šta ti sistemi rade.
“U jednom trenutku ovi će sistemi postati dovoljno moćni da ćete moći uzeti agente, a oni će početi raditi zajedno”, rekao je pa dodao: “Znate li šta bismo trebali učiniti? Isključiti je.”
Ozbiljna upozorenja na opasnost od AI-ja iz samog vrha industrije
Šmitov dramatični savjet o “isključivanju” stiže u trenutku kada i inženjeri iz vodećih istraživačkih laboratorija sve otvorenije progovaraju o opasnostima.
Džejkob Kokson, istraživač koji je tri godine radio na predtreningu modela u OpenAI-ju i Anthropicu, nedavno je podnio ostavku uz poruku da se tehnološki divovi ponašaju neodgovorno i “kockaju našim životima u nekontrolisanoj trci prema superinteligenciji”.
