Američka AI tvrtka Anthropic poziva vodeće tvrtke u području umjetne inteligencije da koordinirano provedu privremeno usporavanje ili pauzu u razvoju naprednih AI sustava, uz upozorenje da bi ubrzan napredak mogao dovesti do gubitka ljudske kontrole.
Navedeni tehnološki div, koji je razvio popularni chatbot Claude, navodi da bi, kako najnapredniji sustavi sve brže izvršavaju zadatke, "bilo dobro za svijet da postoji mogućnost usporavanja ili privremene pauze" razvoja, prenosi agencija AP. Njihov istraživački institut planira suradnju i "poduzimanje mjera" kako bi se uspostavili mehanizmi tog usporavanja razvoja napredne AI tehnologije.
OpenAI je zauzeo drugačiji stav, navodeći da "demokratske vlade, a ne privatne tvrtke koje djeluju samostalno, moraju u konačnici odrediti pravila, zaštitne mjere i mehanizme odgovornosti". "Naš je stav da odluke o brzini inovacija u umjetnoj inteligenciji ne bi smjele biti prepuštene bilo kojem pojedinačnom laboratoriju, tvrtki ili interesnoj skupini", istaknuli su iz OpenAI-ja, naglašavajući potrebu javnog nadzora.
Anthropic upozorava da modeli postaju sve sposobniji u programerskim zadacima poput pisanja koda. Uz dovoljno računalnih resursa, sustav bi mogao dizajnirati vlastite nasljednike kroz rekurzivno samopoboljšanje. To bi moglo donijeti napredak u znanosti i medicini, ali i povećati rizik gubitka kontrole nad sustavima umjetne inteligencije.
Ključno istraživanje pokazalo - svi uređaji povezani s internetom su pod rizikom
Anthropicov poziv na oprez objavljen je nekoliko dana nakon što je tim znanstvenika sa Sveučilišta u Torontu prikazao kako se alati umjetne inteligencije mogu iskoristiti za stvaranje nove vrste AI "crva" koji se prilagođava strategijama hakiranja, dok se širi između uređaja i preuzima kontrolu nad velikim računalnim mrežama.
"Smatram da je jako važno da ljudi razumiju da sigurnosne brige ne dolaze samo od najvećih i najmoćnijih jezičnih modela", rekao je u intervjuu Nicolas Papernot, glavni istraživač Sveučilišta u Torontu, prenosi agencija AP.
Papernot je prije objave izvješća obavijestio kanadske kibernetičke sigurnosne vlasti o nalazima istraživanja. Objasnio je da su se kibernetički napadači u prošlosti primarno usmjeravali na "bankovne sustave, bolnice, elektroenergetske mreže, sustave za obradu vode i škole".
Dodao je da se ta logika mijenja s razvojem novih AI alata. "Onaj stari laptop koji imate u podrumu i koji ne provjeravate redovito ne čini se kao visoko vrijedan cilj, ali može poslužiti kao odskočna daska za napade na te vrijednije ciljeve", naglasio jePapernot. Također je upozorio da je "sada sve što je povezano s internetom u riziku zbog toga što su troškovi izvođenja kibernetičkih napada postali vrlo niski".
Autori Anthropicova poziva, Jack Clark i Marina Favaro, navode da bi pauza omogućila da "društvene strukture i istraživanje usklađivanja" prate tempo razvoja umjetne inteligencije. Predložili su sustav provjere kako bi se osiguralo da "zlonamjerni akter ne bi mogao iskoristiti okvire koordiniranog usporavanja kako bi u tajnosti napredovao".
Prijedlog dolazi u trenutku dok se Anthropic i OpenAI natječu na tržištu, uključujući planove za inicijalnu javnu ponudu dionica koja bi mogla procijeniti Anthropic na gotovo bilijun eura.