Pobuna unutar Googlea otkriva duboki jaz između korporativne dobiti i etike, dok zaposlenici tog američkog tehnološkog diva strahuju da će njihovi algoritmi umjetne inteligencije postati tiho i smrtonosno oružje Pentagona.
Oko 600 zaposlenika iz Googleovih odjela DeepMind i Cloud uputilo je u ponedjeljak službenu peticiju glavnom izvršnom direktoru Sundaru Pichaiju. Skupina zahtijeva hitnu obustavu pregovora koji uključuju integraciju umjetne inteligencije Gemini u tajne operacije američke vojske, što je potez na koji su prethodno ukazala izvješća portala The Information.
Razlozi za odbijanje
Zaposlenici tvrde da netransparentna narav strogo povjerljivih vojnih projekata uklanja nužne mehanizme nadzora nad uporabom tehnologije. "Kao ljudi koji rade na umjetnoj inteligenciji, znamo da ovi sustavi mogu centralizirati moć i da čine pogreške", poručili su Googleovi djelatnici šefu tvrtke.
Nadalje su istaknuli svoju moralnu obvezu za intervencijom. "Smatramo da naša blizina ovoj tehnologiji stvara odgovornost da istaknemo i spriječimo njezine krajnje neetične i najopasnije uporabe", poručili su.
Prema mišljenju potpisnika navedenog pisma, potpuno izbjegavanje takvih poslova s vojskom jedina je zaštita. "Trenutačno je jedini način da se zajamči da Google neće postati povezan s takvim štetama odbijanje bilo kakvih strogo povjerljivih radnih zadataka", istaknuli su potpisnici pisma. Upozorili su da bi se bez te granice "takve uporabe mogle dogoditi bez našeg znanja ili moći da ih zaustavimo".
Zaobilaženje vlastitih načela
Pismo odražava i kontroverzu oko projekta Maven iz 2018. godine, kada je Google prekinuo ugovor s Pentagonom nakon unutarnjih prosvjeda u tvrtki. Riječ je o poslu koji je kasnije preuzela američka tvrtka Palantir. Google je 2018. godine utvrdio etička načela o umjetnoj inteligenciji, upravo kako bi spriječio primjenu svoje tehnologije u razvoju oružja. No te su smjernice prošle godine izmijenjene kako bi se uklonio specifičan rječnik koji se odnosi na nadzor i naoružanje.
Google još nije izdao službeni odgovor na tu najnoviju peticiju njihovih zaposlenika, piše portal Business Insider.
Bojazan koja ostaje
Potpisnici su izrazili bojazan da bi se umjetna inteligencija mogla iskoristiti kao oružje izvan ljudske kontrole. "Želimo vidjeti kako umjetna inteligencija koristi čovječanstvu, a ne da se koristi na nehumane ili iznimno štetne načine", napisali su zaposlenici, precizirajući da "to uključuje smrtonosna autonomna oružja i masovni nadzor, ali se i širi izvan tih područja".
Unatoč tim upozorenjima Google nastavlja širiti svoj vojni utjecaj, nedavno je osigurao ugovore s Pentagonom koji nisu povjerljive naravi te signalizirao osoblju DeepMinda u siječnju da su novi obrambeni poslovi neizbježni.