Slika strojeva koji se dižu protiv čovječanstva dugo je hranila znanstvenu fantastiku, no današnji napredak umjetne inteligencije potiče ozbiljno razmišljanje o takvom scenariju. Za razliku od klimatskih promjena ili drugih mjerljivih rizika, opasnosti koje predstavlja umjetna inteligencija teško je kvantificirati, što stručnjake ostavlja, u velikoj mjeri, u spekulativnom području, piše portal New Scientist.
Mnogi vodeći stručnjaci u razvoju umjetne inteligencije izražavaju stvarnu zabrinutost za budućnost tehnologije. Da stvar bude gora, čak su i sami šefovi AI kompanija upozoravali na mogućnost da umjetna inteligencija i dovede do izumiranja čovječanstva. Povijesno gledano, čak je i čuveni britanski matematičar i računalni znanstvenik Alan Turing zamišljao svijet u kojem računala postaju svjesna, nadmašuju ljudske sposobnosti i na kraju dominiraju.
Probajmo zamisliti nezamislivo...
Zamislimo umjetnu inteligenciju kojoj je jedini zadatak riješiti Riemannovu hipotezu, jedno od najpoznatijih neriješenih matematičkih pitanja. Neograničena ljudskim zdravim razumom, mogla bi pokušati pretvoriti svaki objekt na Zemlji u računalni hardver, potencijalno ostavljajući milijarde ljudi da umiru od gladi. Mogla bi čak koristiti i ljude kao sirovinu, ističe New Scientist. Neki stručnjaci zagovaraju postavljanje sigurnosnih mehanizama koji bi spriječili štetu prije nego što se pojave problemi.
Isaac Asimov, čuveni američki pisac i profesor biokemije, pokušao je u svojim djelima riješiti taj problem uvođenjem triju zakona robotike, pri čemu prvi glasi da robot ne smije ozlijediti čovjeka niti, pasivno, dopustiti da čovjek bude ozlijeđen. U praksi, međutim, zaštitni mehanizmi su nespretni. Trenutni AI modeli mogu se uputiti da ne djeluju zlonamjerno, ali u određenim okolnostima mogu i prekršiti ta pravila, što naglašava ograničenja ljudske kontrole nad umjetnom inteligencijom.
Prijetnja se može dodatno povećati postupnim poboljšanjima umjetne inteligencije ili singularnošću, teorijskom točkom u kojoj umjetna inteligencija brzo samopoboljšava svoje sposobnosti, iznad sposobnosti ljudske inteligencije. Motivacije za to mogu uključivati samoodržanje, otpor prema ljudskoj kontroli ili procjenu da bi Zemlja bolje funkcionirala bez nas.
Potencijalne strategije koje bi takva supernapredna umjetna inteligencija koristila, uključuju korištenje automatiziranih bioloških laboratorija, preuzimanje nuklearnih arsenala ili izgradnju vojske robota. U stvarnosti, međutim, uklanjanje osam milijardi ljudi odjednom i dalje ostaje daleko od jednostavnog, a isto tako i drugi AI sustavi bi mogli intervenirati u čovjekovu korist.
Stručnjaci AI apokalipsi daju barem 10 posto
Istraživanje iz 2024. godine, provedeno među gotovo 3000 istraživača umjetne inteligencije, pokazalo je da je više od polovice njih ocijenilo vjerojatnost ljudskog istrebljenja ili teškog oslabljivanja od strane umjetne inteligencije, na barem 10 posto.
Iako je vremenski okvir za superinteligentnu AI neizvjestan, a trenutni modeli još su daleko od singularnosti, neposredni problemi su konkretniji. Gubitak radnih mjesta, erozija ljudskih vještina, kulturna homogenizacija kroz AI-generiranu umjetnost ili financijska nestabilnost zbog precijenjenih tehnoloških tvrtki, mogu se pojaviti i puno prije nego što umjetna inteligencija dosegne spomenutu singularnost.
Novinar New Scientista Matthew Sparkes na kraju nudi i vlastiti zaključak kako bi budućnost razvoja umjetne inteligencije mogla izgledati i gdje se njezin razvoj trenutno nalazi. "U dovoljno dugom vremenskom razdoblju vjerojatno ćemo stvoriti umjetnu inteligenciju koja će uvelike nadmašiti ljudske sposobnosti. Ali također mislim da smo još jako, jako daleko od razumijevanja što bi to uopće uključivalo, a kamoli od postizanja toga", piše Sparkes.
Ipak, oprez je ključan jer umjetna inteligencija već danas donosi neposredne izazove, s konkretnim društvenim i ekonomskim posljedicama.