Čine li tech i politički lideri dovoljno, ili smo prepušteni slučaju? "Samoregulacija nije uspjela za društvene medije, nije uspjela za financijski sektor, a neće uspjeti ni za AI"

U srcu povijesnog Bletchley Parka, gdje su nekoć radili britanski razbijači šifri iz Drugog svjetskog rata, britanski premijer Rishi Sunak saziva ključni dvodnevni samit o umjetnoj inteligenciji. To okupljanje, za koje se očekuje da će privući oko 100 dužnosnika iz 28 zemalja, uključuje uglednike poput američke potpredsjednice Kamale Harris i čelnike iz istaknutih AI tvrtki. Prema Sunaku, samo vlade, a ne AI tvrtke, mogu zaštititi ljude od rizika povezanih s tom tehnologijom.

tri vijesti o kojima se priča MISTERIOZNA MRLJA Objavljena fotografija crvene mrlje na Trumpovu vratu: Oglasila se Bijela kuća PRIJETI ESKALACIJA VIDEO Izraelci pokrenuli nove napade na Teheran pa objavili da su ubili 1500 Iranaca. Porastao i broj poginulih američkih vojnika Rat na Bliskom istoku VIDEO "Sprema se veliki napad": Amerika izdala posebno upozorenje

Moramo ovo shvatiti ozbiljno i moramo se početi fokusirati na pokušaje da preduhitrimo problem, ističe Jeff Clune, izvanredni profesor informatike na Sveučilištu British Columbia koji se fokusira na AI i strojno učenje.

Rizici i šanse da AI izbriše čovječnstvo postoje - stručnjak

Clune je bio među skupinom utjecajnih znanstvenika koji su prošlog tjedna pozvli svjetske vlade da učine više u upravljanju rizicima od umjetne inteligencije. To je posljednje u nizu strašnih upozorenja tehnoloških mogula poput Elona Muska i izvršnog direktora OpenAI-ja Sama Altmana, o tehnologiji koja se brzo razvija i različitim načinima na koje industrija, politički čelnici i istraživači vide put naprijed kada je u pitanju obuzdavanje rizika i regulacija AI tehnologije.

Daleko je od sigurnog da će umjetna inteligencija izbrisati čovječanstvo, ali ima dovoljno rizika i šanse da se dogodi. Moramo mobilizirati pozornost društva da to pokušamo riješiti sada, umjesto da čekamo da se dogodi najgori mogući scenarij, poručuje Clune.

Jedan od Sunakovih velikih ciljeva jest postići dogovor o prirodi rizika AI tehnologije. Također otkriva planove za Institut za sigurnost umjetne inteligencije, koji će procijeniti i testirati nove vrste tehnologije i predlaže stvaranje globalne stručne skupine, nadahnute panelom UN-a o klimatskim promjenama, za razumijevanje umjetne inteligencije i izradu izvješća o stanju umjetne inteligencije u svijetu.

Summit odražava želju britanske vlade da ugosti međunarodne skupove kako bi pokazala da nije izolirana i da još uvijek može voditi na svjetskoj pozornici nakon odlaska iz Europske unije prije tri godine.

Velika Britanija ide stopama EU i SAD-a u regulativi umjetne inteligencije

Velik Britanija također želi staviti svoje pravo na goruće političko pitanje u kojem SAD i 27-članice EU povlače poteze.

Bruxelles dovršava ono što bi trebalo biti prva sveobuhvatna regulativa o umjetnoj inteligenciji na svijetu, dok je predsjednik SAD-a Joe Biden u ponedjeljak potpisao opsežnu izvršnu uredbu za usmjeravanje razvoja umjetne inteligencije, nadovezujući se na dobrovoljne obveze tehnoloških tvrtki.

Kina, koja je uz SAD jedna od dvije svjetske AI sile, pozvana je na summit, iako Sunak nije mogao reći sa sto postotnom sigurnošću da će predstavnici iz Pekinga prisustvovati.

Poziv na poduzimanje konkretnih mjera

Dokument koji su potpisali Clune i više od 20 drugih stručnjaka, uključujući dvojicu nazvanih "kumovima" AI-ja, Geoffreyja Hintona i Yoshuu Bengioa, pozivaju svjetske vlade i AI tvrtke da poduzmu konkretne mjere, poput trošenja trećine svog istraživanja i razvoja resurse za osiguranje sigurne i etičke upotrebe napredne autonomne umjetne inteligencije.

Frontier AI je skraćenica za najnovije i najmoćnije sustave koji idu do ruba AI-ovih mogućnosti. Temelje se na temeljnim modelima, koji su algoritmi obučeni na širokom rasponu informacija preuzetih s interneta kako bi pružili opću, ali ne i nepogrešivu bazu znanja.

Zbog toga su ti AI sustavi opasni, jer nemaju savršeno znanje, rekao je Clune. Ljudi pretpostavljaju i misle da imaju ogromno znanje, a to vas može dovesti u nevolju, naglašava.

Kritike samita

Samit je, međutim, naišao na kritike da je previše zaokupljen dalekim opasnostima.

Fokus samita zapravo je malo preuzak, rekla je Francine Bennett, privremena direktorica Instituta Ada Lovelace, grupe za istraživanje politike u Londonu koja se usredotočuje na AI.

Riskiramo jednostavno zaboraviti na širi skup rizika i sigurnosti i algoritme koji su već dio svakodnevnog života, istaknula je Bennett na panelu Chatham Housea prošli tjedan.

Deb Raji, znanstvencak sa kalifornijskog sveučilišta u Berkeleyu, koja je proučavala algoritamsku pristranost, ukazala je na probleme sa sustavima koji su već postavljeni u Velikoj Britaniji, poput policijskih sustava za prepoznavanje lica koji su imali puno veću stopu lažnog otkrivanja taamnoputih osoba i algoritma koji je pokvario ispit iz srednje škole.

Samit je propuštena prilika i marginalizira zajednice i radnike koji su najviše pogođeni umjetnom inteligencijom, reklo je više od 100 skupina civilnog društva i stručnjaka u otvorenom pismu britanskom premijeru Sunaku, smatraju stručnjaci.

Skeptici kažu da je vlada Velike Britanije postavila svoje ciljeve samita prenisko, s obzirom na to da reguliranje umjetne inteligencije neće biti na dnevnom redu, već se umjesto toga usredotočuje na uspostavu "ograda".

Sunakov poziv da se ne žuri s regulacijom podsjeća na poruke koje čujemo od mnogih predstavnika korporacija u SAD-u, rekla je Raji.

Uloga tehnoloških tvrtki u regulaciji AI

Tehnološke tvrtke ne bi trebale biti uključene u izradu propisa, jer su sklone podcijeniti ili umanjiti hitnost i cijeli niz šteta, naglasila je Raji. Također nisu toliko otvorene za podupiranje predloženih zakona koji bi mogli biti potrebni, ali mogli bi učinkovito ugroziti njihovu krajnju granicu napretka, rekla je.

DeepMind i OpenAI zasad nisu odgovorili na zahtjeve za komentar iz medij. Iz Anthropica su poručili da će suosnivači Dario Amodei i Jack Clark prisustvovati navedenom samitu.

Microsoft je u objavi na blogu poručio da se raduje "sljedećim koracima Velike Britanije u sazivanju samita, unaprjeđenju svojih napora u testiranju sigurnosti umjetne inteligencije i podržavanju veće međunarodne suradnje na upravljanju umjetnom inteligencijom".

Regulatori i javnost nisu upućeni u primjenu AI u gospodarstvu

Britanska vlada inzistira na tome da će imati pravu kombinaciju sudionika iz svjetskih vlada, akademske zajednice, civilnog društva i gospodarstva.

Institute for Public Policy Research, britanski think tank lijevog centra, rekao je da bi bila povijesna pogreška da se tehnološka industrija ostavi sama regulirati bez nadzora vlasti.

Regulatori i javnost uglavnom nemaju pojma o tome kako se umjetna inteligencija primjenjuje u cijelom gospodarstvu. Ali samoregulacija nije uspjela za tvrtke društvenih medija, nije uspjela za financijski sektor, a neće uspjeti ni za AI, poručuje Carsten Jung, viši ekonomist navedenog think tanka.

Izvor: AP