Treba li vam recept za brzi obrok? Ideja za dobar izlet? Možda plan za tjelovježbu ili netko za ozbiljan razgovor? Sve je više ljudi koji za sve te stvari pomoć traže od umjetne inteligencije, zbog čega AI postaje sve važniji čimbenik u životima mnogih, a malo je onih koji već više od desetljeća razmišljaju o utjecaju koji će on imati na naše živote.
Jedna od onih koji o AI-u duboko razmišljaju je Kay Firth-Butterfield, dobitnica nagrade TIME100 AI Impact Award i prva globalna čelnica za etiku AI-a u Svjetskom gospodarskom forumu.
Ona će na ovogodišnjem Greencajt festivalu, koji se u Zagrebu održava od 1. do 3. lipnja, pokušati odgovoriti na pitanje: Samo zato što AI može – treba li?
Pročitajte i ovo
Ususret tom predavanju s njom smo razgovarali o etičnom korištenju i utjecaju AI-a na ljudske živote, a otkrila je i koje su najčešće zablude koje ljudi imaju o umjetnoj inteligenciji.
Već više od deset godina pozivate na etično i mudro korištenje umjetne inteligencije. Što to znači u praksi?
Za moguće interakcije ljudi i AI-a postala sam zainteresirana 2010. godine, nakon što sam pročitala knjigu Rayja Kurzweila "The Singularity is Near". Godine 2013. počela sam aktivno istraživati i baviti se temom, a 2014. godine postala sam prva globalna čelnica za etiku umjetne inteligencije.
Tada smo se uglavnom bavili pitanjem što bi se dogodilo ako AI postane superinteligentan i nesputan. Kako bi se odnosio prema ljudima? Bi li ga bilo "briga" te kako bismo trebali/mogli spriječiti neželjene posljedice stroja koji je pametniji od svih nas?
Kako smo počeli primjećivati da se AI koristi u poslovanju, drugi su nam problemi postali očiti i 2014./2015. počeli smo razmišljati o standardu za dizajn, razvitak i korištenje AI-a u kontekstu njegova utjecaja na radnike, građane i potrošače.
Počeli smo razmišljanjem o etici, no ubrzo je postalo jasno da su ljudi diljem svijeta zabrinuti zbog umjetne inteligencije, ali da ne dijele iste etičke okvire. Stoga smo počeli koristiti pojmove poput Odgovornog ili Pouzdanog AI-ja da bismo opisali što pokušavamo postići – AI koji pomaže, a ne šteti ljudima. Do 2020. godine većina zemalja svijeta razvila je vlastitu predodžbu o tome što Odgovorni AI znači, a kad je moj tim pri Svjetskom ekonomskom forumu te predodžbe sažeo, otkrio je da se određeni elementi pojavljuju u svakom takvom dokumentu. Ispostavilo se da svi na svijetu od AI-a želimo isto, ali tada nismo uspjeli, niti smo do danas uspjeli, pronaći način kako to ostvariti na međunarodnoj razini.
AI bi trebao biti:
- nepristran
- pravedan
- siguran, pouzdan i robustan
- ne zadirati u našu privatnost
- objašnjiv i transparentan
- uz omogućavanje ljudskog djelovanja
- odgovoran
- zakonit
- a nedavno smo dodali i održiv (budući da svaki upit troši pola litre vode u podatkovnom centru, a AI troši ogromne količine električne energije, potreba za održivim ponašanjem nikada nije bila važnija).
Godine 2023. sve se promijenilo dolaskom velikih jezičnih modela (LLM-ova) i chatbotova. ChatGPT je bio prvi, a uslijedili su i mnogi drugi. Oni troše velike količine resursa i široko su prihvaćeni u poslovnom svijetu (gdje su neki zamijenili ljudske radnike), u društvenom životu (gdje ih neki koriste kao zamjenu za ljudske partnere) te u upravljanju državom. Pate od svih gore navedenih problema, ali i od halucinacija (davanja pogrešnih odgovora na pitanja). Uz to, istraživanja pokazuju da ljudi koji koriste AI zapravo postaju manje obrazovani i gube sposobnost kritičkog razmišljanja.
Pročitajte i ovo
Pokušaj da se osigura da se AI koristi mudro te bavljenje svim tim problemima u društvu, poslovnom svijetu i državnom vlasti čini ono što nazivamo mudrom primjenom AI-a. Ja dajem prednost ljudima nad strojem i postavljam važna pitanja o tome što će se dogoditi s ljudima ako strojevi preuzmu naše poslove, ako se o nama budu brinuli dok smo djeca i stari te kako će se naše društvo prilagoditi da bi čovjek ostao na prvom mjestu. To je iznimno važno jer se novac usmjerava prema AI-u, a ne prema ljudima! Također provodimo istraživanja o tome kako isključiti AI ako postane presložen, premoćan i prijetnja životu na Zemlji.
U svojoj knjizi analizirate utjecaj AI-a tijekom sedam životnih faza čovjeka, od dojenačke dobi do starosti. Hoće li AI jednako utjecati na sve faze? Trebamo li posebnu pozornost posvetiti njegovu utjecaju na neku određenu fazu?
Svaka je faza važna, ali smatram da bismo se trebali usredotočiti na to kako će ljudi suživjeti s AI-em, što znači da moramo osigurati da naši mladi budu pismeni o AI-u i da ne upadnu u zamku ovisnosti o AI-u.
Već znamo da, kada ljudi tipkaju, pamte manje nego kada pišu. Također znamo da, kada čovjek sam provodi istraživanje, bolje ga pamti i može primijeniti kritičko razmišljanje na rezultate bolje nego kada koristi AI. Da bi ljudi nastavili napredovati, moramo koristiti vlastiti mozak, a ne prepustiti ga stroju. Isto tako, ako ste u intimnoj vezi s chatbotom, vaš pogled na svijet će se suziti, a način na koji koristite AI na poslu i u drugim aspektima života pokazivat će razinu povjerenja koja je opasna. Organizacije moraju pažljivo razmisliti o tome kako educirati takve pojedince, posebno ako su oni ti koji nadgledaju AI sustave.
Dakle, sve počinje s roditeljima. Prije nego što djetetu date igračku s AI funkcijama, pobrinite se da dovoljno znate o tome što ta igračka radi, koje AI funkcije koristi i kako će obrazovati vaše dijete. Slično je kao s društvenim mrežama. Vaše dijete morat će znati kako ih koristiti, ali ključna stvar koju trebate znati i naučiti je kako ih koristiti MUDRO.
To nije magija, to je stroj koji ima mnoge nedostatke i ljudi moraju biti svjesni da moraju imati kontrolu. Isto treba vrijediti i u školi. Nastavnici moraju biti pismeni što se tiče AI-a da bi osigurali da učenici ispravno koriste stroj. Na primjer, ako učenik koristi AI za istraživanje, kako će znati daje li stroj točan odgovor ili ne? Ako slijepo vjeruju odgovorima, naučit će mnogo pogrešnih stvari. Učenici također moraju razumjeti da, ako AI radi sve umjesto njih, neće ništa naučiti te tako gube sposobnost razmišljanja i propitivanja onoga što čuju, a to je, primjerice, ključno za demokracije.
Pismenost šire javnosti o AI-u najvažnija je stvar koju bismo mogli podučavati roditelje, radnike, poslovne lidere, političare i umirovljenike. Starije osobe sve će više ovisiti o AI-u jer imamo premalo ljudi koji su voljni skrbiti o njima, pa će razumijevanje kako AI funkcionira, i kako ne funkcionira, biti ključno za taj dio populacije.
Najveće zablude o AI-u
Ne analizirate samo utjecaj koji će AI imati na pojedince, već i strukturne promjene koje će se dogoditi u upravljanju te u načinu donošenja i provedbe odluka. Koje značajne promjene predviđate?
U našem društvu postoji snažan pritisak da sve bude jeftinije i brže, a čini se da uvođenje AI-a to omogućuje. Međutim, bez dobrog upravljanja načinom na koji koristimo AI i bez pismenosti o AI-u riskiramo da sami sebi stvorimo probleme. Na primjer, mnogo se govori o tome kako će AI poboljšati zdravstvo, ali nedavni izvještaj u Nature Medicineu navodi da su "dokazi da AI alati stvaraju vrijednost za pacijente, pružatelje zdravstvenih usluga ili zdravstvene sustave rijetki".
Pročitajte i ovo
Umjesto da se prepuštamo hypeu, trebamo napraviti korak unatrag i zapitati se što želimo da AI radi za nas. Želimo li da obavlja naše poslove da bismo imali slobodno vrijeme? Ako želimo, kako restrukturirati naša gospodarstva da to bude moguće? Želimo li da se roboti brinu za nas kad ostarimo? Postoje li poslovi za koje smatramo da ih treba obavljati čovjek i, ako postoje, koji su?
Na primjer, predloženo je da bi, budući da liječnici koriste određene fraze pri objašnjavanju smrtne dijagnoze pacijentima, AI mogao obavljati taj posao i biti empatičniji jer su sustavi vješti u uvjeravanju da im je stalo. Važno je zapamtiti da je to stroj. On ne razumije život, smrt, osjećaje ni što znači biti čovjek, ali se može "pretvarati"/manipulirati da bismo mislili da razumije.
Mislite li da ljudi razumiju kakav će utjecaj AI imati? Postoji li neka česta zabluda o AI-u koju biste posebno istaknuli?
AI se doživljava kao čarobni štapić ili božanstvo, toliko pametno i moćno da može riješiti mnoge probleme koje su ljudi stvorili. Na primjer, Eric Schmidt, bivši izvršni direktor Googlea, rekao je Kongresu da će do 2030. AI koristiti do 95 posto sve svjetske energije.
Istovremeno imamo ogroman klimatski problem. Prisutna je tendencija da se tvrdi kako se ne trebamo brinuti o AI-u i klimi jer će AI riješiti klimatske promjene, ili da će izliječiti rak i slične velike tvrdnje. U praksi se te grandiozne tvrdnje ne ostvaruju, već vidimo da se AI prodaje vladama i poduzećima radi postizanja učinkovitosti. Naravno, napravljeni su neki izvanredni pomaci, ali oslanjati se na AI kao svog spasitelja opasno je za nas.
Druga zabluda je da može donositi nepristrane odluke i da bi bio bolji sudac od čovjeka. U stvarnosti, AI se koristi svime što su ljudi ikada rekli ili stvorili, a velik dio toga je strašno pristran. Kao sudac bih mogla objasniti svoju presudu i biti osporena. AI jednostavno ne može objasniti kako je donio odluku jer funkcionira kao crna kutija. Možemo znati što je ušlo i što je izašlo, ali ne i kako je do te odluke došao.
Treba li biti optimist ili pesimist?
Ovom se temom bavite više od deset godina. Kako su se stavovi ljudi prema AI-u u tom razdoblju promijenili?
Godine 2014. Stephen Hawking je rekao da će AI biti ili najbolja stvar koju su ljudi ikada napravili ili posljednja. Kada sam počela raditi na ovoj temi, o AI-u se uglavnom govorilo samo u istraživačkoj zajednici, ali kako smo vidjeli da se razvija kroz strojno učenje koje mu je omogućilo da razlikuje mačke od pasa te da se koristi na društvenim mrežama, sve više ljudi počelo je govoriti o njemu.
No sjela bih na javnom mjestu i ne bih očekivala da će šira javnost razgovarati o AI-u. To se promijenilo i sada gotovo svaki put kad izađem jesti čujem barem jednu osobu kako govori o AI-u. Nakon 2023. i pojave chatbotova (LLM-ova) tema je u svačijim mislima.
U nedavnoj anketi 44 posto generacije Z priznalo je da je pokušavalo sabotirati napore svojih tvrtki u uvođenju AI-a kako bi sačuvali radna mjesta. U nedavnoj anketi u samo je jednoj od 20 anketiranih zemalja stanovništvo vidjelo više koristi od AI-a nego nedostataka. Mislim da svi razmišljaju o tome kako će to utjecati na njih i njihov život, a ne osjećaju da sudjeluju u raspravi.
K tome, svi su vidjeli koliko loše AI utječe na društvene mreže i kakav je utjecaj društvenih mreža na naše živote, što pojačava zabrinutost. Zbog toga sam napisala ovu knjigu. Svi moramo bolje razumjeti prednosti i probleme AI-a kako bismo mogli donositi odluke koje maksimiziraju koristi i minimiziraju negativnosti, bilo u vlastitom životu, javnom prostoru ili poslovnom svijetu.
Jeste li optimist ili pesimist kada je u pitanju AI? Ili se možda nalazite negdje u sredini?
Uz dobro upravljanje i promišljenu primjenu, vjerujem da će AI moći pomoći ljudima. No moramo donositi odluke o tome što ljudima treba od AI-a umjesto da, kao što smo do sada radili, trošimo ogromne količine novca na AI bez jasnog razumijevanja kako pomaže čovječanstvu ili planetu.
