EK predložila pravni okvir za umjetnu inteligenciju: Definiraju pravila i obaveze, ali i stupanj rizika za ljude

Europska komisija je u srijedu predložila novi pravni okvir za umjetnu inteligenciju koji bi trebao pojačati povjerenje korisnika, jamčiti sigurnost i poštovanje temeljnih prava i potaknuti ulaganja i inovacije u tom području.

Pročitajte i ovo Bez lutanja i istraživanja Sprema li Google kraj interneta kakav poznajemo? Pitanje budućnosti Od nje se puno očekuje, no žene su prema njoj skeptične više nego muškarci. Razlog je vrlo jasan

tri vijesti o kojima se priča sumnjiv teret Policija na A1 Talijanu otvorila hladnjaču i ostala zatečena onime što je prevozio Prvi put Nezapamćen potez u Vatikanu: Papa Lav XIV. danas predstavlja nešto što nijedan papa prije njega nije ništa bez mame Ročnik se razbolio na obuci, majka šokirana potezom vojske: "Pa nisam ga poslala u vrtić!"

Povjerenje u umjetnu inteligenciju je imperativ, a ne tek zgodna opcija. Ovo su važni propisi kojima Unija predvodi razvoj novih globalnih normi koje će biti jamstvo povjerenja u umjetnu inteligenciju. Postavljajući standarde možemo otvoriti put razvoju etične tehnologije u svijetu i pritom očuvati Unijinu konkurentnost, izjavila je izvršna potpredsjednica Komisije Margrethe Vestager.

Nova Uredba o umjetnoj inteligenciji Europljanima će biti jamstvo povjerenja u ono što umjetna inteligencija nudi.

Umjetna inteligencija je sredstvo, a ne cilj. Postoji već desetljećima, ali zahvaljujući računalnoj snazi dosegla je nove mogućnosti. To znači golem potencijal u najrazličitijim područjima kao što su zdravlje, promet, energetika, poljoprivreda, turizam ili kibernetička sigurnost, izjavio je povjerenik za unutarnje tržište Thierry Breton.

Nova će se pravila izravno primjenjivati na isti način u svim državama članicama na temelju definicije umjetne inteligencije koja je prilagođena budućim okolnostima. U njihovoj je izradi korišten pristup koji se temelji na procjeni stupnja rizika.

Tako će neprihvatljiv rizik predstavljati sustavi koji se smatraju jasnom prijetnjom sigurnosti, sredstvima za život i pravima ljudi i bit će zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu volju (npr. igračke s glasovnom pomoći koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju „društveno vrednovanje”.

Kao visokorizični smatrat će se sustavi umjetne inteligencije koji obuhvaćaju tehnologiju koja se upotrebljava u kritičnoj infrastrukturi (npr. prometnoj), onu koja može ugroziti život i zdravlje građana u strukovnom obrazovanju ili osposobljavanju te onu koje osobi može odrediti pristup obrazovanju i usmjeriti profesionalni život (npr. bodovanje ispita).

U visokorizičine spada i primjena umjetne inteligencije u robotski potpomognutim kirurškim zahvatima, u zapošljavanju, kadrovskom upravljanju i pristupu samozapošljavanju (npr. softver za razvrstavanje životopisa u postupcima zapošljavanja), u osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti koje građanima može uskratiti mogućnost da podignu kredit), provođenju zakona gdje se može kositi s temeljnim pravima građana (npr. evaluacija pouzdanosti dokaza), upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava).

Za visokorizične sustave vrijedit će stroge obveze koje moraju ispuniti prije stavljanja na tržište. To uključuje odgovarajuće sustave procjene i smanjenja rizika, visoku kvaliteta ulaznih podataka kako bi se smanjili rizici i diskriminatorni rezultati, evidentiranje aktivnosti radi sljedivosti rezultata, podrobnu dokumentaciju sa svim informacijama o sustavu i njegovoj namjeni koje su potrebne tijelima za ocjenjivanje sukladnosti, jasne i primjerene informacije za korisnike, kao i odgovarajuće mjere ljudskog nadzora radi minimiziranja rizika.

Primjerice, strogim uvjetima podliježu svi sustavi daljinske biometrijske identifikacije jer ih se smatra visokorizičnima. Njihova je upotreba u stvarnom vremenu u javnim prostorima u načelu zabranjena.

Iznimke su strogo definirane, regulirane i ograničene na najnužnije situacije, npr. kad se koriste u potrazi za nestalim djetetom, za sprečavanje konkretne i neposredne terorističke prijetnje ili za otkrivanje, lociranje, identificiranje ili istragu protiv počinitelja teškog kaznenog djela ili osumnjičenika za takvo djelo. Takvu upotrebu mora odobriti sudsko ili drugo neovisno tijelo i mora biti ograničena vremenski, zemljopisno i na određene baze podataka.

Ograničeni rizik predstavljaju sustavi umjetne inteligencije s posebnim obvezama u pogledu transparentnosti: Korisnici sustava kao što su chatbotovi trebali bi znati da je riječ o interakciji sa strojem kako bi mogli utemeljeno odlučiti žele li se upustiti u nju ili odustati.

Što se tiče minimalnog rizika, prijedlog propisa omogućuje neograničeno korištenje umjetne inteligencije u videoigrama ili filtrima za neželjenu e-poštu. U tu kategoriju spada većina sustava umjetne inteligencije. Nacrt uredbe ih ne regulira jer su ti sustavi slabo ili nimalo rizični za prava i sigurnost građana.

Komisija je predložila i novu uredbu o novim strojevima, koja će zamijeniti postojeću direktivu o strojevima.

Strojevi obuhvaćaju raznovrsne proizvode za osobnu i profesionalnu upotrebu: robote, kosilice, 3D pisače, građevinske strojeve, industrijske proizvodne linije i druge.

Direktiva o strojevima, koju će zamijeniti nova Uredba o strojevima, definirala je zdravstvene i sigurnosne uvjete za strojeve. Novom će se uredbom zajamčiti sigurnost nove generacije strojeva za korisnike i potrošače te potaknuti inovacije.

Sigurnosni rizici sustava umjetne inteligencije obuhvaćeni su Uredbom o umjetnoj inteligenciji, a novom Uredbom o strojevima uredit će se sigurna integracija tih sustava u strojeve općenito. Poduzeća će morati provesti samo jedno ocjenjivanje sukladnosti.