Već treba razmišljati o upravljanju superinteligencijom: Hoće li donijeti utopističku budućnost ili će zaprijetiti našoj egzistenciji?

Generativna AI poput chatbota ChatGPT nikoga nije ostavila ravnodušnim. Čini se kako je sa svojim mogućnostima već sada nadmašila očekivanja i najvećih AI optimista, a jasno je kako će se njen rapidan razvoj nastaviti i dalje. Sa sve većim napretkom i mogućnostima, čini se kako je neizbježno da ćemo u budućnosti imati superinteligenciju, odnosno sustave bazirane na AI koji će biti značajno bolji u odnosu na današnju generativnu AI.

tri vijesti o kojima se priča MISTERIOZNA MRLJA Objavljena fotografija crvene mrlje na Trumpovom vratu: Oglasila se Bijela kuća PRIJETI ESKALACIJA VIDEO Izraelci pokrenuli nove napade na Teheran pa objavili da su ubili 1500 Iranaca. Porastao i broj poginulih američkih vojnika Dobro je znati Koje su najsigurnije zemlje za život u slučaju trećeg svjetskog rata: Imamo popis

Pročitajte i ovo Ne samo šefova AI tvrtki Stručnjaci upozoravaju: Pri regulaciji AI treba slušati mišljenje različitih stručnjaka

Kad će se to dogoditi i kako će se to odraziti na svijet u kojem živimo, nije poznato i teško je predvidjeti. Ako pitate ekipu iz OpenAI-a, kompanije koja je razvila ChatGPT, tako nešto i nije toliko daleko i govorimo o razdoblju od deset godina. Tako barem razmišljaju Sam Altman, Greg Brockman i Ilya Sutskever koji su u zajedničkoj objavi na blogu kompanije napisali kako već sada treba razmišljati o vremenu u kojem ćemo živjeti zajedno s takvom superinteligencijom.

Među inim, na blogu su napisali kako su razlozi zbog kojih uopće razvijaju AI jest da će nas umjetna inteligencija voditi u bolji svijet u odnosu na onaj koji uopće možemo zamisliti te će omogućiti veliki ekonomski rast i povećanje kvalitete života, a drugi je što je superinteligenciju nemoguće zaustaviti. Ona je već sada dio tehnološkog napretka kojem svjedočimo i broj aktera koji je koriste sve je veći.

Takva bi inteligencija trebala nadmašiti vještine stručnjaka u većini domena, uz učinkovitost kakvoj ljudi, čini se, neće moći parirati te će to biti najmoćnija tehnologija u odnosu na sve druge tehnologiju iz prošlosti. Omogućit će nam dramatično veći prosperitet, no jasno, uz nju će biti vezani različiti rizici. Trojac iz AI-a čak spominje i egzistencijalne rizike zbog kojih ne možemo biti samo reaktivni.

Što se regulacije umjetne inteligencije tiče, o čemu je Altman nedavno razgovarao i s američkim senatorima, potrebno je već danas poduzeti prve korake kako bi dočekali spremni superinteligenciju. Pri tome je od velike važnosti da donošenje pravila, zakona i regulativa koja je zamišljena kako bi nas zaštitila od lošeg djelovanja umjetne inteligencije ne bi smjela ograničiti razvoj umjetne inteligencije koja ima nevjerojatno velik potencijal.

Regulativa

Pročitajte i ovo Sam Altman Šef OpenAI-a smatra da je potrebna regulacija umjetne inteligencije

Kakva su razmišljanja vodećih ljudi OpenAI-a o prvim koracima koje treba poduzeti za zaštitu umjetne inteligencije u budućnosti, možemo pročitati na spomenutom blogu. Za početak, smatraju kako je potreban određeni nivo koordinacije i suradnje među onima koji razvijaju umjetnu inteligenciju, kako bi se osigurala sigurnost, ali i integracija takvih sustava s društvom. Spominju kako pri tome svoj obol moraju dati države, ali i individualne kompanije koje bi trebale zadržati visoke standarde pri razvoju AI alata i ponašati se odgovorno pri tome.

Kao drugi važan korak smatraju osnivanje neke vrste agencije poput međunarodne agencije za atomsku energiju koja bi imala višestruku ulogu u regulaciji i praćenju razvoja umjetne inteligencije. “Važno je da se takva agencija fokusira na smanjenje egzistencijalnog rizika, a ne na izazove koje trebaju ostaviti individualnim državama poput definiranja što bi se trebalo dopustiti da AI govori”, stoji u objavi na blogu.

Takva bi agencija mogla provoditi istrage, testirati usklađenost sa zakonima i normama, brinuti se za sigurnost razvoja, ograničavati taj razvoj kompanijama koje ne posluju u skladu s nekim općeprihvaćenim normama ili zakonima itd. Kompanije bi već danas trebale implementirati neke od takvih elemenata, a isto bi mogle napraviti i države.

Gledate li na budućnost pozitivno ili negativno?

Pročitajte i ovo Zahtjeva sigurnost AI proizvoda Šefovi tehnoloških kompanija posjetili Bijelu kuću i razgovarali o sigurnosti i opasnostima AI

No ono o čemu svakako treba voditi računa jest da cijeli proces bude pod budnim okom javnosti te da bi ljudi na demokratski način trebali odlučivati o granicama i onom što je dopušteno za AI sustave.

Dakle, što se naše budućnosti tiče, sve je otvoreno. S jedne strane Altman i ekipa iz OpenAI-a govore o utopističkoj ideji kako bi ljudski rod zahvaljujući umjetnoj inteligenciji i strojevima mogao živjeti u puno boljem i ljepšem svijetu, dok s druge strane spominju kako ova tehnologija predstavlja prijetnju našoj egzistenciji.

Nadamo se kako ćemo za deset godina biti bliži ovom prvom razmišljanju o boljem svijetu (dakako, ako njime bude dominirala superinteligencija, pitanje je što će ljudi tada raditi), nego ovom drugom o egzistencijalnoj ugroženosti.