Šef za AI sigurnost napustio je jednu od najistaknutijih svjetskih tvrtki za umjetnu inteligenciju uz ozbiljno upozorenje o povijesnom trenutku u kojem se čovječanstvo nalazi. Odluka, najprije priopćena interno e-mailom, a potom prenesena i javno, njegov odlazak tumači kao odgovor na trenutačne globalne rizike, a ne samo kao uobičajeni profesionalni zaokret.
Mrinank Sharma, koji je naveo da je vodio tim za istraživanje zaštitnih mehanizama u tvrtki Anthropic, potvrdio je u oproštajnom pismu objavljenom u ponedjeljak da napušta tu tvrtku, prenosi Business Insider. Kolegama je poručio da mu je posljednji radni dan 9. veljače. U pismu je razloge odlaska opisao kao spoj profesionalnog zaokruženja i etičke nelagode.
Postigao sam sve što sam želio ovdje, napisao je Sharma, navodeći rad na smanjenju rizika od bioterorizma potpomognutog umjetnom inteligencijom, uvođenje tih zaštita u stvarne sustave te doprinos ranim sigurnosnim analizama umjetne inteligencije.
Prijelomni trenutak za čovječanstvo
Središnji dio Sharmine poruke odnosi se na širi kontekst razvoja napredne umjetne inteligencije. Svijet je u opasnosti. I ne samo zbog umjetne inteligencije ili biološkog oružja nego zbog čitavog niza međusobno povezanih kriza koje se odvijaju upravo u ovom trenutku, napisao je u pismu upućenom sad već bivšim kolegama.
Upozorio je i na neravnotežu između moći i razboritosti.
Čini se da se približavamo pragu na kojem naša mudrost mora rasti istom mjerom kao i naša sposobnost da utječemo na svijet. U suprotnom ćemo se suočiti s posljedicama, poručio je Sharma.
Tijekom svojeg vremena ovdje više sam puta vidio koliko je teško doista dopustiti da naše vrijednosti upravljaju našim postupcima. Vidio sam to u sebi, unutar organizacije, gdje se stalno suočavamo s pritiscima da zanemarimo ono što je najvažnije, kao i u široj društvenoj zajednici, pojasnio je Sharma, osvrćući se na protekle osobne i institucionalne napetosti.
Njega čeka potpuni zaokret, a Anthropic - se širi
Sharma je naveo da planira raditi poslove usklađene s vlastitim integritetom, razmotriti studij poezije i posvetiti se onome što opisuje kao hrabar javni govor.
Njegov odlazak slijedi nakon drugih nedavnih odlazaka ključnih ljudi u toj tvrtki, dok se tvrtka istodobno širi. Anthropic je razgovarao o prikupljanju novog kruga financiranja koji bi ga mogao vrednovati na oko 320 milijardi eura te je nedavno predstavio Claude Opus 4.6, novi AI model usmjeren na povećanje produktivnosti i poboljšanje programiranja.