Intervencija službenog Washingtona u ograničavanju pristupa najnovijim AI modelima Antrhropica otvorila je šire pitanje, može li se usporiti napredne mogućnosti umjetne inteligencije ciljanjem jedne kompanije?
Prošli tjedan Anthropic je uklonio modele Claude Fable 5 i Mythos 5 iz široke uporabe, nakon što je američka direktiva o kontroli izvoza zabranila pristup tim AI modelima "svim stranim državljanima". Tvrtka je od petka u pregovorima, ali još nije osigurala dogovor koji bi omogućio ponovnu aktivaciju tih AI modela za široku uporabu.
Zašto je Mythos važan?
Od predstavljanja Mythosa u travnju, Anthropic je upozoravao da taj model može otkrivati ranjivosti softvera u svrhu povećanja kibernetičke sigurnosti, ali istodobno i pomagati kibernetičkim napadačima u iskorištavanju tih slabosti.
"Velik dio napredne uporabe modela umjetne inteligencije ima dvojnu namjenu: isti upiti koji su korisni u rukama stručnjaka za kibernetičku sigurnost i istraživača biologije, mogu biti opasni ako su dostupni zlonamjernim akterima", objavio je na svojem blogu Anthropic, predstavljajući AI modele Mythos 5 i Claude Fable 5.
Anthropic je u početku ponudio Mythos Preview odabranom konzorciju unutar radne skupine stručnjaka Project Glasswing. Mythos 5 je također bio privatno dostupan toj skupini. Claude Fable 5, čije sposobnosti su isto tako na razini Mythosa, bio je dostupan široj javnosti, ali uz blokade koje su onemogućavale odgovore na pitanja iz biologije i kibernetičke sigurnosti.
Šira zabrinutost AI industrije
Administracija Donalda Trumpa kasnije je ograničila pristup za oba modela, uz obrazloženje da se zaštitni mehanizmi Fablea 5 mogu zaobići, čime bi se omogućio pristup mogućnostima Mythosa 5 i time stvorio rizik za američku nacionalnu sigurnost.
"Vrlo je kratkovidno misliti da drugi konkurenti Anthropic-a neće razviti slične sposobnosti koje ima Mythos ili da ih već nisu razvili", izjavila je Tarah Wheeler, glavna direktorica za sigurnost u konzultantskoj tvrtki TPO Group, a prenosi portal Wired. Dodala je da druge kompanije možda već posjeduju usporedive sustave.
Anthropic ističe sličan stav. "Prava poruka nije da se radi o modelu ili o Anthropicu. Moramo se pripremiti sada za svijet u kojem će te sposobnosti biti široko dostupne u 6, 12, 24 mjeseca" rekao je za Wired Logan Graham, voditelj tima za sigurnosno testiranje naprednih sustava u Anthropicu.
Novi trend AI industrije
OpenAI je također privatno predstavio model usmjeren na kibernetičku sigurnost u travnju i proširio svoju strategiju u tom području, što dodatno pokazuje širi industrijski trend.
"Nije riječ o jednom modelu, nego o općem tehnološkom trendu", napisao je u članku za The Guardian Bruce Schneier, istraživač na Harvard University i University of Toronto.
"Pitanje politike nije postoji li rizik kod tehnologije. Pitanje je smanjuje li određeno ograničenje taj rizik na smislen način ili uglavnom usporava one koji pokušavaju učiniti sustave sigurnijima", naveo je za Wired Chris Wysopal, suosnivač cloud tvrtke za kibernetičku sigurnost Veracode.
