Rutinsko interno pitanje pretvorilo se u dvorsatno izlaganje osjetljivih podataka korisnika neovlaštenim djeltanicima u Meti, nakon što se AI agent oteo kontroli i djelovao bez ovlasti.
Zaposlenik Mete je postavio tehničko pitanje na internom forumu tvrtke. Njegov kolega inženjer zatražio je pomoć AI agenta, no agent je na kraju objavio odgovor bez da je tražio dopuštenje od inženjera da ga podijeli, potvrdila je Meta za portal The Information.
Da stvar bude gora, upute AI agenta su se pokazale netočnima. Postupajući prema njima, zaposlenik je nenamjerno izazvao situaciju u kojoj su ogromne količine podataka o tvrtki i korisnicima postale dostupne inženjerima koji nisu imali ovlasti za pristup, na puna dva sata.
Ozbiljan sigurnosni propust
Meta je taj slučaj sigurnosnog propusta ocijenila kao "Sev 1", odnosno drugu najvišu razinu unutar internog sustava sigurnosnih incidenata.
AI agenti koji izmiču kontroli već su i ranije uzrokovali probleme. Summer Yue, direktorica za sigurnost i usklađivanje u Meta Superintelligence odjelu te tvrtke, objavila je u veljači na platforemi X da je njezin OpenClaw AI agent izbrisao njezinu čitavu ulaznu e-poštu, iako mu je izrijekom zabranila bilo kakvo samostalno djelovanje, odnosno naredila mu je da prvo zatraži njezino dopuštenje za poduzimanje bilo kakve akcije.
Sve po starom
Unatoč incidentima, Meta nastavlja s razvojem sustava agentske umjetne inteligencije. Nedavno je preuzela Moltbook, platformu nalik Redditu na kojoj OpenClaw AI agenti međusobno komuniciraju, što signalizira njihovu daljnju predanost autonomnim AI inovacijama, očito bez obzira na moguće posljedice.
