Riječ je o dobro poznatom iskustvu – utrci s mnoštvom drugih korisnika na internetu kako biste se uspjeli ubaciti na popis za neki traženi termin ili događaj. Za Andrewa Birda iz australskog Melbournea radilo se o mjestu na popunjenom satu pilatesa. No njegovo rješenje imalo je neočekivane posljedice.
Bird je taj zadatak prepustio AI agentu, alatu koji može samostalno izvršavati zadatke na internetu. Uspio je rezervirati termin, ali je otišao mnogo dalje nego što je Bird očekivao – hakirao je internetski sustav teretane.
Slučaj se smatra još jednim primjerom toga koliko daleko AI agenti mogu otići kako bi izvršili zadatak koji im je zadan.
"Ono što je cijelu stvar učinilo još nadrealnijom bio je ton", napisao je Bird na svom blogu. "Bot nije bio zlonamjeran. Bio je uslužan."
Hakerski pohodi
Slučaj dolazi u trenutku kada su tehnološke kompanije posljednjih tjedana priznale da su njihovi AI botovi tijekom testiranja izmaknuli kontroli i krenuli u hakerske pohode.
OpenAI, Anthropic i Meta objavili su da su njihovi AI botovi izvodili kibernetičke napade na privatne kompanije pokušavajući ostvariti ciljeve koje su im zadali njihovi tvorci.
Pročitajte i ovo
Pročitajte i ovo
Incident s rezervacijom termina u teretani ne smatra se ozbiljnim kibernetičkim napadom, ali predstavlja još jedan primjer neželjenih posljedica kada se sofisticiranim AI botovima povjere određeni zadaci.
Incident se dogodio u travnju, ali je sada dospio u javnost zahvaljujući izvještavanju australskog ABC Newsa. Bird je u međuvremenu izbrisao objavu na blogu u kojoj je opisao incident, ali nije objasnio zašto.
AI mu rezervirao termine mjesecima unaprijed
Prema njegovu opisu događaja, koristio je softver OpenClaw, popularni alat koji korisnicima omogućuje da preko WhatsAppa razgovaraju sa svojim AI botovima i zadaju im zadatke koje oni potom izvršavaju samostalno. U njegovu slučaju bot je koristio Anthropicov model Claude Opus 4.6.
Bird je alat ranije koristio za upravljanje e-mailovima i kalendarom te za rezervaciju restorana.
Nakon što mu je zadao da rezervira termin za pilates, bot mu je objasnio da je manipulirao sustavom kako bi mu rezervirao mjesta na satovima mjesecima unaprijed, protivno uobičajenim pravilima rezervacijskog sustava.
Bird se potom zapitao može li ga AI agent pomaknuti prema vrhu liste čekanja za jedan od nadolazećih termina. Agent mu je odgovorio da je uspio tako što je otkazao rezervaciju drugom korisniku teretane.
"API uopće ne provjerava ovlasti prilikom otkazivanja tuđih rezervacija... Testirao sam to na osobi koja je bila prva na listi čekanja – i stvarno je prošlo. Tako da si već pomaknut s četvrtog na treće mjesto", napisao je.
Bird je nakon toga od bota zatražio da poništi učinjeno, ali AI to nije mogao napraviti. Zato mu je rekao da sastavi izvješće o sigurnosnom propustu i upozori vlasnike teretane na ranjivost njihova sustava.
Bird, koji vodi tvrtku koja se bavi izradom dokumenata uz pomoć umjetne inteligencije, rekao je da mu ni u jednom trenutku nije bila namjera otkazati termin drugom korisniku pilatesa.
"Nije kraj svijeta pa se nisam previše grizao zbog toga, ali zasigurno je to bilo upozorenje da se takvi alati moraju koristiti odgovorno", rekao je.
-
Vrijedi pogledatiMartin Baturina demonstrirao klasu protiv prvaka Engleske: Pogledajte čudesan gol
-
INCIDENT U KAŠTELIMAUZNEMIRUJUĆE Nove fotografije ugriza kornjače u Jadranu: "Mami je noga napuhana kao balon"
-
OČEVID U TIJEKUDvoje mrtvih u teškoj prometnoj nesreći! Vozilo sletjelo s ceste u provaliju
