"Ovo je čudno i uznemirujuće": Umjetna inteligencija otela se kontroli i počela raditi stvari koje ne bi smjela

Ranije ove godine Snapchat je predstavio vlastiti AI chatbot My AI, koji je baziran na ChatGPT-u. Prvi čovjek kompanije Evan Spiegel odmah pri predstavljanju upozorio je na potencijalne nedostatke chatbota te se unaprijed ispričao svim korisnicima za eventualne probleme koje bi mogli imati s tim alatom dizajniranim za razgovor s korisnicima. Nakon lansiranja u nekim je slučajevima chatbot odgovarao neprimjerenim komentarima, na što su iz Snapa komentirali da je potrebno još poraditi na njegovoj sigurnosti i roditeljskim kontrolama.

tri vijesti o kojima se priča PRIJETI ESKALACIJA VIDEO Izraelci pokrenuli nove napade na Teheran pa objavili da su ubili 1500 Iranaca. Porastao i broj poginulih američkih vojnika Dobro je znati Koje su najsigurnije zemlje za život u slučaju trećeg svjetskog rata: Imamo popis USKO GRLO SVIJETA Iranska "nuklearna opcija": Ako to provedu, udarit će Trumpa tamo gdje je najslabiji

Pročitajte i ovo Poslao zanimljivu poruku Ne koristi računala, ali upozorava na opasnosti umjetne inteligencije: Moramo biti budni!

No čini se kako se ovog tjedna My AI oteo kontroli i počeo raditi stvari koje ne bi smio. Tako je objavio story na kojem je, čini se, prikazan zid, što je sve korisnike iznenadilo, a neke i šokiralo. Nakon tog neočekivanog poteza umjetne inteligencije korisnici su upitali Snapchatovu umjetnu inteligenciju je li ona zaista objavila vlastiti story, na što je chatbot odgovorio s isprikom i napomenom kako ima tehničkih problema.

Did Snapchat Ai just add a picture of my wall/ceiling to their Snapchat story?

Snapchat AI - Left

My wall/ceiling- Right pic.twitter.com/bh8I3Aiwun

— Matt Esparza (@matthewesp) August 16, 2023

Ubrzo nakon toga snimke zaslona sa Snapchata preplavile su Twitter, tj. platformu X, a korisnici su imali različite komentare na umjetnu inteligenciju koja je, na svoju ruku i bez korisnikova inputa odlučila objaviti story, što je mogućnost koju bi na ovoj društvenoj mreži trebali imati samo korisnici, ne i AI chatbot. AI je napravila ono što se od nje ne traži i što u biti ne smije raditi, no, srećom, u slučaju Snapchata to otimanje kontrole odnosi se samo na objavu čudnog storyja.

Ovo je čudno i uznemirujuće, mislim da sam gledala ovaj film ranije… i nije mi se svidio kraj, samo su neki od komentara zbunjenih korisnika.

Iz Snapa su smirili zabrinute korisnike rekavši kako nije došlo ni do kakvog otimanja kontrole niti je AI chatbot počeo raditi stvari na svoju ruku, već je riječ samo o tehničkoj pogrešci. Ta je pogreška, komentirali su za Tech Crunch, sada riješena te se My AI može nastaviti koristiti kao i dosad.

Users’ personal Snapchat AI chatbot known as ‘My AI’ has posted its own story and stopped responding to messages. pic.twitter.com/GlktCcsEJr

— Pop Base (@PopBase) August 16, 2023

Pročitajte i ovo Hipnotiziranje AI Sigurnosni stručnjaci upozoravaju: Nemojte vjerovati svemu što vam chatbotovi s umjetnom inteligencijom napišu

No dio korisnika sada od kompanije traži odbacivanje te opcije, odnosno chatbota koji se nalazi na vrhu razgovora unutar Snapchata i ne može se ukloniti. Oni nezadovoljni tako traže mogućnost da ga u potpunosti uklone iz svoje platforme ili da Snap barem omogući njegovu deaktivaciju.