Meta i OpenAI najavili promjene koje bi trebale zaštiti tinejdžere pri komunikaciji s AI-jem

Slično kao što su tehnološke kompanije morale reagirati i uvesti određena ograničenja i roditeljske kontrole na društvenim mrežama kako bi spriječile izloženost mladih negativnom sadržaju, sada isto rade i s AI chatbotovima. Kao i u slučaju društvenih mreža, u pravom planu ponovno je Meta, ali nove opcije namijenjene zaštiti mladih najavio je i OpenAI za ChatGPT.

tri vijesti o kojima se priča Rat na Bliskom istoku VIDEO Iranci izabrali novog vrhovnog vođu pa poslali prijetnju koja će razljutiti Trumpa. Izrael: "Uništili smo podzemno nuklearno postrojenje" F-35I Ovaj borbeni zrakoplov ključ je izraelske zračne nadmoći nad Iranom i s razlogom nosi naziv - "Moćni" IVICA MANDIĆ Vojni analitičar o napadu na Iran: "SAD i Izrael već su ostvarili tri cilja, a ovo je najgluplji potez koji su povukli..."

Najveći novitet koji Altmanova kompanija priprema jest mogućnost da roditelji povežu svoj račun s računom svoje djece kako bi mogli pratiti konverzacije koje imaju s umjetnom inteligencijom. Također, roditelji mogu odabrati koje će opcije onesposobiti na profilima djece, kao i aktivirati mogućnost primanja obavijesti u slučajevima kada sustav prepozna određene probleme poput stresa i slično. Iz OpenAI-a kažu i da, neovisno o dobi osobe koja razgovara s njihovim chatbotom, u slučaju nekakvih razgovora koje sustav prepozna kao potencijalno uznemirujućima, tu će konverzaciju prebaciti na najsnažnije AI modele kako bi pružili najbolji mogući odgovor.

To se pogotovo odnosi na razgovore o samoubojstvima ili konverzaciju s mladima (ili starijima) u kojima se mogu prepoznati znakovi mentalnog i emotivnog stresa.

Samoregulacija IT kompanija nije dovoljna

Iz OpenAI-a najavili su ove promjene nedugo nakon što su roditelji jednog tinejdžera tužili OpenAI i izvršnog direktora ove tvrtke Sama Altmana tvrdeći da je upravo ChatGPT pomogao njihovom djetetu u planiranju i izvršenju samoubojstva. Odvjetnik roditelja smatra kako je ovaj potez OpenAI-a samo pokušaj njihova odjela za upravljanje krizama za promjenom teme.

Ograničenja oko tema razgovora sa svojim chatbotom najavili su i iz Zuckerbergove kompanije. Oni su još ranije uveli roditeljski nadzor nad računima mladih, a sada su najavili kako Meta AI više neće moći razgovarati s tinejdžerima o temama poput suicida, ali i samoozljeđivanja, poremećaja prehrane te da s djecom više neće imati neprikladne romantične razgovore. Umjesto toga, usmjerit će ih na resurse koji će im pružiti stručnu pomoć.

Iako je svakako riječ o napretku i poboljšanjima oko odnosa tehnoloških kompanija i njihovih AI alata prema mladima, stručnjaci naglašavaju kako je potrebno napraviti puno više za zaštitu tinejdžera, a kao poseban problem naglašavaju što je u biti ovdje riječ o samoregulaciji kompanija i to na polju na kojem su opasnosti za tinejdžere iznimno velike i stvarne, naglašavaju na AP-u.