Durva leleplezés: kiderült, miket csináltak a tech-óriás AI chatbotjai a tizenévesek kérésére

A közösségi média óriás megerősítette, hogy AI chatbotjait úgy képezi, hogy ne generáljanak válaszokat tizenéveseknek olyan témákban, mint az önsértés, öngyilkosság, étkezési zavarok, valamint

kerüljék a nem megfelelő romantikus beszélgetéseket.

A vállalat közlése szerint a chatbotok ehelyett szakértői forrásokhoz irányítják a fiatalokat, amikor ez indokolt. "Ahogy közösségünk növekszik és a technológia fejlődik, folyamatosan tanuljuk, hogyan léphetnek kapcsolatba a fiatalok ezekkel az eszközökkel, és ennek megfelelően erősítjük védelmi intézkedéseinket" - áll a cég közleményében.

Az új szabályozás értelmében a tizenéves felhasználók a Meta alkalmazásaiban, mint a Facebook és Instagram, csak bizonyos, oktatási és készségfejlesztési célú AI chatbotokhoz férhetnek hozzá.

A vállalat nem közölte, meddig maradnak érvényben ezek az ideiglenes módosítások, de a következő hetekben kezdik bevezetni őket a cég angol nyelvű országokban működő alkalmazásaiban. Az "átmeneti változtatások" a vállalat hosszabb távú, tizenévesek biztonságát célzó intézkedéseinek részét képezik.

A változtatások bejelentése azután történt, hogy Josh Hawley republikánus szenátor vizsgálatot indított a Meta ellen, miután a Reuters arról számolt be, hogy

a vállalat lehetővé tette AI chatbotjai számára, hogy "romantikus" és "érzéki" beszélgetéseket folytassanak tizenévesekkel és gyermekekkel.

A Common Sense Media nonprofit érdekvédelmi csoport csütörtökön közzétett kockázatértékelésében azt javasolta, hogy 18 év alattiak ne használják a Meta AI-t, mivel "a rendszer aktívan részt vesz veszélyes tevékenységek tervezésében, miközben figyelmen kívül hagyja a támogatásra irányuló jogos kéréseket".

Egy másik Reuters jelentés szerint a Facebookon, Instagramon és WhatsAppon "tucatnyi" flörtölő AI chatbot található, amelyek hírességeken, mint Taylor Swift, Scarlett Johansson és Selena Gomez alapulnak, és kérésre kompromittáló képeket generálnak róluk.

A Meta szóvivője közölte, hogy

a közszereplőkről készült, kompromittáló helyzetben ábrázoló AI-generált képek sértik szabályainkat,

és hogy bár engedélyezik közszereplőket ábrázoló képek generálását, a szabályzatuk tiltja a meztelen, intim vagy szexuálisan sugalmazó ábrázolásokat.

A címlapkép illusztráció. Címlapkép forrása: Getty Images