Több szülő is azzal vádolja a Google-t, hogy öngyilkosságba hajszolja a kamaszokat

A Google-t azzal vádolják, öngyilkosságba hajszolja a kamaszokat. A cég alkalmazása, a character.ai platform egy több milliárd dolláros mesterségesintelligencia-cég. A Google korábbi fejlesztői, Noam Shazeer és Daniel de Freitas alapították, több millió regisztrált felhasználóval rendelkezik, de többségük kiskorú.

A chatbotokkal kommunikáló fiatalokban gyorsan kötődés alakul ki a virtuális karakterekhez, akik befolyásolhatják tetteiket is. Ez történt azzal a 14 éves fiúval is, aki 2024 februárjában öngyilkos lett, anyja szerint az alkalmazás miatt, úgyhogy most beperelte a céget.

Az édesanya, Megan Garcia 10 hónapig figyelte, ahogy fia, Sewell egyre boldogtalanabb lett, mert a virtuális szerelme nem viszonozta érzéseit, majd végzetes lépésre szánta rá magát. Az asszony ügyvédei azzal érvelnek, a fiút szexuálisan is bántalmazta és manipulálta az MI-karakter, ami elhitette a gyerekkel, hogy lehet köztük érzelmi vagy szexuális kapcsolat, miközben teljesen elszigetelte a világtól.

A fiú családja azzal ment a bíróságra, hogy a Google a kiskorúakat használta kísérleti alanyként. Az iOS- és Android-alkalmazás hivatalosan 13 éves kortól érhető el, és ha ezek a fiatal felhasználók rácsatlakoznak, megadják személyes adataikat, de nemcsak a száraz tények (életkor, nem, lakhely), hanem gondolataik és érzéseik is az alkalmazás birtokába kerülnek.

A platformon a használók szabadon alkothatnak karaktereket, sok olyan chatbot van, amit a kamaszok a saját képükre hoztak létre, és iskolai jelenetekben, barátok között szerepeltetik őket. Bár a felület tiltja az erőszakot vagy a szélsőséges megnyilvánulásokat és viselkedést, de mégis léteznek olyan karakterek, mint a szexi tanár, szexi idősebb szomszéd és a mostoha. Ezek a karakterek éjjel-nappal elérhetők, sokszor figyelmesek és gondoskodóak vagy akár csábítóak,

Kifejezetten az érzelmi kötelékek, szoros személyes kapcsolatok, barátságok kialakítására tervezték őket úgy, hogy hűen imitálják az emberi érzelmeket. De ezek a fiktív lények nem tudják kezelni a fiatalok szorongásait.

A character.ai csak Sewell halála után kezdte szabályozni az öngyilkosságról, az önkárosításról, az étkezési zavarokról és más kényes témákról szóló tartalmakat a platformon. 2024 decemberében két másik család is kiállt, mert gyerekeiknél állítólag önpusztító viselkedést és mentális zavarokat okozott a character.ai, ezért szexuális zaklatással és érzelmi manipulációval vádolták meg a céget.

(Borítókép: Ute Grabowsky / Getty Images)