A Stanford Egyetem, a Massachusettsi Egyetem és a Wall Street Journal munkatársainak közös nyomozása kiderítette, hogy a Meta képmegosztó szolgáltatása, az Instagram algoritmusa gyerekmolesztálással kapcsolatos tartalmat ajánl annak, aki ilyesmire keres.

A pedofilhálózatok által témakörökbe rendezett képek között önsebzést és bestialitást ábrázolók is voltak, és ezeket egyértelmű címkékkel jelölték. Amikor a kutatók tesztfiókon keresztül a pedofilok oldalaira látogattak, a platform algoritmusa rögtön hasonlókat ajánlott.

A tesztfiókot gyakorlatilag elöntötték a gyerekeket szexualizáló tartalmak

– fogalmazott a Wall Street Journal. 

A lap jelentésére reagálva a Meta közölte, hogy azonnal belső csoportot alakítottak a kérdés haladéktalan kezelésére.

A gyerekmolesztálás szörnyű bűncselekmény. Folyamatosan nyomozunk, hogy aktívan védekezzünk az ilyen viselkedés ellen

– közölte a vállalat. Kiemelték, hogy csak idén januárban 490 ezer olyan fiókot távolítottak el, amely megsértette gyerekek védelmére vonatkozó szabályaikat, és az elmúlt 2 évben 27 pedofilhálózatot távolítottak el. A Facebookot és WhatsAppot üzemeltető cég közölte, hogy több ezer gyerekeket szexualizáló hashtaget letiltottak, és ezeket a keresőből is eltávolították.

A feljelentés sem érdekelte őket

Az, hogy három kutató korlátozott háttérrel ekkora hálózatokra bukkant, be kellene indítania a vészcsengőket a Metánál. Remélem, hogy ismét többet fektetnek az emberi felügyeletbe

– vélekedett Alex Stamos, a Meta egykori biztonsági főnöke, aki szerint a vállalat többet tehetne a probléma megoldása érdekében.

Ahogy Stamos nyilatkozatából is kitűnhet, az ügy nem áll meg az hashtageknél és ajánló algoritmusnál: a vizsgálat megállapította, hogy az Instagram figyelmen kívül hagyta, amikor pedofil tartalmakat jelentettek neki. A WSJ jelentése szerint, amikor bejelentést tettek egy konkrét fiókról, ami saját leírásában is kifejezetten pedofil tartalmat kínált, a platform törölte a bejelentést, és annyit válaszolt, hogy túl sok munkájuk van, ezért nem tudják megvizsgálni a fiókot. A Meta elismerte az esetet, és közölte, hogy felülvizsgálják belső folyamataikat.

A nyomozás más közösségi szolgáltatásokat is megvizsgált. A Twitteren mindössze 128 pedofil tartalmat ajánló fiókot találtak, harmadannyit, mint az Instagramon. A Snapchat csevegőszolgáltatáson vagy a TikTok videómegosztón ugyanakkor nem találtak ilyen tartalmakat.

A Stanford Internet Observatory technikai igazgatója, David Thiel szerint az Instagram problémája, hogy nem találta meg a megfelelő egyensúlyt a felhasználói aktivitást növelő ajánló algoritmus és a biztonsági követelmények között. 

(The Verge)