Így „lövi le” az Instagram a gyerekeknek küldött meztelen képeket

Az Instagram olyan funkciót fejlesztett, amely automatikusan felismeri a meztelen képeket a tinédzserek személyes üzeneteiben, elhomályosítja azokat, és figyelmeztető képernyőt jelenít meg a küldőknek és a címzetteknek egyaránt.

Egyre gyakoribb a szextorzió, azaz a szexuális zsarolás. A szextorzó során az elkövető szoros kapcsolatot létesít az áldozattal a közösségi médián keresztül, majd megkéri, hogy küldjön privát képeket, például meztelen fotókat, videókat, vagy más módon fenyegeti az áldozatot az interneten. Másokat szexuális aktusra kényszerítenek, s a megszerzett képeket, videókat zsarolásra, pénz követelésére vagy további szexuális aktusokra használják fel. Ez a zsarolás komoly problémává vált, különösen a fiatalok körében, mivel jelentős hatással van az áldozatok mentális egészségére, akiket bizonyos esetekben az öngyilkosságig hajszolnak.

A Meta által bejelentett új funkció gépi tanulási algoritmus segítségével elemzi, hogy az Instagram üzeneten keresztül küldött képek tartalmaznak-e meztelenséget.

Ha az algoritmus azt állapítja meg, hogy az elküldendő kép meztelenséget tartalmaz, a fotó automatikusan elmosódik, és figyelmeztető képernyő jelenik meg: „Legyen óvatos, mikor érzékeny képeket oszt meg.”

Ha a fiatalkorú meztelenséget tartalmazó képet kap, a kép automatikusan elmosódik, és figyelmeztető képernyő jelenik meg, amely lehetővé teszi, hogy eldöntse, megjeleníti a képet vagy sem.

Ha megpróbálja továbbítani a kapott meztelen képeket valaki másnak, szintén figyelmeztető képernyő jelenik meg.

A figyelmeztető képernyőről letilthatja és feljelentheti a másik felet.

A Meta közlése szerint ez a funkció várhatóan alapértelmezés szerint bekapcsolt lesz a 18 éven aluli felhasználók számára. Olyan rendszert is fejlesztenek, amely különböző jelek alapján képes észlelni a szextorziót, mielőtt az megtörténne. A Meta a Lantern gyermekvédelmi koalíció egyik alapító tagja. A Meta Lanternen megosztja a szextorzióval kapcsolatos információkat más cégekkel, hogy segítsen más közösségi hálózatoknak azonosítani a szexuális visszaélésekkel gyanúsított fiókokat, és megtenni a megfelelő lépéseket.

A mesterséges intelligencia vezérelte eszközök arra is képesek lesznek, hogy az ilyen tartalmakkal zsaroló profilokat ne csak beazonosítsák, hanem automatikusan korlátozzák is a kiskorúak profiljaival történő kommunikációjukat. Láthatatlanná tudják például tenni a zsaroló számára a kiskorú címzetteik listáját üzenetküldéskor, és a keresőmezőben sem fog többé megjelenni a kiskorúak profilneve.

A Meta azon kiskorú felhasználókat is figyelmeztetni fogja, akik olyan személlyel léptek kapcsolatba, akivel szemben már felmerült a visszaélés vagy a zsarolás gyanúja. Ilyen esetben az érintett felhasználót az „állítsuk meg a szexuális zsarolást!” című weboldalra fogják átirányítani, amely egy telefonszámot is közöl, ha bejelentést szeretne tenni.

A több közösségi médiaplatformot is üzemeltető Meta – amelyet az Egyesült Államokban és Franciaországban is azzal vádolnak, hogy platformjai károsítják a fiatalkorúak mentális egészségét – januárban léptette életbe az első, szintén a kiskorúak védelmét célzó intézkedéscsomagját. Ebben bevezették, hogy a kiskorú csak szülői engedéllyel állíthassa át a profilját privátról nyilvánosra, csak így férhessen hozzá érzékeny tartalmakhoz, és csak így kaphasson üzeneteket olyan személyektől, akiket még nem követett be az adott médiaplatformon.