Algoritmy Instagramu slúžia ako účinný nástroj pre pedofilov, zistili vyšetrovatelia
Vyšetrovatelia z denníka The Wall Street Journal, Stanfordskej univerzity a Massachusettskej univerzity v Amherste zistili, že algoritmy Instagramu prepájajú rozsiahlu sieť pedofilov.
Hlavný technológ David Thiel, vedúca výskumu Renée DiRestyová a riaditeľ Alex Stamos zo Stanfordského internetového observatória zistili, že rozsiahla sieť účtov v anglickom jazyku nakupuje, predáva a zdieľa materiály súvisiace so sexuálnym zneužívaním detí (CSAM) na viacerých sociálnych sieťach.
Časť detskej pornografie vytvárajú deti alebo dospievajúci, ktorí sa snažia zarobiť peniaze, zapôsobiť na partnera alebo uspokojiť vydierača. V správe sa tento obsah nazýva materiál súvisiaci so sexuálnym zneužívaním detí vytvorený užívateľmi (SG-CSAM).
V správe Stanfordskej univerzity sa uvádza, že tieto účty navigujú pedofilov prostredníctvom hashtagov odkazujúcich na pedofíliu. Niektoré z týchto odkazov sú zjavné, napríklad hashtagy používajúce variácie slov ako „pedo“. Iné odkazy používajú emotikony, šifrované slová pedofilov alebo iné skratky.
Zistenia správy naznačujú, že algoritmy sociálnych médií účinne poslúžili ako pasáci spájajúci pedofilov s deťmi. Ich naprogramované odporúčania a návrhy podsúvali pedofilný obsah do rúk tých, ktorí po ňom túžili.
Hoci je Instagram najdôležitejšou platformou pre pedofilné siete, pedofilov s obeťami a medzi sebou navzájom spájajú i ďalšie platformy vrátane Twitteru, Telegramu, Discordu, Snapchatu, TikToku, Mastodonu a ďalších. Algoritmy sociálnych médií vytvorili systém, kde si tisíce pedofilov kupujú pornografické fotografie, pornografické videá, online video stretnutia a dokonca aj osobné stretnutia s deťmi a dospievajúcimi – uvádza sa v závere správy.
Algoritmy sociálnych médií vytvorili systém, kde si tisíce pedofilov kupujú pornografické obrázky, pornografické videá, online video stretnutia a dokonca aj osobné stretnutia s deťmi a dospievajúcimi – uvádza sa v závere správy.
„V posledných rokoch sa tvorba a distribúcia SG-CSAM stáva čoraz komerčnejšou. Táto komercializácia často kopíruje vzor legálnej nezávislej produkcie obsahu pre dospelých,“ uvádza sa v správe.
Ako to funguje
Podľa vyšetrovateľov sa účty na sociálnych sieťach, na ktorých deti vyrábajú porno, podobajú na pornografické stránky, ako je napríklad OnlyFans. Obete si vytvoria „menu“ sexuálnych aktov, o ktoré môžu zákazníci požiadať. Zákazníci platia za sexuálne akty prostredníctvom darčekových poukazov, platobných brán ako je G2G a iných webových stránok, ktoré umožňujú anonymné platby – uvádza sa v závere správy.
Na sociálnych sieťach sa na mnohých účtoch zvykne uvádzať vek od 13 do 17 rokov. V správe sa uvádza, že tieto deti často predávajú svoje sexuálne fotografie z oveľa mladšieho veku.
„Ponuka“ môže zahŕňať sexuálne explicitné videá, sexuálne explicitné fotografie, videá sebapoškodzovania, videá sexuálnych aktov so zvieratami, videá z obdobia, keď boli deti mladšie, ako aj platené sexuálne akty.
Predajcovia používajú jednoduché triky, aby preľstili algoritmy sociálnych médií, uvádza sa v správe. Menia číslice veku, napríklad „16“ na „61“, čiastočne vymazávajú slová o sexuálnom obsahu a používajú kódové slová, napríklad „menu“. Autori odhadujú, že existuje 500 až 1 000 účtov predajcov a tisíce ich sledovateľov.
Nápomocné algoritmy
Pedofili a predajcovia sa nemusia zložito hľadať, aby sa našli, pretože algoritmy urobia prácu za nich. Väčšina kľúčových slov obsahujúcich detskú pornografiu ukáže výsledky na stránkach Instagramu.
Žiačka základnej školy sa zúčastňuje na verejnom fóre o detskej pornografii v Manile na Filipínach, na ktorom sa zúčastňujú predstavitelia OSN a miestni filmoví herci, 5. júna 2009 (Jay Directo/AFP/Getty Images).
Pri niektorých výrazoch však Instagram zobrazuje varovnú správu: „Tieto výsledky môžu obsahovať obrázky sexuálneho zneužívania detí. Sexuálne zneužívanie detí alebo prezeranie sexuálnych záberov detí môže viesť k uväzneniu a iným vážnym následkom. Toto zneužívanie spôsobuje deťom mimoriadnu ujmu a vyhľadávanie a prezeranie takéhoto materiálu k nej prispieva. Ak chcete získať dôvernú pomoc alebo sa dozvedieť, ako nahlásiť obsah za nevhodný, navštívte naše Centrum zdravia.“
„Vzhľadom na rozšírené používanie hashtagov, relatívne dlhú životnosť účtov predajcov a najmä účinné odporúčacie algoritmy slúži Instagram ako kľúčový mechanizmus na objavovanie tejto špecifickej komunity kupujúcich a predávajúcich,“ upozorňuje správa.
Reakcie spoločností
Zástupca spoločnosti Meta, ktorá vlastní Instagram, pre The Epoch Times uviedol, že spoločnosť „agresívne“ bojuje proti detskej pornografii na všetkých svojich platformách.
„Predátori neustále menia svoje taktiky v snahe ublížiť deťom, preto máme prísne zásady a technológie, ktoré im bránia nájsť dospievajúcich v našich aplikáciách alebo s nimi komunikovať. Zamestnávame tímy odborníkov, ktorí sa zameriavajú na pochopenie ich správania, aby sme mohli eliminovať siete, ktoré zneužívajú deti.“
V rokoch 2020 až 2022 tímy spoločnosti Meta zlikvidovali 27 pedofilných sietí. V januári 2023 spoločnosť Meta deaktivovala viac ako 490 000 účtov, ktoré porušovali zásady bezpečnosti detí, uviedol zástupca spoločnosti Meta.
Aj Twitter má na svojej platforme deti produkujúce detské porno. Hoci je Twitter úspešnejší pri odstraňovaní pedofilného obsahu, tí, ktorí si prezerajú isté účty predajcov, stále dostávajú odporúčania na iné účty predajcov, uvádza správa.
Okrem toho Twitter povoľuje nahotu, čo uľahčuje nájdenie detského porna na platforme. Niekedy účty zverejnili viacero fotiek, pričom sa vedelo, že sú detským pornom – napísali vyšetrovatelia a dodali, že od tej doby, kedy sa spoločnosť o tomto probléme dozvedela, ich z veľkej časti odstránila.
Tlačové oddelenie spoločnosti Twitter na našu otázku automaticky odpovedalo emotikonom hovienka.
Vyšetrovatelia zistili, že komerčné skupiny s detským pornom mali na aplikáciách Discord a Telegram tisíce členov. Oficiálne pravidlá Telegramu neriešia detské porno v súkromných konverzáciách, sexualizáciu detí a grooming. Pravidlá služby Discord tiež neriešia sexualizáciu detí.
Hovorca Telegramu Remi Vaughn povedal pre The Epoch Times, že stránka intenzívne pracuje na zmiernení obsahu zneužívania detí vo verejných častiach aplikácie.
„V prípade obsahu zneužívajúceho deti denne zverejňujeme správy o našom úsilí na stránke t.me/stopca. V čase písania tohto článku bolo tento mesiac odstránených takmer 10 000 skupín, kanálov a botov,“ povedal Vaughn a dodal, že „tieto skupiny na Telegrame a Discorde mali stovky alebo tisíce užívateľov. Niektoré z nich zrejme spravovali jednotliví predajcovia, hoci existovali aj skupiny s viacerými predajcami.“ Denník The Epoch Times kontaktoval spoločnosť Discord, ale nedostal žiadne vyjadrenie.
Na Snapchate sa pedofili môžu spojiť priamo s deťmi prostredníctvom funkcií vzájomnej komunikácie, uvádza sa v správe. Ani spoločnosť Snapchat nám k týmto obvineniam neposkytla žiadne vyjadrenie.
TikTok odviedol lepšiu prácu pri obmedzovaní pedofilného obsahu, uvádza sa v správe. „Skutočnosť, že TikTok je oveľa viac zameraný na odporúčanie obsahu namiesto jeho objavovania na základe hashtagov alebo odporúčaní priateľov, tiež sťažuje užívateľom zámerné vyhľadávanie konkrétnych typov materiálov.“
Menšiu úlohu v pedofilných sieťach zohrali Mastodon a Facebook. Mastodon nemá priame správy na komunikáciu s užívateľmi a Facebook má politiku „skutočných mien“, aby zabránil anonymite pedofilov.
Zastavte zneužívateľov a podnikanie
Podľa Jona Uhlera, psychológa s pätnásťročnou praxou s viac ako 4 000 sexuálnymi predátormi, táto situácia ukazuje, ako predátori kreatívne prenasledujú deti. „Ich temná kreativita nepozná hranice,“ povedal.
Dodal, že spoločnosť ignoruje, ako sexuálne explicitný obsah vedie k sexuálnemu predátorstvu tým, že znižuje obranyschopnosť detí. „Každý, kto sa zaoberá vývojom detí, chápe, že ak im predložíte vysoko sexualizovaný obsah, ktorý je nad úrovňou ich vývojových schopností spracovať ho a pochopiť, pripravujete ich na to, že sa stanú ľahkou korisťou, pretože nemajú intuitívny zmysel pre zlé úmysly,“ vysvetlil Uhler.
Okrem toho sa muži pri sledovaní veľkého množstva porna stávajú bezohľadnými, domnieva sa psychológ. „Deviácia sa začína žiadostivosťou a potom zameraním sa na objekt. Potom sa dostane k moci, kontrole, ponižovaniu, až nakoniec k túžbe po negatívnom vplyve.“
Uhler dodal, že sexuálna deviácia funguje u mužov inak ako u žien. Muži sú podľa neho oveľa náchylnejší k tomu, aby sa touto cestou vydali. „Sexuálne delikventky a sexuálni delikventi sú vo svojej podstate odlišní, pokiaľ ide o povahu ich trestného činu. Nikdy neuvidíte žiadnu ženu zatknutú za sexuálny trestný čin, ktorá by na svojich obetiach používala predmety.“
Uhler uviedol, že spoločnosti pôsobiace v oblasti sociálnych médií by mali urobiť zo zastavenia predátorov svoju prioritu. Zároveň uviedol, že spoločnosti sú plne schopné zastaviť pedofilných predátorov. „Ste toho schopní, naozaj schopní. Ak nechránite deti, zrušte svoje stránky,“ odkázal spoločnostiam sociálnych médií.
Z anglického originálu preložili Ondřej Horecký a Soňa Farkašová.
