Experiment s TikTokom končí: Europoslanci požadujú ochranu detí pred závislosťou
Rodičia Marie, tínedžerky, ktorá sa stala obeťou duševného zdravia, sa rozhodli konať po tragickej smrti ich dcéry. TikTok obviňujú z nielen z nedbanlivosti, ale priamo z podnecovania k samovražde. Podľa nich algoritmy aplikácie proporcionálne odrážajú škodlivý obsah. Zistilo sa, že mladí ľudia sa na platforme neustále vystavujú nechcenému a psychicky ohrozujúcemu obsahu, čo môže viesť k vážnym duševným problémom.
Maryina rodina, zastúpená advokátkou Laure Boutron-Marmionovou, sa snaží donútiť technologické spoločnosti, aby prevzali zodpovednosť za vplyv svojich algoritmov na mladistvých. Každý týždeň sa Boutron-Marmionovej ozývajú rodičia, ktorých deti trpia závislosťou na sociálnych sieťach a prejavujú znaky depresie a úzkosti. Časté otázky od rodičov sú: „Čo máme robiť?”
Šokujúce zistenia Amnesty International
Amnesty International vykonala experiment, kde trojica 13-ročných detí vytvorila fiktívny účet na TikToku a po štyri hodiny prezerala videá. Už za menej než 20 minút im boli zobrazené videá o duševnom zdraví, a o 45 minút neskôr videá súvisiace so samovraždou. Po troch hodinách sa ich účet zaplnil explicitným obsahom, ktorý vyjadroval túžbu po smrti.
Justine Payouxová, manažérka kampane v Amnesty International, sa vyjadrila, že konzumácia takéhoto obsahu môže rýchlo vtiahnuť mladých do temnejších myšlienok a depresií. Tento jav poukazuje na to, ako sú algoritmy navrhnuté tak, aby deti zasahovali do obsahového ekosystému, ktorý je pre nich nebezpečný.
Zákonodarcovia sa snažia o legislatívne zmeny
Po tragických prípadech, akým je smrť Marie, europoslanci v Európskom parlamente žiadajú naliehavé legislatívne opatrenia. Zákonodarcovia plánujú zaviesť minimálny vek 16 rokov pre prístup k sociálnym médiám a aplikáciám, ktoré sú spojené s umelou inteligenciou. Od 13 do 16 rokov by prístup bol povolený iba so súhlasom rodičov.
Poslanci okrem toho diskutujú o potrebe prísneho dohľadu na online obsah a o zavedení mechanizmov, ktoré by chránili mladistvých pred nebezpečnými praktikami, ako je návykový dizajn a cielená reklama.
Odpovednosť technologických gigántov
Advokátka Boutron-Marmionová tvrdí, že zodpovednosť za ochranu detí spočíva predovšetkým na technologických spoločnostiach. Upozorňuje na to, že deti nie sú biologicky schopné odolať nástrahám navrhnutým v algoritmoch. Francúzsky parlament uvádza, že zákony musia byť prispôsobené realite, v ktorej sa deti nachádzajú, a to predovšetkým s ohľadom na ich psychické zdravie.
Platí, že digitálne prostredie by malo klásť na prvé miesto ochranu svojich najzraniteľnejších používateľov. Kým sa legislatívne návrhy dostanú do potrebných zmien, platformy sú vystavené lahodeniu ziskom na úkor bezpečnosti svojich mladistvých užívateľov.
