Nová zbraň kyberšikany: AI nástroje menia detské fotky na porno, slovenské školy bijú na poplach
V súčasnosti sa na školách rozširuje vyhlásenie o alarmujúcej problematike, keď umelá inteligencia začína byť zlým nástrojom v rukách mladých agresorov. Nové aplikácie ako DeepSeek, ktoré umožňujú transformovať bežné fotografie na akt, patria medzi najnovšie nástroje kyberšikany. Tieto technológie dokážu zúfalo ovplyvniť sebavedomie detí, ktoré sa stávajú obeťami digitálneho zneužívania.
Podľa odborníkov a psychológov má táto forma kyberšikany devastujúce dôsledky pre psychológiu a duševné zdravie obetí. Digitálne zneužitie prostredníctvom týchto aplikácií je vnímané ako hrozba, ktorá zasahuje do ich osobnosti a identity. Deje sa to, keď strácajú kontrolu nad svojím vlastným imidžom, čo spravidla vedie k silným pocitom hanby a bezmocnosti.
Výskum ukazuje, že s nástupom AI technológií sa tento problém už prestáva zdát ako hypotetický a neobvyklý. Naopak, incidencia sa zvyšuje a obete sú často vystavené manipuláciám od rovesníkov alebo bývalých partnerov. V mnoho prípadoch sú páchatelia známi obetiam, čo ešte umocňuje existenčnú krízu, ktorou sa mladí ľudia cítia.
Reakcia na krízovú situáciu
Žiadosť o ochranu detí pred takýmito praktikami sa dostala aj do rúk europoslancov, ktorí pod vedením Veroniky Cifrovej Ostrihoňovej zaslali list predsedníčke Európskej komisie. Apelujú na rýchle prenikanie a prísne hodnotenie týchto technológií, aby sa zabezpečila ochrana mladistvých a zabránenie digitálnemu sexuálnemu násiliu. Pritom ide o morálnu, právnu i politickú povinnosť chrániť zraniteľné skupiny v našej spoločnosti.
V rámci diskusie o ochranných mechanizmoch sa objavili aj výzvy na reguláciu a legislatívu súvisiacu s využívaním AI v oblasti digitálnej bezpečnosti a duševného zdravia. Často sa v záujme prevencie navrhuje vytvorenie vzdelávacích programov pre učiteľov a žiakov, ktoré by zohľadnili psychologické dopady týchto technológií. Školy tak sú vyzvané, aby skvalitnili svoj prístup k prevencii a znižovaniu rizika kyberšikany.
Riešenia a podporné systémy
Medzi kľúčové kroky patrí aj zabezpečenie a podpora psychologických poradní, kde si obete môžu vyhľadať pomoc. Linky ako IPčko, Dobrá Linka, a ďalšie organizácie ponúkajú dôležitú podporu mladým ľuďom a ich rodinám, ktoré čelí zložitým psychologickým situáciám. Zastavovanie týchto trendov si vyžaduje nielen prostredie, kde môže mladý človek získať pomoc, ale aj vytvorenie kultúry, ktorá sa nebáči hovoriť o týchto veciach a stigmatizovať obete.
Legislatíva a etické smernice musia ísť ruka v ruke s technologickým rozvojom, aby sa zabezpečila účinná ochrana pred zverejňovaním nevhodných alebo škodlivých obsahov. Odborníci sa zhodujú na tom, že technické regulácie sú dôležité, ale čiastočne musia byť podporené kultúrnými zmenami, ktoré pomáhajú budovať zodpovednosť a empatiu medzi mladými ľuďmi.
Verdikt
Vysoká miera zraniteľnosti mladých jedincov v digitálnom svete je plne zretelná. S príchodom nových technológii, ako sú AI nástroje, ktoré umožňujú manipuláciu s fotografiami, je nevyhnutné, aby sme ako spoločnosť prijali zodpovednosť a realizovali potrebné opatrenia na ochranu detí a ich psychologického zdravia.
