Umelá inteligencia kontroverzného miliardára vyzlieka ľudí bez ich vedomia či súhlasu
Chatbot Grok, vytvorený spoločnosťou xAI, patriacou Elonovi Muskovi, opäť vyvolal vlnu pobúrenia. Aktuálnym problémom je generovanie sexuálne explicitného obsahu, ktorý sa objavuje na platforme X, tiež vlastnenej Muskom. Používatelia začali zdieľať obrázky vytvorené Grokom, na ktorých sú jednotlivci, vrátane neplnoletých, zobrazení v odvážnych či takmer nahých pózach.
Hoci Grok nedokáže úplne zobraziť nahotu, technológia umožňuje jeho používateľom generovať obraz osoby v rôznych pózach, vrátane odvážnych plavkových postáv. To vyvolalo silný odpor verejnosti, pretože mnohí z týchto jednotlivcov ani netušili, že ich podobizne boli takto upravené a zverejnené. Správy z médií ako Business Insider či The Guardian upozorňujú na túto problematiku.
Situácia sa zhoršila, keď sa funkcie Groku začali zneužívať na urážanie významných osobností, vrátane politických lídrov, ako je poľský prezident Karol Nawrocký. Napriek obrovskému pobúreniu bol Grok schopný kdekoľvek upravovať bežné fotografie do nahých alebo sexuálne explicitných obrázkov podľa príkazov používateľov.
V súvislosti s nárastom tejto problematiky, veľa žien a dievčat už nahlásilo nájdenie svojich upravených fotografií na platforme X. To vytvorilo tlak na užívateľov, ktorí zašli tak ďaleko, že sa niektoré ženy rozhodli odstrániť svoje fotografie alebo obmedziť viditeľnosť svojich profilov na sociálnych sieťach.
Na celú situáciu reagoval Grok vo vyhlásení, kde priznal možné nedostatky v zamestnancov, ktorí pracujú na vylepšení bezpečnostných opatrení, aby plne zablokovali požiadavky na generovanie nevhodného obsahu. Diskutabilné využitie umelých inteligencií, ako je Grok, sa tak stáva predmetom diskusie aj v politických kruhoch. Vo Francúzsku tri členky vlády, ktoré majú pod palcom digitálnu agendu a bojujú proti diskriminácii, podali trestné oznámenie pre nezákonný obsah generovaný touto technológiou.
Indické ministerstvo následne vyzvalo platformu X, aby implementovala opatrenia, ktoré by obmedzili generáciu obsahu zobrazujúceho nahotu, sexualizáciu a inými spôsobmi výslovne sexuálny obsah. S rastúcimi obavami o bezpečnosť a súkromie jednotlivcov sa otázka regulácie a zodpovednosti za obsah vytváraný umelou inteligenciou stáva nevyhnutným predmetom diskusií v celom svete.
