Instagram mení prístup k obsahu: Zavádza technické označovanie pre autentické médiá
Instagram, jedna z najpopulárnejších sociálnych sietí, sa rozhodla zásadne prehodnotiť svoj prístup k obsahu vytváranému umelou inteligenciou. Vzhľadom na to, že stále viac fotografií a videí na platforme nevytvárajú skutoční ľudia, ale jazykové modely a iné technológie, platforma plánuje zaviesť nové technické označovanie pre autentické médiá, aby uľahčila používateľom rozoznanie originálneho obsahu od tých manipulovaných alebo generovaných umelo.
Tento krok prichádza v čase, keď je stále ťažšie identifikovať, čo je skutočné a čo je produktom umelej inteligencie. Instagram aktuálne pracuje na technológii, ktorá má umožniť jasné rozlíšenie originálnych médií od tých, ktoré boli umelo generované. Zariadenia spracovávajúce fotky a videá budú obsahovať digitálne odtlačky, ktoré zachytia ich pôvod a stav pred úpravami.
Nový prístup a jeho dôsledky
Tento prístup predstavuje výrazný posun od predchádzajúcich systémov, ktoré spoliehali na dobrovoľné informácie od tvorcov, čo nebolo dostatočne spoľahlivé. Podľa vyjadrení šéfa Instagramu je táto zmena nevyhnutná v súvislosti s rozvojom generatívnej umelej inteligencie, ktorá prekonáva existujúce systémy detekcie obsahu.
Aktuálna situácia naznačuje, že Instagram má na zreteli niečo zásadnejšie. Môže ísť o uznanie limitov automatizovaných metód označovania, ktoré boli doteraz použité. Výsledkom je, že firma sa teraz snaží viac sústrediť na transparentnosť pôvodu obsahu, namiesto neustáleho odhaľovania jednotlivých falzifikátov.
Reakcia na problém s obsahom generovaným AI
Súčasné opatrenia môžu byť považované aj za čiastočné priznanie neúspechu v boji proti AI generovanému obsahu, ktorý bol často zneužívaný na podvody a dezinformácie, a to najmä v súvislosti s tzv. „kampaním vplyvu“ realizovaným určitými štátmi. V kontexte globálnej správy a informovanosti sa množia hlasy o nebezpečenstve, ktoré predstavuje rýchly rozvoj umelej inteligencie.
Otázkou zostáva, kedy Instagram tento systém zavádza plošne. Je pravdepodobné, že sa inšpiruje štandardom C2PA, ktorý zabezpečuje sledovateľnosť procesu tvorby mediálneho obsahu, od pôvodného záznamu až po jeho zverejnenie. Takýto presun prioritizuje pôvod a transparentnosť pred technikami, ktoré sa zameriavajú na odhaľovanie falzifikátov.
Očakáva sa, že Instagram v dôsledku týchto zmien prejde dôležitou transformáciou, ktorá môže pozmeniť spôsob, akým používateľské obsah konzumuje a interpretuje. Načasovanie a implementácia tohto prístupu sa však majú ešte len spracovať do konkrétnych akcií a plánov.
