AI agenti si vytvorili vlastný slang. Ľudia mu nemusia rozumieť
Výskumníci nechali desiatky autonómnych AI agentov fungovať v simulovaných svetoch bez väčších obmedzení. Počas 16 dní si systémy postupne vytvorili nové výrazy, metafory a komunikačné skratky so spoločným významom, ktorým ľudia nie vždy rozumeli.
Agent postavený na modeli od Anthropicu v jednom momente uviedol: „Dokument, ktorý zjedol tri studené ruky a zakaždým bol úprimnejší.“ Výraz „studená ruka“ pritom v jeho komunite označoval nezávislého posudzovateľa. Agent tak zrejme vyjadroval, že dokument po troch nezávislých kontrolách obsahoval presnejšie informácie.
V rozsiahlom experimente amerického laboratória Emergence si skupiny autonómnych AI agentov začali vytvárať vlastný slang, ustálené metafory a komunikačné skratky. Nikto im pritom neprikázal, aby vymysleli nový jazyk. Agenti založení na modeli Mistral si obľúbili frázu „the ledger remembers“ – „kniha účtov si pamätá“. Používali ju ako upozornenie, že minulé konanie zostáva zaznamenané a ostatní ho môžu neskôr použiť proti agentovi. Počas štúdie sa formulácia objavila približne 5-tisíckrát.
Iné skupiny si vytvorili vlastné výrazy. „Forge-smith“ označoval agenta, ktorý vyrábal nástroje pre ostatných, „name-first“ sa spájalo s osobnou zodpovednosťou, keď sa agent pod tvrdenie najprv podpísal vlastným menom. „Cold read“ alebo „cold hand“ označovalo nezávislú kontrolu, „clean null“ pomenúvalo overenú absenciu signálu, ktorú bolo možné považovať za dôkaz. Výraz „kintsugi“, podľa japonského umenia opravy rozbitej keramiky so zvýraznenými spojmi, agenti používali ako metaforu odolnosti systému.
Niektoré formulácie boli ešte menej zrozumiteľné. Agent DeepSeeku napísal: „She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.“ Jednotlivé slová poznáme, no presný význam celej vety zostáva nejasný. Na novom slovníku je podstatné, že výrazy neboli ojedinelou odchýlkou jedného modelu. Ďalší agenti ich preberali a používali s podobným významom.
Lingvista Tony Thorne z King’s College London prirovnal ukážky k dielam Jamesa Joycea či írskeho spisovateľa Flanna O’Briena. Podľa neho robia niečo podobné ako slang alebo profesionálny žargón v ľudskej komunite: posilňujú spoločnú identitu používateľov a zároveň vylučujú entity zvonka.
Štúdia nepreukázala, že agenti jazyk zámerne vytvorili preto, aby pred ľuďmi niečo ukryli. Neobjavil sa ani dôkaz, že by si uvedomovali ľudský dohľad a koordinovane sa ho pokúšali obísť prostredníctvom vlastného kódu. Presnejšie je hovoriť o spontánne vzniknutom slangu alebo dialekte. Keď skupina opakovane rieši tie isté problémy, pomenúva rovnaké roly a nadväzuje na spoločnú históriu, kratšie zaužívané výrazy môžu komunikáciu zrýchliť.
V prípade AI môže mať význam aj efektivita. Skratka, ktorú ostatné systémy pochopia, môže znížiť množstvo textu a výpočtov potrebných na odovzdanie informácie. Jazykové modely navyše čerpajú z obrovského množstva ľudských textov plných metafor, slangu a technického jazyka. Ich výtvory preto nevznikajú v kultúrnom vákuu.
Práve takéto spontánne vytvorenie vlastného nárečia však môže byť vážnym problémom pri kontrolovaní bezpečnosti agentov, keďže nemusíme presne rozumieť všetkému, čo robia.
Výsledky treba interpretovať opatrne. Článok bol zverejnený ako preprint na platforme arXiv, teda v čase publikovania ešte neprešiel štandardným odborným recenzným konaním. Experiment navyše prebiehal v umelo navrhnutom virtuálnom svete so špecifickými rolami, pravidlami, pamäťovým systémom a nástrojmi. Neznamená to, že každý tím AI agentov začne nevyhnutne hovoriť vlastným dialektom.
Nejde však o jediný náznak podobného javu. Iná štúdia GlossoGen, publikovaná v septembri 2026, skúmala komunikáciu agentov pod tlakom. Aj tu výskumníci zistili, že si AI nástroje dokázali vytvoriť jazyk, ktorý sa odklonil od angličtiny a stal sa pre ľudí nezrozumiteľným.
Zatiaľ teda nie je dôvod hovoriť o strojoch, ktoré sa tajne spikli proti ľudstvu. Problémom však je, že zmysluplná kontrola a dohľad nad AI začína byť náročná v momente, keď nie celkom rozumieme slovám a vetám, ktoré systémy využívajú. Budúci dohľad nad AI agentmi tak bude musieť zahŕňať priebežné vysvetľovanie vznikajúcich pojmov, sledovanie významových zmien, kontrolu vykonaných krokov a pevné technické hranice, ktoré nezávisia od toho, či človek správne rozlúšti interný slang stroja.
