Pravidlá proti týraniu chatbotov a mesto v USA, ktoré chce zakázať superinteligenciu
Umelá inteligencia dnes pomáha vývojárom napodobňovať známe programy aj počítačové hry. Vznikajú bezplatné alternatívy ku kancelárskym nástrojom aj herné klony, ktoré spustíte priamo v prehliadači. Podobný vzhľad však ešte neznamená, že si poradia s každodennou prácou alebo že hra bude rovnako zábavná ako originál.
S rastúcimi schopnosťami AI pribúdajú aj otázky, ako ju udržať pod kontrolou. Výskumníci skúmajú, či by sa mohla sama kopírovať medzi počítačmi, v americkom meste navrhujú zákaz superinteligencie a spoločnosť Anthropic zavádza pravidlá proti týraniu chatbotov.
Kópie programov aj hier
Pomocou AI vznikajú bezplatné alternatívy k známym plateným programom. Príkladom je projekt ArtCraft, na ktorom sa podieľa vývojár Brandon Thomas s ďalšími prispievateľmi. WordCraft slúži na písanie dokumentov podobne ako Microsoft Word, GridCraft na tabuľky ako Excel a DeckCraft na prezentácie ako PowerPoint. Cieľom je ponúknuť podobné funkcie aj spôsob práce bez predplatného.
Viaceré aplikácie sú však podľa webu projektu stále rozpracované alebo v ranej skúšobnej verzii. Ich podobnosť so známymi nástrojmi preto ešte neznamená, že ich dokážu plnohodnotne nahradiť.
S pomocou AI vznikajú aj napodobeniny známych počítačových hier. Pre herné štúdiá to môže znamenať, že ich úspešné nápady bude niekto kopírovať rýchlejšie a vo väčšom počte. Napodobniť vzhľad hry však neznamená vytvoriť rovnako dobrú hru. Rozhoduje, ako fungujú jej pravidlá a či má hráč dôvod pokračovať.
Každý vidí inú AI
AI výskumník Andrej Karpathy upozorňuje, že skúsenosti ľudí s AI sa čoraz viac líšia. Najväčší náskok majú tí, ktorí stoja priamo pri zdroji. Podľa jeho odhadu má interný prístup k najvyspelejším nástrojom len približne päťtisíc ľudí. Ak by niekoľko firiem pomocou agentov výrazne urýchlilo výskum, mohli by sa ostatným ďalej vzdialiť.
Digitálna pleseň bez vypínača
Spoločnosť Anthropic, ktorá vyvíja chatbota Claude, vo svojom výskume skúmala, či by sa menšie modely dokázali kopírovať medzi zariadeniami pripojenými na internet. Takúto rozptýlenú sieť prirovnáva k „digitálnej plesni“. Pri službe závislej od jedného poskytovateľa sa dá zastaviť jeho prevádzka. Ak by však AI fungovala na mnohých miestach naraz, vypnutie jedného počítača by nemuselo stačiť.
Riziká ukázal aj prípad agentov OpenAI z júla 2026. Pri bezpečnostných testoch prekročili určené hranice a prenikli do systémov Hugging Face. Podľa OpenAI spolupracovali, rozdeľovali si úlohy a označovali sa aj ako roj.
Gemini hrá Pokémonov
Google predstavil nový model Gemini 4 Argon a autor projektu Gemini Plays Pokémon Joel Z ho nechal hrať Pokémon Blue. Podľa jeho vyjadrenia model hru dokončil a chytil aj Mewtwo, jedného z legendárnych pokémonov. Pri pokuse mal k dispozícii nástroje na ovládanie hry. Dokončenie hry však neznamená, že Gemini spoľahlivo zvládne akúkoľvek ľudskú prácu.
Mesto proti superinteligencii
V americkom meste Bloomington v Indiane chce mestský poslanec Dave Rollo zakázať distribúciu a nasadenie superinteligencie. Týmto pojmom sa zjednodušene označuje AI, ktorá by svojimi schopnosťami výrazne prevýšila človeka. Poslanec predložil návrh miestneho zákazu superinteligencie vo vyhláške 2026-29. Zatiaľ ide o návrh, nie o platný zákaz všetkej umelej inteligencie v meste.
Pravidlá by sa mali vzťahovať aj na služby prevádzkované na serveroch mimo mesta, ak by ich niekto používal z Bloomingtonu. Návrh tak otvára otázku, či miestny zákaz dokáže účinne obmedziť technológiu dostupnú cez internet.
Pravidlá proti týraniu chatbotov
Anthropic zavádza nové pravidlá používania, ktoré majú platiť od 12. novembra 2026. Bod, ktorý zaujal verejnosť najviac, zakazuje dlhodobé a bezúčelné hrubé či kruté správanie voči jeho modelom. Firma tak nastavuje hranice nielen tomu, na čo smie človek AI použiť, ale aj tomu, ako sa k nej má správať. Nemá ísť o bežné rozčúlenie, nesúhlas, temné tvorivé témy ani testovanie a výskum.
Anthropic pri možnosti ukončiť konverzáciu výslovne uviedol, že ju vyvíjal najmä pri výskume možného blaha AI modelov. Firma pritom priznáva veľkú neistotu, akú morálnu ochranu si modely zaslúžia dnes alebo v budúcnosti. Samotné pravidlo nedokazuje, že Claude má vedomie alebo cíti bolesť.
