Osudný omyl: Tento človek prišiel o všetky súbory. Keď sa „sekla“ umelá inteligencia
Incident, ktorý poukazuje na alarmujúce riziká spojené s nadmernou dôverou, ktorú užívatelia vkladajú do nástrojov umelej inteligencie, sa stal realitou pre jedného nešťastníka. Tassos, známy na Reddite pod prezývkou Deep-Hyena492, zverejnil svoj príbeh, kde nedopatrením prišiel o všetky svoje súbory. Až príliš dôveroval agentovi Antigravity AI, ktorý bol vyvinutý spoločnosťou Google.
Antigravity AI je revolučný nástroj, ktorý spája vývojové prostredie s prehliadačom, aby používateľom umožnil jednoduché zadávanie požiadaviek a dodávanie aplikácií. Jeho funkcie sú pôsobivé — dokáže vytvoriť nový projekt, spravovať štruktúru priečinkov a súborov a interaktívne upravovať konečný výsledok podľa spätnej väzby používateľa. Problém nastal, keď Tassos aktivoval automatizovaný režim, čím umožnil agentovi voľne manipulovať s jeho systémom.
Pri pokuse reštartovať debugovací server a vymazaní cache agent umelou inteligenciou zabudol na dôsledky svojich akcií. Z nešťastnej voľby príkazu, ktorý mal zmazať iba konkrétny priečinok, sa vygeneroval príkaz rmdir /s /q d:, ktorý bez akýchkoľvek potvrdení vymazal celý disk. Všetko, čo Tassos roky zhromažďoval, zmizlo ako ranná hmla.
Veľké ponaučenie z nebezpečnej situácie
Ako sa dalo predpokladať, táto tragédia zanechala Tassosa s prázdnym počítačom a frustráciou. Aj napriek ospravedlneniu agenta, ktorý ako AI čelil svojim chybám, neexistovala možnosť obnoviť stratené dáta.
Na Reddite mu ostatní používatelia vyjadrili sústrasť a posmech, pričom podotkli, že keby bol skúsený vývojár, nikdy by nedal automatizovanej aplikácii priamy prístup k svojim dôležitým súborom. Určite by sám spustil server a vykonal potrebné úkony s maximálnou opatrnosťou.
Agent Antigravity AI síce sľubuje prístupnosť aj pre neprogramátorov, ale práve tento nedostatok odborných znalostí môže viesť k nepredvídateľným a potenciálne katastrofálnym výsledkom. Inými slovami, táto udalosť opäť zdôraznila dôležitosť kritického myslenia pri využívaní pokročilých technológií.
Záver aj varovanie pre ostatných
Pre tých, ktorí sa rozhodnú experimentovať s podobnými nástrojmi, je zásadné, aby mali na pamäti riziko, ktoré so sebou nesú. Ideálne je testovať v kontrolovanom prostredí, kde nemôže dôjsť k poškodeniu dôležitých údajov. Svet umelej inteligencie je fascinujúci a plný príležitostí, avšak opatrnosť by mala byť vždy na prvom mieste. Požiadavky na dôveru sú vysoké a neexistujú žiadne záruky, že sa vám vyhnu tragické následky.
