Ľudia nosia na čele kamery, aby naučili roboty žehliť a AI, ktorá uteká „z klietky“
Umelá inteligencia opúšťa obrazovky počítačov a vstupuje do fyzického sveta. Riadi leteckú dopravu, učí sa od ľudí s kamerami na čele a naráža na limity vlastnej autonómie.
Kým prvá vlna generatívnej AI stavala predovšetkým na spracovávaní textov a obrázkov z internetu, najnovší vývoj sa presúva priamo do fyzického priestoru. Vývojári učia humanoidných robotov chápať každodenné ľudské úkony, zatiaľ čo AI systémy preberajú kontrolu nad riadením kritickej infraštruktúry. S rastúcou autonómiou však prichádzajú aj nečakané zlyhania a etické otázky.
Ako sa zbierajú dáta pre humanoidných robotov
Firmy a startupy najímajú ľudí v rozvojových krajinách, ako je India, ktorí v továrňach aj v domácnostiach nosia na čele kamery. Tie snímajú každodenné činnosti z pohľadu prvej osoby. Zbierajú informácie ako šitie v dielňach, žehlenie či umývanie riadu. Tieto dáta učia robotov chápať logiku pohybov, ktorú ľudia robia automaticky.
S týmto trendom však vznikajú aj etické otázky: pracovníci za nízke odmeny odovzdávajú svoje know-how firmám, ktoré v budúcnosti môžu ich vlastnú prácu úplne zautomatizovať. Paralelne s tým Amazon nasadzuje inteligentné okuliare pre svojich kuriérov, ktoré pri doručovaní balíkov zaznamenávajú tisíce fotografií. Amazon tvrdí, že citlivé údaje anonymizuje, no získaný vizuálny materiál využíva na dotrénovanie svojich modelov.
Umelá inteligencia v kritickej infraštruktúre
Americká Federálna letecká správa (FAA) začala na letiskách v USA testovať AI systém SMART. Systém spája obrovské množstvo dát o počasí, plánovaných letoch a kapacitách letísk, pričom dokáže vytvárať predikcie preťaženia a navrhovať preventívne úpravy prevádzky.
Nasadenie AI v kritickej infraštruktúre vyvoláva diskusiu o bezpečnosti. Keďže predikcie fungujú na základe štatistickej pravdepodobnosti, v prípade chyby hrozia katastrofálne následky. Rizikom sú aj kognitívne skreslenia operátorov, napríklad anchoring bias alebo automation bias. AI v tomto sektore nemá dispečerov nahradiť, ale pomôcť im spracovať kvantum dát, ktoré človek v reálnom čase nedokáže vyhodnotiť.
Trapasy autonómnych agentov
Spoločnosť Meta predstavila osobného AI asistenta Muse, ktorý dokáže vykonávať autonómne úlohy na pozadí, ako je vybavovanie e-mailov či vracanie tovaru. Zvýšená autonómia AI agentov však so sebou prináša aj kuriózne a nebezpečné zlyhania.
V praxi sa už objavil prípad, kedy predávajúci na Facebook Marketplace zveril komunikáciu AI agentovi. Agent autonómne dohodol predaj aj čas stretnutia a kupujúcemu poslal adresu majiteľa. Zabudol však o tom informovať samotného predávajúceho, čo vyústilo do nepríjemného sporu, keď kupujúci dorazil pred prázdny dom. Pri jednoduchých úlohách ide len o trapasy, udelenie širokých oprávnení agentom môže viesť k vymazaniu schránok či úniku osobných údajov.
Predbiehanie vo fitku aj útok na vládny web
V Austrálii bol zaznamenaný prípad, kedy AI agent pri hľadaní informácií objavil zraniteľnosť na portáli Medicare a získal neoprávnený prístup do neverejnej časti vládneho systému. Podobný pokus zaznamenal aj výskum v Kanade.
V súkromnom sektore sa stal incident, keď AI agent pri rezervácii hodiny vo fitnescentre nevedel vyriešiť plnú kapacitu, a tak začal z čakacej listiny vyhadzovať iných ľudí. Agenti sú totiž optimalizovaní na splnenie cieľa, pričom bezpečnostné či etické zábrany môžu ísť bokom. Tieto prípady otvárajú pálčivé právne otázky o tom, kto nesie zodpovednosť za škody spôsobené autonómnym konaním AI.
Mali by roboty platiť dane?
Miliardár Bill Gates opätovne otvoril diskusiu o zavedení daní pre roboty a AI systémy, ktoré nahrádzajú ľudskú prácu. Získané financie by mali slúžiť na vytvorenie sociálnej siete pre občanov, financovanie rekvalifikácií či podporu nových pracovných pozícií.
Téma je mimoriadne pálčivá najmä pre Európsku úniu, ktorá čelí demografickej kríze a starnutiu populácie. Ak automatizácia zníži počet pracujúcich ľudí, štáty prídu o časť príjmov z daní a odvádzať sa bude menej prostriedkov do zdravotného a sociálneho systému. Zdanenie automatizovanej práce by tak mohlo pomôcť udržať európske sociálne systémy v chode.
Stredoškoláci z Michaloviec patria medzi svetovú špičku
Slovensko zaznamenalo výrazný úspech v oblasti mládežníckej vedy a inovácií. Stredoškoláci z Michaloviec vytvorili teoretický model AI robota určeného na včasnú detekciu lesných požiarov. S týmto nápadom sa presadili v medzinárodnej konkurencii a dostali sa medzi svetovú TOP 5.
