Tvrdá rana pre Európu: Jeden príkaz z USA môže vypnúť celú AI. Expertka radí, čo s tým
V súčasnosti, keď sa umelá inteligencia (AI) stáva nevyhnutnou súčasťou podnikových procesov, je dôležité, aby si firmy uvedomili, že ich najväčšou slabinou nie je iba technológia ako taká, ale aj jej nebezpečná závislosť od geopolitických rozhodnutí. Expertka na kybernetickú bezpečnosť, Sarah Armstrong-Smith, v nedávnom rozhovore varovala pred rizikami, ktoré s touto situáciou súvisia. Na konferencii v Bratislave vyjadrila pochybnosti nad tým, ako sa môžu podniky vyhnúť závislosti od technologických gigantov v USA a Číne.
Armstrong-Smith zdôraznila, že firmy, ktoré sa spoliehajú na jednotné AI modely, riskujú predovšetkým dominový efekt. Ten nastáva v prípade výpadku či blokovania týchto technológií, čo môže ochromiť rôzne priemyselné odvetvia. „Musíte mať veľmi jasný prípad použitia, aby ste vedeli, ako a kde AI využívate,“ tvrdí, pričom apeluje na potrebu interných procesov pred tým, ako sa AI externej implementuje.
Diverzifikácia AI modelov ako kľúč k prežitiu
Podľa expertky je diverzifikácia AI modelov zásadná. Upozornila na dôležitosť toho, aby firmy obmedzili rozsah AI v závislosti od toho, ako interaguje s dátami a jednotlivcami v ich rámci. Pochopenie toho, kde by mal človek zasahovať, je rovnako nezbytné. Každé automatizované rozhodovanie, ktoré AI uskutočňuje, vyvoláva otázky zodpovednosti za potenciálne nesprávne rozhodnutia.
„Nemôžete viniť stroj za to, keď sa niečo pokazí. Musíte jasne určiť, kde v procese umelá inteligencia figuruje a mať transparentnosť vo vzťahu k používateľom,“ dodáva. Osoby, ktoré sú ovplyvnené rozhodnutiami AI, by mali mať právo vedieť a mať možnosť kontaktovať živú osobu, ak to požadujú.
Globálne napätie a kybernetické riziká
Armstrong-Smith sa tiež zaoberala globálnymi témami, ktoré sa týkajú technológie, ako je AI. Podľa nej, firmy si musia byť vedomé, že mnohé technológie môžu byť zrušené politickými rozhodnutiami, čo vedie k zraniteľnosti. Upozornila, že pri výbere AI modelu je nevyhnutné posudzovať jeho bezpečnostné záruky a úroveň ochrany súkromia.
Firmy by mali vyhodnocovať riziká a aktívne sa pýtať po zárukách, aby mohli reagovať na akékoľvek výpadky. „Diverzifikácia na získanie odolnosti voči politickým rozhodnutiam je mimoriadne dôležitá. Nezáleží len na výbere dvoch rôznych modelov, ale na ich nezávislosti od rovnakého geopolitického vplyvu,“ varuje.
Kybernetická bezpečnosť a zodpovednosť
Otázka zodpovednosti je ďalším dôležitým aspektom. Armstrong-Smith hovorí o potrebnom vyvážení medzi obchodnou potrebou a kybernetickou bezpečnosťou. Firmy sa musia zaoberať aj tým, aké modely implementujú, pričom by mali vedieť, aké bezpečnostné mechanizmy sú Readerly zabudované. “Aby ste mali naplnené očakávania v prípade problému, musíte mať jasno v tom, akú technológiu ste nasadili,” hovorí.
Na záver, Armstrong-Smith poukazuje na nevyhnutnosť chápať, že umelá inteligencia je len ďalším nástrojom a nie definitívnym riešením. „Musíme budovať kolektívnu odolnosť, aby sa predišlo dominovému efektu, a tým znížiť závislosť na externých technológiach,” uzavierala. V tejto ére rýchlych zmien a technológie hrajúce kľúčovú rolu vo všetkých aspektoch života je potrebné nastaviť procesy a stratégiu tak, aby boli zabezpečené pred akýmkoľvek potenciálnym rizikom.
