Obavy eskalujú: Briti hovoria o „kill-switchi“ na AI, FBI varuje pred útokmi na dátové centrá
V poslednej dobe sa čoraz častejšie objavujú obavy spojené s rýchlym rozvojom umelej inteligencie a jej potenciálnymi nebezpečenstvami. Britská vláda sa snaží reagovať na situáciu zavedením možností núdzového vypnutia, známeho tiež ako „kill switch“, pre dátové centrá. Tento krok vychádza z narastajúceho strachu z kontroly nad pokročilými AI systémami, ktoré by v prípade potreby mohli predstavovať riziko pre národnú bezpečnosť.
V týchto dňoch rovnako upozorňuje FBI na zvyšujúce sa riziko teroristických útokov na dátové centrá, pretože s ich narastajúcou hodnotou stúpa aj ich atraktivita pre potenciálnych útočníkov. Situácia v Spojených štátoch vyžaduje zvýšené bezpečnostné opatrenia, keďže obyvatelia, najmä vo vidieckych oblastiach, čelí hlbokým zmenám kvôli expanzii veľkých technologických spoločností.
Lokálni agenti programujú komplexný softvér
Umelá inteligencia sa nezastavuje len pri optimalizácii výrobných procesov, ale pomaly prechádza aj do sféry vývoja softvéru. Nový agent Hermes dokáže efektívne zhodnotiť dostupný kód a na základe konverzácií vyvinúť funkčné lokálne programy. Tento pokrok naznačuje, že čoskoro sa pre startupy a začínajúce podnikateľské subjekty stanú technické zručnosti menej dôležité ako samotné nápady. Práca s AI sa tak môže stať prístupnejšou, no so sebou prináša aj obavy z nezamestnanosti v tradičných IT pozíciách.
YouTube zavádza označovanie AI videí
Spoločnosť YouTube oznámila, že zavádza prísnejšie pravidlá pre oznacovanie obsahu vytvoreného pomocou umelej inteligencie. Každý autor bude musieť pri nahrávaní videa uviesť, či obsahuje realisticky vyzerajúce zmeny, čím sa platforma snaží ochrániť svojich používateľov pred potenciálne škodlivými dezinformáciami, ako sú deepfake videá. Tento krok však môže viesť k nejednoznačnostiam, keďže algoritmy sa v niektorých prípadoch nemusia dotiahnuť na100 % detekciu manipulácií.
Pápež varuje pred digitálnym kolonializmom
Vplyv technológií preniká aj do duchovnej sféry. Pápež nedávno zverejnil encykliku s názvom Magnifica Humanitas, v ktorej prirovnáva rozvoj umelej inteligencie k prevratným zmenám priemyselnej revolúcie. V dokumente varuje pred rizikami, ktoré môžu nastať, ak sa vplyv niektorých nadnárodných korporácií stane dominantným, pričom väčšina populácie by mohla stratiť prístup k technológiám a byť redukovaná na vykonávanie monotónnych úloh, čím by vznikol nový druh digitálneho kolonializmu.
Možnosti regulácie a prevencie
Dodatočné kroky k regulácii AI a jej potenciálnemu „odzbrojeniu“ sa stávajú nevyhnutnými. Obavy z vonkajších hrozieb a negatívnych dopadov na spoločnosť a ekonomiku vyžadujú nielen legislatívne opatrenia, ale aj širokú diskusiu medzi odborníkmi, politikmi a širokou verejnosťou. Situácia je nervózna, a preto je potrebné venovať pozornosť aj etickým aspektom využívania umelej inteligencie v každej sfére života.
