Plán na záchranu: Manuál, ktorý môže určiť prežitie ľudstva
Vedci, po rokoch varovaní a hororových predpovedí, konečne predstavili konkrétny plán, ktorý môže ochrániť ľudstvo pred potenciálnymi hrozbami, ktoré so sebou nesie nezastaviteľný vývoj umelej inteligencie (AI). Tento dvestostranový dokument, nazvaný „AI 2040: Plan A,” upozorňuje na potrebu zavedenia medzinárodnej dohody s cieľom spomaliť vývoj AI a predísť riziku nekontrolovanej superinteligencie.
Na čele skupiny AI Futures Project, ktorá tento dokument vypracovala, stojí Daniel Kokotajlo, bývalý výskumník z OpenAI. Ten sa v roku 2024 rozhodol opustiť túto spoločnosť, pretože mal vážne obavy o smerovanie vývoja a možné dôsledky umelej inteligencie na spoločnosť.
Skupina vydala tento plán ako následníka staršieho modelu „AI 2027”, ktorého cieľom bolo varovať pred tým, ako sa AI môže rýchlo vymknúť spod kontroly. Nový plán však ponúka svetlejšiu perspektívu – nie je to len opis možnej budúcnosti, ale konkrétny návod na akciu, ako zajistiť, aby AI bola v súlade s ľudskými hodnotami.
Prvá fáza: Zmluva s Čínou do roku 2029
Dokument opisuje štyri fázy realizácie navrhovaných opatrení. Prvou fázou, ktorá má byť dokončená do roku 2029, je uzavretie historického medzinárodného dohovoru o transparentnosti v oblasti výskumu AI medzi Spojenými štátmi a Čínou. Tieto krajiny by mali zabezpečiť vzájomné monitorovanie hardvéru, čo je nevyhnutné kvôli vysokému energetickému požiadavku potrebnému na rozvoj špičkovej AI. Týmto spôsobom by mohli obmedziť možnosť skryto vyvíjať technológie, ktoré by mohli byť nebezpečné.
Druhá fáza: Zastropovanie schopností AI
V druhej fáze, medzi rokmi 2030 a 2035, by sa mali schopnosti AI zastropovať na úrovni „ľudského génia.” To znamená, že AI by mala dosiahnuť úroveň expertov v rôznych oblastiach, ale nebude jej umožnené prekročiť tieto limity a podliehať nekontrolovateľnému sebazlepšovaniu.
Tretia a štvrtá fáza: Prestávka a občianska dividenda
Do roku 2040 by mala prebiehať prestávka v rozvoji AI, počas ktorej by sa malo skúmať, ako zosúladiť AI s hodnotami spoločnosti. Finálna fáza sa zameriava na bezpečné a riadené nasadenie superinteligentných systémov. Tento proces by mohol viesť k zásadnej transformácii spoločnosti, vrátane implementácie konceptu občianskej dividendy, ktorá by z príjmov z automatizácie financovala univerzálny základný príjem pre všetkých občanov.
Princíp vzájomne zaručeného zničenia
Navrhované opatrenia samozrejme vyžadujú širokú spoluprácu medzi krajina, ktoré môžu byť potenciálnymi protivníkmi. V prípade porušenia pravidiel by jedna strana mala mať právo na zničenie výpočtovej infraštruktúry druhej strany, čím by sa zabezpečila rovnováha podobná princípu vzájomne zaručeného zničenia z čias studenej vojny. Tento prístup, hoci extrémny, je zamýšľaný ako spôsob, ako zastaviť nekontrolovaný rozvoj technológií.
Kritika a alternatívy
Po zverejnení Plánu A sa ozvali aj kritické hlasy, ktoré varujú pred geopolitickou naivitou. Niektorí odborníci varujú, že predpokladané politické dohody by mohli byť narušené vnútropolitickými problémami v USA a Číne. Na druhej strane, tento plán bol ocenený ako najlepšie spracovaná vízia, ktorá poskytuje konkrétne kroky na ochranu pred potenciálnou hrozbou.
Medzitým generálny riaditeľ Google DeepMind, Demis Hassabis, predstavil svoju vlastnú víziu regulácie AI. Navrhuje vytvorenie novej americkej autority pre štandardy vývoja AI, no nevolá po medzinárodných dohodách, ale po testovaní a hodnotení rizík spojených s technológiou.
Záver
Plán na záchranu pred nebezpečenstvami umelej inteligencie predstavuje významný krok k systematickej regulácii technológie, ktorú naša civilizácia musí dôkladne monitorovať. Ako sa budú udalosti vyvíjať, závisí od ochoty krajín spolupracovať a prevziať zodpovednosť za smerovanie AI, aby sme ochránili budúcnosť ľudstva.
