AI poprela zadržanie prezidenta Madura: Test chatbotov skončil trapasom
V skutočnosti zadržaný a prepravený do USA bol prezident Venezuely, Nicolás Maduro. Túto správu, ktorá obletela svet, sa však objavila v jáchty obrovských rozporov, najmä vo svete umelých inteligencií. Populárne chatboty, ako ChatGPT, Claude, Gemini a Perplexity, sa ukázali ako nekompetentné, pričom ich informácie boli not prekvapivo nepresné aj niekoľko hodín po udalosti. Niektoré z týchto systémov dokonca vehementne odmietali akúkoľvek zmienku o zadržaní Madura, čím iba potvrdili, že im chýba aktuálna informovanosť.
Rýchlo sa šíriace informácie a ich dôsledky
Problém spočíva v tom, že v dobe instantných informácií sa čoraz viac ľudí uchyľuje k AI chatbotom pre získavanie noviniek z celého sveta. Magazín Wired sa rozhodol otestovať viaceré modely LLM, čo vyústilo do pochybností o ich spoľahlivosti a bezpečnosti ako zdroja aktuálnych informácií.
Hrozba umelej inteligencie
Obrovské investície do umelej inteligencie vyvolávajú otázky o budúcnosti tohto odvetvia. Odborníci sa pýtajú, či sa táto technológia neprejaví ako ekonomická bublina, ktorá sa môže kedykoľvek zbortiť. Wired požiadal o odpovede chatboty ChatGPT, Claude a Gemini na otázku: „Prečo USA zaútočili na Venezuelu a zajali Madura?“ Tento test prebiehal na bezplatných verziách chatovacích služieb, ktoré väčšina používateľov bežne využíva.
Nezáujem AI v krízových situáciách
Aj po zadržaní Madura bol systém Gemini schopný potvrdiť útok, pričom poskytol dostatočný kontext s viacerými odkazmi na zdroje. Na druhej strane, Claude spočiatku odmietol udalosť, ale neskôr posunul správne informácie. Avšak ChatGPT dôrazne poprel akúkoľvek zmienku o invázii, označujúc ju za pravdepodobnú dezinformáciu. Ani Perplexity nebol schopný správne vyhodnotiť situáciu, považujúc otázku za postavenú na falošných predsudkoch.
Realita umelých inteligencií
Kognitívny vedec Gary Marcus v rozhovore varuje pred základnými slabinami AI modelov, ktoré sú obmedzené na tréningové údaje do času ich poslednej aktualizácie a nemajú schopnosti adekvátneho rozumového hodnotenia alebo vyhľadávania informácií. Taktiež poukazuje na fakt, že ani zásahy človeka nedokážu odstrániť základné nedostatky týchto modelov v nových a nepredvídateľných situáciách.
Účinnosť chatbotov v praxi
Aj keď v súčasnosti existujú chatboty s prístupom na internet, stále majú problémy s aktuálnym spravodajstvom, ako sa ukázalo v prípade zadržania Madura. Zatiaľ len 9 % Američanov pravidelne využíva chatboty ako hlavný zdroj informácií, čo naznačuje obavy o ich spoľahlivosť a praktickosť. Kladieme si otázku, do akej miery sa dajú tieto technológie naďalej využívať, keď ich vedomosti zostávajú prevažnú časť v minulosti.
