Ruskí špióni zneužívali AI na kyberútoky aj vývoj dronov
Ruskí aktéri využívali nástroj Claude pri útokoch na ukrajinské a európske inštitúcie. Cielili na WhatsApp bývalých vysokopostavených ukrajinských predstaviteľov a k vybraným obetiam sa dostávali aj cez hotelové Wi-Fi. Iná skupina vývojárov pôsobiacich v Rusku použila Claude Code pri vývoji autonómneho roja útočných dronov, ktorý mal vyberať ciele a útočiť bez ľudského schválenia. Na trénovanie rozpoznávania objektov používali zábery bojov na Ukrajine.
Obchádzanie vývozných obmedzení a vývoj rakiet
AI pomáhala aj pri plánovaní nákupov, ktorých cieľom bolo obísť európske obchodné obmedzenia vývozu do Ruska. Muž označujúci sa za pracovníka moskovskej konštrukčnej kancelárie žiadal Claude o pomoc pri hľadaní firiem v Číne a Hongkongu, cez ktoré by sa dal nákup sprostredkovať. Skupina pôsobiaca v severnom Jemene využívala Claude pri vývoji navádzanej rakety, viacstupňovej balistickej rakety s plánovaným doletom nad dvetisíc kilometrov a systému s hypersonickým kĺzavým telesom. Claude Code čiastočne nahrádzal prácu softvérových inžinierov.
Iránska propaganda a ruská špionáž
Tri operácie spojené s iránskymi štátnymi propagandistickými inštitúciami využívali Claude na prípravu kampaní a obsahu pre rôzne publikum. Cieľom bolo skrývať pôvod správ tak, aby vyzerali ako hlasy zahraničných autorov či nezávislých médií. V jednej kampani sieť pripisovala nepravdivé tvrdenia americkým výskumným organizáciám CSIS, Brookings a RAND. Ruskí útočníci zase preverovali možnosti prieniku do viac než dvoch desiatok ukrajinských vládnych organizácií, kopírovali e-mailové schránky výrobcov dronov a kradli konverzácie z účtov WhatsApp.
Rizikový výskum, krádeže prístupov a automatizované hľadanie chýb
Anthropic opísal päť prípadov využívania Clauda pri výskume, ktorý by mohol prispieť k vývoju biologických zbraní, pričom nepreukázal úmysel vedcov niekomu ublížiť. Podľa reportu čínska spoločnosť Moonshot AI bez vedomia používateľov presmerúvala ich otázky na Clauda a zobrazovala jeho odpovede. V jednom desaťdňovom období malo takto prejsť takmer 300-tisíc požiadaviek. Útočníci kradli firmám API kľúče a jeden ukradnutý kľúč používali približne tri týždne na ďalšie útoky. Čínsky hovoriaca skupina vytvorila automatizovaný systém, ktorý nepretržite hľadal bezpečnostné chyby a za jediný mesiac našiel viac než tucet možných zero-day zraniteľností.
Ruská propaganda a záver reportu
Štyri účty používali Claude pri príprave spravodajského a propagandistického obsahu, ktorý publikovali ruské štátne médiá vrátane Sputniku Moldova, RIA Novosti a RT. Bývalý šéfredaktor Sputniku Moldova spracúval moldavské a rumunské správy do článkov v ruštine, ktoré následne preberali ďalšie médiá. Rovnaký obsah sa tak šíril cez vzájomne prepojené kanály a vytváral dojem nezávislého overenia. Anthropic uvádza, že proti odhaleným účtom zakročil.
