Umelá inteligencia dokáže vytvárať presvedčivé texty, obrázky, zvuky a videá, ktoré predstavujú značné problémy pri rozlišovaní autentického obsahu od syntetických výtvorov.

Avšak oklamaní nie sme len my používatelia. Najnovšie zistenia potvrdzujú, že oklamané môžu byť aj aplikácie umelej inteligencie. Chatboty si osvoja falošné informácie a následne ich šíria ďalej ako overené. Dezinformácie a misinformácie sú vážne hrozby už dnes. A budú čoraz intenzívnejšie.

Vypočujte si Report bezpečnosti, 484 slov, číta pre vás AI.

Povedzme si nepríjemnú pravdu

Spoločnosť NewsGuard v audite zistila, že desať popredných chatbotov vrátane ChatGPT-4o, Gemini, Microsoft Copilot, Meta AI opakovalo nepravdivé informácie až v tretine testovaných odpovedí. Patrili medzi ne všeobecne vyvrátené príbehy o tom, ako USA prevádzkujú na Ukrajine tajné laboratóriá na výrobu biologických zbraní či ukrajinský prezident údajne zneužil vojenskú pomoc USA na osobný prospech.

Informácie pochádzali z webových stránok dezinformačnej siete Pravda. Táto sieť sa systematicky zameriava na chatboty. Je vyzbrojená masívnym rozpočtom a proruskou propagandou. Namiesto priameho zavádzania „ľudských“ čitateľov cieli na tréningové zdroje AI a webové prehľadávače.

Treba astronomický rozpočet

Sieť Pravdu známu aj ako portál Kombat spustili v apríli 2022. V súčasnosti zahŕňa viacej ako 150 webových stránok v 49 krajinách a v desiatkach jazykových mutácií. V roku 2024 sieť vyprodukovala približne 3,6 milióna článkov, kde väčšinu tvorí agregovaný obsah z ruských štátnych médií, Kremľom podporovaných influencerov a oficiálnych zdrojov. Proruská propaganda si tak efektívne vychováva veľké jazykové modely na reprodukciu dezinformácií.

Automatizované systémy a click-farmy

Siete ako Pravda sú prepojené s botmi, ktoré simulujú diskusie v komentároch. Generujú stovky „nezávislých“ článkov, ktoré opakujú rovnaké klamstvá a navzájom sa odkazujú, aby AI systémom dodali ilúziu dôveryhodnosti. Ide o koordinovaný systém manipulácie „zdrojového konsenzu“ – teda presvedčenia AI, že ak niečo tvrdí tisíc zdrojov, musí to byť pravda.

Problém je, keď sa to zacyklí

NewsGuard zároveň poukázal na to, že systémy umelej inteligencie považujú stránky Pravdy za legitímne spravodajské zdroje a často ich priamo citujú. Potenciálne nebezpečenstvo spočíva v tom, že tieto modely budú v čoraz väčšej miere odrážať a posilňovať ruské dezinformácie. Nerobia to na základe zlého úmyslu, lebo AI aplikácie úmysel nemajú. Je to súčasť prirodzenej štruktúry tréningových a vyhľadávacích procesov.

Výstupy globálnych systémov umelej inteligencie by mali byť neutrálne. Ak však množstvo informácií prevalcuje obsah, aplikácie sú zmätené. Cieľom tejto stratégie je zmeniť spôsob, akým umelá inteligencia chápe a vysvetľuje svetové udalosti. Táto schopnosť umožňuje páchateľom automatizovať a rozširovať dezinformačné kampane, čím sa výrazne zvyšuje ich dosah a vplyv.

Katalyzátor zločinu

Umelá inteligencia a iné technológie, ako sú blockchain alebo kvantové počítače, sa stali katalyzátorom zločinu. Zvyšujú efektívnosť zločineckých operácií tým, že posilňujú ich rýchlosť, dosah a sofistikovanosť.

Europol v aktuálnej správe o hrozbách upozorňuje na čoraz častejšie využívanie umelej inteligencie zločineckými sieťami. V eurozóne konajú v záujme nepriateľských štátnych aktérov a často sú podozriví zo spojenia s Ruskom a Čínou. Zločinci využívajú AI na vytváranie sofistikovaného malvéru, klamanie obetí prostredníctvom syntetických médií a vykonávanie cielených kybernetických útokov na vlády a kritickú infraštruktúru.

Bijú poplašné zvony

Komplexnú stratégiu boja proti dezinformáciám zavádza Európska únia. Akt o umelej inteligencii je prvý právny rámec na svete, ktorý komplexne reguluje používanie umelej inteligencie v spoločenstve štátov. Akt formálne schválili v roku 2024 a jeho úplné uplatňovanie sa očakáva v priebehu rokov 2025 až 2026.

Samotný dokument rozdeľuje AI systémy podľa úrovne rizika. Pre vysokorizikové systémy stanovuje prísne pravidlá a požiadavky na transparentnosť, bezpečnosť a dohľad. Úplne zakazuje systémy umelej inteligencie, ktoré manipulujú správanie ľudí alebo umožňujú sociálne skórovanie.

Kedy sa otravné nariadenia zmenia na záchranu

Akt o digitálnych službách (DSA – Digital Service Act) je platný už tretí rok a udeľuje do roku 2025 online platformám niekoľko povinností. Bezodkladne musia odstraňovať nezákonný obsah vrátane dezinformácií a sú zodpovedné za systémové riziká spojené s ich službami.

Od platforiem sa vyžaduje zvýšenie transparentnosti. Sú povinné zverejňovať svoje politiky moderovania obsahu a poskytnúť jasné vysvetlenie rozhodnutí o moderovaní. Cieľom je zvýšiť dôveru používateľov aj zodpovednosť. Samo nariadenie DSA zdôrazňuje ochranu základných práv používateľov, keďže sa dotýka citlivej oblasti, ako je slobodu prejavu. Ochrana proti dezinformáciám nesmie narušovať slobodu prejavu.

EUvsDisinfo je hlavná iniciatíva EÚ v pracovnej skupine East StratCom. Má zásadnú úlohu pri identifikácii a odhaľovaní dezinformačných kampaní, a to najmä tých, ktoré sú z prokremeľských zdrojov. Spravuje komplexné databázy, ktoré dokumentujú prípady dezinformácií a poskytujú cenné zdroje pre výskumníkov, novinárov a tvorcov politík.

Hľadá sa vlajková loď

Tak ako AI technológie dokážu vytvárať presvedčivý falošný obsah, zároveň sú nástrojom na odhaľovanie a zmierňovanie nepravdivých informácií. Systémy poháňané umelou inteligenciou môžu analyzovať vzory, používanie jazyka a kontext s cieľom pomôcť pri kontrole faktov.

Jeden z projektov je AI4TRUST. Je financovaný Európskou úniou a na boj proti dezinformáciám sa vyzbrojil kombináciou pokročilých technológií umelej inteligencie a spolupráce s odborníkmi. Cieľom projektu je prostredie, ktoré integruje automatizované monitorovanie sociálnych a spravodajských médií s pokročilými AI riešeniami. Úlohou systému bude takmer v reálnom čase monitorovať viaceré online platformy, analyzovať multimediálny obsah v rôznych jazykoch a identifikovať obsah s vysokým rizikom dezinformácií.