Čínska armáda chce využiť umelú inteligenciu na posilnenie dezinformačných kampaní, tvrdí think tank
Nová správa think tanku RAND zistila, že čínska armáda využíva umelú inteligenciu (UI) na podporu zahraničných kampaní na ovplyvňovanie.
Podľa štúdie, ktorá bola zverejnená 1. októbra, by sa Spojené štáty a ďalšie krajiny „mali pripraviť na túto manipuláciu sociálnych médií riadenú umelou inteligenciou“ a prijať opatrenia na zníženie rizík, podporiť mediálnu gramotnosť a dôveryhodnosť vlády, zvýšiť informovanosť verejnosti a posilniť diplomatickú koordináciu. Ide o prvú správu zameranú na plánovanie a stratégie Čínskej komunistickej strany (ČKS) na ovplyvňovanie sociálnych médií.
Štúdia skúmala Li Bichenga, popredného odborníka na masovú manipuláciu sociálnych médií spojeného s čínskou armádou, ktorý je považovaný za prinajmenšom čiastočne zodpovedného za prijatie týchto technológií režimom. Štúdia tiež čerpala dôkazy z viac ako 220 článkov v čínštine z akademických časopisov a viac ako 20 článkov v angličtine z medzinárodných konferencií, ktorých autorom bol Li.
Medzi kľúčové zistenia patrí, že ČKS začala vyvíjať možnosti manipulácie so sociálnymi médiami v roku 2010, že má „jasný záujem využívať umelú inteligenciu“ na tieto kampane, že čínski vojenskí výskumníci vykonávajú špičkovú prácu a že ČKS má dobré predpoklady na vykonávanie týchto rozsiahlych manipulačných kampaní.
Výskumníci poznamenávajú, že aktivity ČKS v oblasti umelej inteligencie sú v rozpore s verejnými vyhláseniami režimu, v ktorých sa predstavitelia otvorene stavajú proti využívaniu umelej inteligencie na dezinformácie.
Prijatie sociálnych médií
Podľa výskumníkov bola prvou reakciou ČKS na povstania vyvolané sociálnymi médiami, ako bola Arabská jar, snaha potlačiť túto technológiu. Zaujímala sa však aj o to, čo považovala za západné spôsoby využívania „psychologickej online vojny“, a v roku 2013 zverejnila dokumenty o pláne na „posilnenie medzinárodných komunikačných kapacít a budovanie zahraničného diskurzu moci“.
V tom istom roku Si Ťin-pching predniesol prejav, v ktorom vyzval na „začatie boja proti verejnej mienke“ a snažil sa „vybudovať silnú kybernetickú armádu“. Povedal, že Čína je obeťou obvinení prichádzajúcich zo Západu, a vyhlásil, že (čínska) odveta je oprávnená.
„Musíme starostlivo a správne viesť vonkajšiu propagandu,“ povedal Si. V nasledujúcich rokoch boli vo viacerých orgánoch ČKS zriadené nové oddelenia zamerané na online propagandu a rozšírila sa aj spolupráca medzi oddeleniami v rámci zahraničných vplyvových kampaní.
V rokoch 2017 – 2018 sa rozsiahle štátom sponzorované úsilie aktívne zameralo na zahraničné skupiny. Výskumníci sa domnievajú, že v tomto období sa začala dezinformačná kampaň „Spamouflage“, ktorá bola v roku 2023 identifikovaná ako iniciatíva vedená ČKS. Taiwan tiež obvinil čínsku armádu z manipulácie sociálnych médií s cieľom zasahovať do taiwanských volieb v roku 2018, čo bolo prvé takéto verejné obvinenie.
Dezinformačné kampane v sociálnych médiách podľa správy „explodovali“ v roku 2019 a vo veľkej miere sa používali počas hongkonských protestov, potom počas pandémie Covid-19 a neskôr počas amerických volieb v polovici volebného obdobia v roku 2022.
Prostredie na testovanie umelej inteligencie
V roku 2023 Li Bicheng vo svojej štúdii napísal, že umelé umiestňovanie príspevkov na sociálnych sieťach je stále neefektívne a režim sa pri tomto úsilí musí stále spoliehať na ľudskú prácu. Skúmal spôsoby, ako využiť umelú inteligenciu na nahradenie „50 centovej armády“, pričom veril, že to pomôže ČKS dosiahnuť „výhodu verejnej mienky v budúcich informačných vojnách“.
Li stanovil postup pozostávajúci zo šiestich krokov: objavenie a získanie kľúčových informácií; príprava a výber vhodných mediálnych prostriedkov; vytvorenie obsahu na mieru pre každú z cieľových online platforiem; výber vhodného načasovania, spôsobu doručenia a krokov; posilnenie šírenia informácií z viacerých zdrojov vytvorením „hotspotov“; formovanie prostredia a rozširovanie vplyvu.
Jeho výskum v posledných rokoch predstavuje rozsiahle úsilie o spojenie rôznych technológií, o ktorých sa výskumníci domnievajú, že by mohli automatizovať týchto niekoľko krokov a vytvoriť inteligentné príspevky, a tie by sa dali automaticky nasadiť na sociálnych sieťach čo najefektívnejším spôsobom, prispôsobeným cieľovému publiku.
Výskumníci sponzorovaní ČKS vyvíjajú aj simulované prostredie alebo „supersieť“, aby otestovali tieto schopnosti umelej inteligencie a zistili, či obsah generovaný umelou inteligenciou má želaný účinok a ovplyvňuje verejnú mienku zamýšľaným smerom.
„Simulované prostredie využíva existujúce údaje z reálneho sveta, kognitívnu vedu a sieťové modelovanie,“ uvádza sa v správe. „Tvrdíme, že súčasná technológia LLM [large language mode] je dostatočná na implementáciu Liom navrhovaného automatizovaného systému ovplyvňovania verejnej mienky; Čína má pravdepodobne kapacitu na sprevádzkovanie tohto systému.“
Ak by ČKS už začala pracovať na technológiách diskutovaných v štúdiách z roku 2023, bola by pripravená a schopná sústrediť sa na nadchádzajúce prezidentské voľby, tvrdia výskumníci.
Podľa správy už v roku 2023 objavili určité dôkazy o dezinformačných kampaniach generovaných umelou inteligenciou napojených na ČKS, ako napríklad obrázky požiaru na Havaji generované umelou inteligenciou a vplyvová kampaň na YouTube, ktorá presadzovala pročínske a protiamerické naratívy v témach vrátane „technologickej vojny medzi USA a Čínou.“
Austrálsky inštitút pre strategickú politiku dospel k záveru, že kampaň, ktorá do decembra 2023 zaznamenala na YouTube približne 120 miliónov pozretí, bola „jednou z najúspešnejších operácií na ovplyvňovanie mienky o Číne, aká kedy bola na sociálnych sieťach zaznamenaná“.
Výskumníci z RAND očakávajú, že v budúcnosti sa bude zvyšovať počet botov v sociálnych médiách využívajúcich generatívnu umelú inteligenciu. Americkým úradníkom a platformám sociálnych médií odporučili znížiť riziko tým, že investujú do spôsobov odhaľovania obsahu generovaného umelou inteligenciou a vyžadovaním jeho označovania.
Výskumníci poznamenali, že zistenia štúdie nezahŕňajú rozsah operácií ČKS v oblasti digitálneho vplyvu. „Je dôležité si uvedomiť, že manipulácia so sociálnymi médiami je len jedným z mnohých nástrojov v rámci širšieho súboru nástrojov zahraničných vplyvových operácií ČKS a že čínska armáda je len jedným z pravdepodobne mnohých aktérov, ktorí vykonávajú tieto činnosti v mene straníckeho štátu,“ konštatuje správa.
Pôvodný článok
ZDIEĽAŤ ČLÁNOK
