OSN volá po celosvetovej kontrole umelej inteligencie, najmä jej možného vojenského využitia
Predvídanie katastrofických dôsledkov používania umelej inteligencie (UI) sa opakovane objavovalo vo vedecko-fantastických filmoch, ako sú Terminátor a jeho Skynet realizujúci totálnu vojnu proti ľudstvu alebo Matrix a využívanie ľudí ako zdroja energie na poháňanie strojov. Dnes je vzostup UI reálna téma, ktorá sa diskutuje už na úrovni OSN.
Podľa záverov medzinárodných rokovaní zo septembra 2024 by mala byť UI podrobená celosvetovej kontrole. „Najmä imperatív globálneho riadenia, je nezvratný. Suroviny [pre vytvorenie] umelej inteligencie, od kritických minerálov až po tréningové dáta, pochádzajú z celého sveta,“ uvádza správa OSN nazvaná Riadenie UI pre ľudstvo.
„Umelá inteligencia pre všeobecné použitie, nasadená v medzinárodnom meradle, vytvára rozmanité aplikácie na celom svete. Na zrýchľujúci sa vývoj UI je sústreďovaná sila a bohatstvo v celosvetovom meradle, pričom to má geopolitické a geoekonomické dôsledky,“ uvádza správa OSN.
Ako sa však v realite ukazuje, zatiaľ nie je celosvetová spolupráca možná, pretože nie všetci chcú nasledovať spoločné pravidlá a budú chcieť UI využiť vo vlastný prospech alebo pre svoje vlastné ciele.
Na summite v Soule podpísalo tento mesiac 60 krajín vrátane Slovenska plán obmedzujúci vojenské využitie AI. Čína sa nepripojila, čo vyvoláva obavy z technologického pokroku v rukách Čínskej komunistickej strany (ČKS), ktorá bude AI zrejme chcieť využiť pre svoje mocenské a územné plány.
Podľa Bradleyho Thayera, vedúceho pracovníka Centra pre bezpečnostnú politiku, by vývoj zbraní umelej inteligencie mohol byť porovnateľný s revolúciou, ktorú priniesli jadrové zbrane.
ČKS už aktívne vyvíja zbrane s umelou inteligenciou. Bývalý predseda zboru náčelníkov štábov amerického Pentagonu generál Mark Milley nedávno vyhlásil, že spojenie umelej inteligencie s bojovými robotmi úplne zmení charakter vojny.
„Dnes sa nachádzame v … pravdepodobne najväčšej zmene v dejinách vojenstva,“ povedal Milley počas diskusie s Defense One 31. marca. „Z vojenského hľadiska sa nachádzame v kľúčovom okamihu dejín. Nachádzame sa v okamihu, ktorý sa rovná zásadnej zmene samotného charakteru vojny.“
Také revolúcie podľa generála prebiehali od vynálezu strmeňa cez zavedenie strelnej zbrane až po nasadenie mechanizovaného boja a teraz po masové nasadenie robotiky a umelej inteligencie.
Podľa správy OSN vývoj, zavádzanie a používanie UI technológie „sa nedá ponechať iba na ľubovôli trhov“ a budú sa musieť zapojiť aj „vlády jednotlivých štátov a regionálne organizácie“.
Použitie UI by sa podľa Spojených národov malo riadiť „medzinárodným právom, najmä medzinárodným právom v oblasti ľudských práv“.
Správa ďalej uvádza, že predstava o tom, že „jeden štát alebo skupina štátov“ budú môcť „ovládať“ alebo „rozhodovať“ o využití UI, sa „bude zmenšovať“, pretože UI ovplyvní mnoho ďalších a všetci, ktorí budú UI zasiahnutí, by mali byť prizvaní na diskusiu o jej využití a smerovaní.
„Spravodlivosť vyžaduje, aby viac hlasov hralo úlohu v rozhodovaní o tom, ako riadiť technológie, ktoré nás ovplyvňujú,“ dodáva správa OSN. „Režimy správy UI musia tiež pokrývať celý svet, aby boli účinné – účinné pri odvracaní pretekov v zbrojení v oblasti UI’“.
OSN tiež volá po vytvorení nezávislej medzinárodnej vedeckej Komisie pre umelú inteligenciu a Úrade OSN pre umelú inteligenciu. Tieto orgány by mali informovať o „schopnostiach, príležitostiach a rizikách súvisiacich s umelou inteligenciou“.
Ako konkrétne zabezpečiť, aby sa z umelej inteligencie nestala fatálna hrozba, zatiaľ nie je úplne jasné.
Problémy sa podľa správy objavujú už dnes v oblasti sledovania pomocou UI, či dezinformácií generovaných UI. Podľa panelu odborníkov zvolaných OSN sa nové škody spôsobené UI výrazne zvýšia a budú závažnejšie a rozšírenejšie v nasledujúcich 18 rokoch.
Pred dôsledkami umelej inteligencie v kultúrnej sfére už okrem vyššie spomínaných filmov varovali v roku 2004 aj tvorcovia filmu Ja robot alebo nového Mission Impossible: Odplata či hororového pokračovania ságy Votrelec: Romulus.
Pôvodný článok
ZDIEĽAŤ ČLÁNOK
