Nebezpečné systémy umelej inteligencie majú byť v EÚ zakázané, avšak…
„Systémy umelej inteligencie (AI) s neprijateľnými rizikami sú systémy, ktoré sú považované za hrozbu pre človeka a budú zakázané,“ uvádza sa na webovej stránke Európskeho parlamentu (EP) k pripravovanej legislatíve.
Niektorí poslanci EP vidia v umelej inteligencii „príležitosť“ na rozvoj vedy, technológií a vzdelávania, zatiaľ čo iní tvrdia, že táto technológia zmení spôsob ľudskej existencie alebo že ohrozí bezpečnosť a zdravie ľudstva.
Čo si poslanci Európskeho parlamentu predstavujú pod pojmom „neprijateľné riziká“ a na čo by použili umelú inteligenciu?
Európsky parlament považuje za neprijateľné riziká napríklad kognitívnu manipuláciu správania ľudí, prideľovanie sociálneho kreditu alebo systémy biometrickej identifikácie v reálnom čase a na diaľku.
Za nebezpečné označujú najmä vytvorenie systémov, ktoré by klasifikovali ľudí na základe správania, sociálno-ekonomického statusu alebo osobných charakteristík a združovali ich do spomínaného sociálneho kreditu. V praxi sa už podobné systémy zaviedli v niektorých oblastiach Číny.
Fungujú tak, že komunistická strana určí spôsoby prijateľného správania, komunikácie a myslenia, a ak ich dotyčný spĺňa, môže normálne používať svoj účet, slobodne cestovať, zastávať vysokú pracovnú pozíciu. Ak sa však začne odchyľovať, kredity sa znížia a dotyčná osoba bude obmedzená v mnohých aspektoch slobodného života.
Ďalším nebezpečenstvom je podľa europoslancov rozpoznávanie tváre na základe biometrických identifikačných systémov. V tomto prípade je možné rozpoznať identitu osoby na základe určitých kriviek alebo bodov na tvári, a teda pomocou kamier rozpoznať, kto sa práve nachádza v zábere kamery.
Europoslanci však za neprijateľné nebezpečenstvo považujú iba používanie tohto systému „v reálnom čase a na diaľku“. Použitie identifikácie „so značným oneskorením bude povolené pri stíhaní závažných trestných činov a len po schválení súdom“, uvádza sa na webovej stránke Európskeho parlamentu.
Vysoko rizikové systémy AI
Systémy umelej inteligencie, ktoré „majú negatívny dopad na bezpečnosť alebo základné práva“, sa majú podľa Európskeho parlamentu považovať za „vysoko rizikové“. Takéto systémy by sa podľa poslancov mali „posudzovať pred uvedením na trh a počas ich celého životného cyklu“.
Patria sem systémy v leteckom a kozmickom priemysle, automobiloch, zdravotníckych pomôckach, výťahoch a hračkách.
Poslanci tiež stanovili systémy umelej inteligencie, ktoré budú musieť byť registrované v databáze EÚ. Týka sa to týchto oblastí:
- biometrická identifikácia a kategorizácia fyzických osôb
- riadenie a prevádzka kritickej infraštruktúry
- vzdelávanie a odborná príprava
- zamestnanosť, riadenie pracovnej sily a prístup k samostatnej zárobkovej činnosti
- prístup k základným súkromným a verejným službám a sociálnym dávkam a ich využívanie
- vymáhateľnosť práva
- riadenie migrácie, azylu a ochrany hraníc
- pomoc s právnym výkladom a vymožiteľnosťou práva
Generatívna umelá inteligencia
Podľa uznesenia poslancov Európskeho parlamentu by používatelia digitálnych technológií mali byť „informovaní o tom, že prichádzajú do styku s umelou inteligenciou“. Generatívna umelá inteligencia, ako napríklad ChatGPT, bude musieť podľa EP „spĺňať požiadavky transparentnosti“ a tieto požiadavky špecifikujú v nasledujúcich troch bodoch:
- zverejniť, že obsah bol vytvorený umelou inteligenciou.
- navrhnúť model tak, aby zabránil vytváraniu nezákonného obsahu
- zverejňovať súhrn údajov chránených autorskými právami, ktoré sa použili na výcvik umelej inteligencie
Hranice, riziká a zachovanie ľudskosti
Podľa francúzskeho poslanca Gillesa Lebretona z parlamentnej skupiny Identita a demokracia existujú kľúčové oblasti – najmä armáda, súdnictvo a zdravotníctvo,v ktorých „umelá inteligencia nikdy nesmie nahradiť človeka alebo ho zbaviť zodpovednosti“.
Niektorí europoslanci tiež zdôrazňujú nutnosť ľudského dohľadu nad systémami umelej inteligencie používanými v obrane a opakovane vyzývajú na „zákaz autonómnych smrtiacich zbraní.“
Niektorí experti zvažujú technologický pokrok ako na miske váh – kriticky ho hodnotia a zvažujú jeho výhody a nevýhody.
Napríklad Aaron Kheriathy, riaditeľ programu Bioetika a americká demokracia v Americkom centre pre etiku a verejnú politiku, uvádza, že „na jednej strane nám technológia prináša mnoho skvelých vecí, ktoré zlepšujú ľudský život. Na druhej strane sa niekedy objavujú obavy, že využívanie technológií sa môže dostať do bodu, keď už nezlepšuje zdravie a prosperitu ľudí, ale v skutočnosti nás odľudšťuje.“
„Niektorí hovoria, že technológie sú nebezpečné, pretože vytvárajú veci ako atómovú bombu,“ dodáva Kheriathy, ktorý síce pôsobí na inom kontinente, ale spolu s ďalšími vedcami vystupuje v dokumentárnom filme Altered Humans, v ktorom hľadá odpovede na otázky o vplyve biotechnológií na človeka. „Druhým extrémom je glorifikácia akejkoľvek technológie ako automaticky dobrej veci alebo naivný predpoklad, že každá technológia je neutrálna, že je to len nástroj, ktorý sa môže použiť na dobré alebo zlé veci. Myslím si, že je to príliš zjednodušené.“
„Myslím si, že rozhodujúce je naše smerovanie, aby sme zostali ľuďmi počas prekonávania veľmi komplikovaného a mohutného pokroku v biotechnológiách a sledovacích technológiách,“ hovorí Kheriathy.
Niektorí europoslanci si predstavujú, že umelá inteligencia by mala byť naprogramovaná tak, aby dohliadala na „výchovu“ obyvateľstva smerom k zvolenej ideológii.
S tým súvisí aj správa o využívaní umelej inteligencie vo vzdelávaní, kultúre a audiovizuálnom priemysle, ktorú Európsky parlament prijal 19. mája 2021. Správa požaduje, aby „technológie umelej inteligencie boli navrhnuté tak, aby predchádzali rodovým, sociálnym alebo kultúrnym predsudkom a chránili rozmanitosť a rôznorodosť“.
Na druhej strane poslanci Európskeho parlamentu 6. októbra 2021 vyzvali na prijatie prísnych bezpečnostných opatrení pri využívanie nástrojov umelej inteligencie pri presadzovaní práva. Chceli presadiť „trvalý zákaz automatického rozpoznávania osôb na verejných priestranstvách“ a v záujme boja proti diskriminácii zaviesť transparentnosť používaných algoritmov, uvádza sa na webovej stránke EP.
Niektorí poslanci EP tiež tvrdia, že umelá inteligencia bude zohrávať „podstatnú úlohu“ i pri realizácii tzv. Zelenej dohody pre Európu. (Green Deal)
Investície EÚ do umelej inteligencie
Európska komisia už v roku 2020 uviedla, že chce „zvýšiť súkromné a verejné investície do technológií umelej inteligencie na 20 miliárd eur ročne“.
V decembri 2023 Európska rada uviedla, že chce „urýchliť“ investície do umelej inteligencie v Európe.
V júni 2023, Európska komisia, členské štáty a 128 partnerov z oblasti výskumu, priemyslu a verejnej správy zainvestovali 220 miliónov EUR do štyroch testovacích a experimentálnych zariadení umelej inteligencie. Z toho polovicu zaplatí priamo Európska komisia.
Cieľom financovania je „podporiť vývojárov umelej inteligencie pri efektívnejšom uvádzaní dôveryhodnej umelej inteligencie na trh“ a uľahčiť „jej zavádzanie v Európe“.
Investície „sú otvorené pre všetkých poskytovateľov technológií v celej Európe na testovanie a experimentovanie s umelou inteligenciou a robotikou“, uvádza Komisia.
ZDIEĽAŤ ČLÁNOK
