Vláda schválila zámer AI kamier na školách bez potrebnej analýzy. Odborníci upozorňujú na zásah do súkromia žiakov a zamestnancov
Vláda schválila plán na posilnenie bezpečnosti na školách prostredníctvom kamerových systémov. Tie majú byť napojené na Policajný zbor a doplnené umelou inteligenciou na rozpoznávanie tvárí. Krok vlády je reakciou na zvyšujúci sa počet násilných incidentov v školách, často páchaných mladými ľuďmi. Návrh však vyvolal obavy odborníkov na ochranu osobných údajov, ktorí upozorňujú na možný rozpor s právami na súkromie a zásadami na ochranu osobných údajov (GDPR), najmä v súvislosti s rozsahom a účelom takéhoto monitorovania. Otázny je aj súlad návrhu s Aktom o umelej inteligencii (AI Act). Ministerstvo vnútra sa dodatočne chystá vypracovať rozsiahlu legislatívnu analýzu.
Vláda sa spolieha na kamery
V septembri vláda schválila dokument zastrešujúci systémové riešenie bezpečnosti v zariadeniach základných a stredných škôl. Materiál reaguje na neustále sa zhoršujúci stav bezpečnosti v spoločnosti od roku 2020 a nárast počtu útokov. „Osobitne je potrebné zdôrazniť, že ide v drvivej väčšine prípadov o útoky mladistvých alebo osôb vo veku, ktorý je blízky mladistvému veku,“ píše sa v dokumente. Okrem toho so začiatkom školského roka nárastol aj počet bombových hrozieb hlásených na školách, ktoré sú zasielané emailom.
Riešením alarmujúcej bezpečnostnej situácie by podľa materiálu malo byť namontovanie kamier na budovy škôl. Tie by boli priamo napojené na Policajný zbor, tvrdia vládni predstavitelia. Minister školstva Tomáš Drucker a minister vnútra Matúš Šutaj Eštok (obaja Hlas-SD) sa dohodli na vypracovaní Národného projektu kamerového systému.
Rozpočet projektu počíta so 60 miliónmi eur a bude rozdelený na tri roky. Cieľom je monitorovať vstupy do školských areálov a pomocou technológie rozpoznávania tvárí identifikovať pochybné, neznáme, či nebezpečné osoby. Šéf rezortu vnútra tvrdí, že zavedený kamerový systém bude v súlade s GDPR.
Umelá inteligencia a rozpoznávanie tváre
Do konca roka 2026 by podľa ministra vnútra kamerové systémy s umelou inteligenciou (AI) mali byť zavedené do približne 3000 škôl. AI by analyzovala rizikové správanie a následne by o ňom informovala operačné stredisko. „Budú to kamery modernej generácie, ktoré budú mať aj takzvané rozpoznávanie tváre (face recognition). Pôjde o riešenie, ktoré nebude zaťažovať policajtov na jednotlivých obvodných oddeleniach,“ skonštatoval minister Šutaj Eštok.
Na základe schváleného materiálu by mali byť napokon vo všetkých školách na Slovensku nainštalované kamery s podporou AI. Tie budú monitorovať žiakov, učiteľov a školský personál. Kamery umožnia rozpoznať a včas identifikovať osoby spojené so školou a odlíšiť ich od nepovolaných osôb podľa základných tvárových znakov. Cieľom je predchádzať násiliu na školách, zabrániť šíreniu drog a reagovať na hrozby súvisiace s výbušninami šírené prostredníctvom e-mailov.
Masívny zásah do práv občanov
Spolok pre ochranu osobných údajov (Spolok) je združenie profesionálov zaoberajúcich sa otázkami ochrany a spracúvania osobných údajov. Materiál schválený vládou ich podľa vlastných slov znepokojil. Účel a rozsah spracúvaných osobných údajov, ktorý bol v dokumente popísaný, môže byť v rozpore so základnými zásadami GDPR, uviedli.
„Z metodických usmernení a kontrolnej činnosti dozorujúcich orgánov naprieč celou Európskou úniou, slovenský Úrad na ochranu osobných údajov nevynímajúc, vyplýva, že kamerové záznamy sa považujú za masívny zásah do práv občanov, a preto by sa mala pri takom spracúvaní zachovať zásada minimalizácie spracúvania osobných údajov a ich uchovávania a najmä nevyhnutnosť spracúvania,“ objasnil Spolok.
Aby bola naplnená zásada minimalizácie v kontexte monitorovania kamerovými systémami, kamery by sa mali inštalovať iba na objekty, kde preukázateľne došlo k protiprávnej činnosti, ktorú je možné monitorovaním zaznamenať a nemali by byť „preventívne“ umiestňované na akékoľvek miesta, konštatuje Spolok.
„Umiestnenie kamerových systémov s umelou inteligenciou na všetky školy v krajine predstavuje rozsiahly zásah do súkromia žiakov, učiteľov a zamestnancov,“ naznačila predsedníčka Lucia Semančínová.
Kamerami sa stanovené ciele dosiahnuť nemusia
Spolok naviac rozporuje možnosť dosiahnutia vládou stanovených cieľov prostredníctvom nainštalovania kamier na všetkých školách. Tvrdí, že opatrenia nemusia priniesť žiadny pozitívny efekt.
Spolok napríklad upozornil na fakt, že ak budú kamery so zabudovanou AI schopné rozpoznávať cudzích ľudí od žiakov a školského personálu, pravdepodobne tým nijako nezabránia prípadným útokom, ktorých sa podľa zverejnených informácií a spomínaného materiálu najčastejšie dopúšťajú práve samotní žiaci alebo bývalí študenti. Systém by takéto osoby považoval za známe.
Tiež pripomína, že ani predchádzanie trestnej činnosti by nemalo byť dôvodom na snímanie tvárí v takom veľkom rozsahu, ak nie je evidentné, že sa tým prispeje k dosiahnutiu stanoveného účelu. „Už z vymedzeného účelu je pritom zrejmé, že kamerový záznam nemôže žiadnym spôsobom prispieť k nedoručeniu e-mailovej správy o umiestnených výbušných látkach na školách,“ uviedol Spolok.
Členovia Spolku zdôraznili, že okrem bežnej GDPR dokumentácie je v tomto prípade nutné vypracovať posúdenie vplyvu pri spracúvaní osobných údajov (tzv. rizikovú analýzu), ktorá mala byť vykonaná ešte predtým, ako bol materiál na rokovanie vlády predložený.
Ministerstvo vykoná komplexnú analýzu ex post
Ministerstvo vnútra už avizovalo, že plánuje v rámci overenia súladu s právnymi predpismi vypracovať komplexnú legislatívnu analýzu. „Zistenia tejto analýzy budú následne dôsledne implementované do finálnej podoby riešenia s cieľom zabezpečiť jeho plnú legislatívnu konformitu,“ uviedol hovorca ministerstva Matej Neumann.
Asociácia AI (ASAI) upozornila na fakt, že ak by vládne riešenie zahŕňalo využitie systémov na diaľkovú biometrickú identifikáciu v reálnom čase s podporou AI, mohlo by to byť považované za zakázanú praktiku.
Rovnako aj Spolok sa domnieva, že vládny materiál sa nevysporiadal s nariadením EÚ. To kamerové systémy s využitím AI zaraďuje medzi vysoko rizikové operácie s prísnymi požiadavkami kladenými na poskytovateľa a nasadzovateľa riešenia. „Nakoľko v materiáli nie sú uvedené všetky očakávané informácie súvisiace so spracúvaním osobných údajov, nemožno vylúčiť, že spracúvanie bude predstavovať zakázanú operáciu podľa Aktu o umelej inteligencii,“ naznačil Spolok.
Doplnil, že na základe materiálu predloženého vládou „nevidí odôvodnenie zaznamenávania podobizní všetkých detí na Slovensku, vrátane nadväzujúceho rozpoznávania identity (učenia sa umelej inteligencie)“.
