Nahlasovanie bombových hrozieb v slovenských školách je závažný problém, ktorý opakovane traumatizuje deti, učiteľov aj rodičov. Štát musí nájsť spôsob, ako hrozby eliminovať a vytvoriť bezpečnejšie prostredie.
No zavedenie biometrického sledovania detí v školách vyvoláva mnohé otázky, či tento krok naozaj dokáže znížiť počet bombových nahlásení alebo skôr naruší súkromie a zvýši psychický stres všetkých, ktorí v školách sú. V našom texte sa zameriame na niektoré otázky využitia takejto technológie a jej možných dôsledkov.
Technológia (aj pokročilá) má svoje limity
Ministerstvo vnútra navrhlo zavedenie kamerového systému, ktorý má sledovať všetkých prítomných v okolí školy a zaznamenávať ich biometrické údaje.
Systémy umelej inteligencie, ktoré využívajú technológie rozpoznávania tvárí, môžu byť prínosné pre spoločnosť, no v úplne iných kontextoch, napríklad v priestoroch s vysokou mierou bezpečnostných hrozieb, ako sú letiská, hraničné priechody či štadióny, kde je cieľom identifikovať konkrétne rizikové osoby, ktoré môžu ohrozovať bezpečnosť alebo páchať násilie.
Tam sa však údaje z kamier mažú a sú iba na vyhradených miestach. Ľudia tak majú možnosť odmietnuť biometrický systém a zvoliť si kontrolu človekom. Naše deti a učitelia podľa návrhu ministerstva takúto možnosť mať nebudú.
Implementácia technológie rozpoznávania tvárí v takých citlivých situáciách, ako je ochrana maloletých, prináša zásadné riziká a obmedzenia.
Skúsenosti zo západných krajín, ako sú Švédsko, Nórsko či Francúzsko, ukazujú, že tieto technológie môžu byť ohrozením pre zásah do súkromia, riziká nesprávnych identifikácií a psychologické dosahy na deti.
V školách vo Švédsku sa od nich upustilo práve pre problémy s ochranou osobných údajov aj pre vysokú mieru falošných pozitívnych výsledkov, ktoré viedli k stigmatizácii niektorých žiakov.
V Nórsku prevládol názor, že technológia má príliš obmedzené možnosti, pretože páchatelia môžu ľahko uniknúť detekcii maskovaním sa. Francúzsko zas testovalo rozpoznávanie tvárí v niekoľkých školách v Nice a Marseille, ale experiment čelil silnej kritike pre vážne riziká pre súkromie a psychický vývin detí. Francúzska národná komisia CNIL nakoniec odporučila nepoužívať túto technológiu.
Čo nám o týchto systémoch hovorí právo?
Akt o umelej inteligencii (AI act) na európskej úrovni vznikol práve preto, že umelá inteligencia nie je vždy využívaná len pozitívnym spôsobom. Systémy preto delí podľa rizikovosti a upravuje, akým spôsobom môžu byť dané aplikácie používané.
Nariadenie o AI určuje štyri kategórie rizikovosti.
Prvou sú systémy umelej inteligencie s minimálnym rizikom, na ktoré sa vzťahujú len povinnosti týkajúce sa transparentnosti. Sú to napríklad videohry, ktoré používajú AI, spamové filtre či systémy na segmentáciu zákazníkov na trhu.
Druhou kategóriou sú systémy AI s nízkym rizikom, ktoré štandardne nepoužívajú osobné údaje. Príkladom sú chatboty. Ľudia by vtedy len mali byť oboznámení, že komunikujú so strojom.
Potom existujú vysokorizikové systémy. Takéto aplikácie môžu priamo ovplyvniť zdravie, bezpečnosť alebo základné práva ľudí. Vysokorizikové systémy zahŕňajú práve biometrické rozpoznávanie tvárí alebo roboty využívané pri chirurgických zákrokoch.
Nakoniec sú tu systémy s neprijateľným rizikom, ktoré nariadenie AI úplne zakazuje. Sú to technológie ako napríklad „sociálne skórovanie“ obyvateľov vládou alebo manipulatívne AI systémy využívané na ovplyvňovanie správania sa ľudí. Tieto systémy sú nezlučiteľné s ochranou ľudských práv a demokratických hodnôt.
Zavedenie kamerových systémov, ktoré v reálnom čase budú snímať a analyzovať tváre mladistvých, môže byť v rozpore s týmto európskym nariadením o umelej inteligencii. Ministerstvo vnútra ich plánuje nasadiť do verejných priestranstiev. Nebudú snímať len deti a zamestnancov školy, ale všetkých ľudí, ktorí sa v zábere objavia.
Neprekvapí, že vláda sa tento mimoriadne invazívny zámer chystá uskutočniť tak trochu na hulváta. Naša legislatíva takýto systém vôbec neupravuje, neexistuje ani žiadny nezávislý dohľad nad jeho fungovaním. A neexistuje ani mechanizmus, ako sa môže proti jeho zneužitiu jednotlivec brániť.
Psychologický dosah na deti a ich vývoj
Biometrické kamery neznamenajú len pasívne sledovanie, ale aj aktívnu analýzu správania sa. Takáto technológia sleduje deti a zamestnancov na každom kroku a dlhodobo uchováva ich údaje. Pre deti, ktoré ešte len formujú svoj vzťah k autoritám a k svojmu okoliu, môže tento druh dohľadu znamenať psychický tlak, ktorý zasahuje do ich prirodzeného vývoja.
Predstavte si dieťa, ktoré sa prirodzene prejavuje živšie alebo je spontánne. Ak vie, že je neustále sledované, môže sa postupne prispôsobovať očakávaniam sledovacieho systému, čím sa znižuje jeho autentické správanie.
Alebo dieťa, ktoré je plaché a introvertné: vedomie, že každé jeho gesto je pod kontrolou, môže umocniť jeho úzkosť a viesť k ešte väčšiemu uzavretiu sa. Týmto drobnohľadom môžeme narušiť vývoj morálneho kompasu detí. Ak sa budú správať slušne len preto, že sú sledované, môžu začať robiť rozhodnutia zo strachu, nie preto, že rozumejú ich správnosti.
Tento spôsob kontroly navyše oslabuje schopnosť detí dôverovať si a spoliehať sa na vlastné rozhodovacie schopnosti, čo môže mať dlhodobý vplyv na ich sebavedomie a schopnosť sebahodnotenia.
Biometrické sledovanie tiež obmedzuje deti v ich prirodzenej potrebe „blúdenia mysľou“, ktorá je kľúčová pre rozvoj kreatívneho a inovatívneho myslenia. Sledované dieťa, ktoré sa obáva každého pohybu, pretože môže byť nesprávne vyhodnotený, stráca schopnosť uvoľnene premýšľať, čo je kľúčové pre jeho psychický vývin.
Riešenie, ktoré prináša viac rizík než ochrany
Zavedenie biometrických systémov do školského prostredia má byť odpoveďou na bezpečnostné hrozby, ale je to odpoveď, ktorá nebola premyslená.
Tento krok prináša množstvo rizík a súčasne môže byť v rozpore s európskou legislatívou. Existujú aj menej invazívne a efektívnejšie riešenia, ktoré používajú krajiny so skúsenosťami s bombovými nahláseniami – posilnenie kybernetickej bezpečnosti či monitorovanie komunikačných kanálov, aby zložky dokázali potenciálne hrozby eliminovať bez toho, aby ďalej stresovali a traumatizovali deti.
Zavedenie biometrického sledovania do školského prostredia môže spôsobiť viac škody ako osohu. Je načase, aby sme zvážili riešenia, ktoré naozaj prispievajú k bezpečnosti a rešpektujú práva našich detí – namiesto zbytočného a neefektívneho dohľadu za desiatky miliónov eur, ktorý len vytvára ilúziu ochrany.
