Povinnosti manažéra kybernetickej bezpečnosti

Sledovanie vývoja a regulácií AI je dnes už súčasťou úloh manažéra kybernetickej bezpečnosti. AI nie je len technológia – je to aj otázka bezpečnosti, etiky a dôveryhodnosti. Preto musí byť pod drobnohľadom. Okrem iných podstatných informácií je zákonu venovaný dodatok v podobe vlastného paragrafu 13b – Základné zásady používania systémov AI vo verejnej správe. Návrh reflektuje nové právne predpisy EÚ vrátane Aktu o umelej inteligencii (nariadenie EÚ 2024/1689) a smernice NIS2 (kybernetická bezpečnosť) a výslovne integruje AI systémy do právneho rámca verejného IT. Ale poďme krok po kroku.

Umelá inteligencia (AI) má obrovský potenciál transformovať verejnú správu, prinášať efektivitu, transparentnosť a skvalitňovať služby pre občanov. Jej implementácia však prináša aj výzvy a etické otázky, ktoré je potrebné adresovať.

Ako nám môže AI pomôcť vo verejnej správe?

• Automatizácia a zjednodušenie administratívy – AI dokáže prevziať často opakujúce sa a časovo náročné úlohy, ako je triedenie dokumentov, spracovanie žiadostí, generovanie prehľadov či organizácia kalendárov. To uvoľní čas zamestnancom, ktorí sa môžu sústrediť na zložitejšie úlohy vyžadujúce ľudský úsudok.
• Optimalizácia rozhodovania a tvorba politík – Vďaka schopnosti analyzovať obrovské množstvo dát a identifikovať trendy dokáže AI pomôcť pri tvorbe presnejších politík a lepšom plánovaní. Dokáže napríklad predvídať sociálne a ekonomické problémy, pomáhať pri rozpočtových rozhodnutiach alebo plánovaní infraštruktúry, napríklad kde postaviť nemocnice či školy.
• Zlepšenie dostupnosti a kvality služieb pre občanov – Inteligentné chatboty a hlasoví asistenti môžu občanom poskytovať rýchle a presné informácie, sumarizovať zákony do jednoduchej reči a nasmerovať ich na správne oddelenia. Tým sa zvyšuje spokojnosť občanov a znižuje administratívna záťaž.
• Boj proti podvodom a korupcii – AI systémy sú efektívne pri odhaľovaní anomálií a nezrovnalostí vo verejných výdavkoch, daňových podvodoch, nesprávne pridelených dotáciách či konfliktoch záujmov vo verejnom obstarávaní. To posilňuje dôveru občanov a zvyšuje kontrolu.
• Inteligentné mestá a riadenie verejného priestoru – AI môže pomôcť pri riadení dopravy, optimalizácii nakladania s odpadom, zlepšovaní udržateľnosti a pri včasných varovaniach pred prírodnými katastrofami.
• Zlepšenie zdieľania údajov medzi inštitúciami – AI môže prispieť k efektívnejšej výmene informácií medzi rôznymi orgánmi verejnej správy.

Výhody a nevýhody AI vo verejnej správe

Výhody:

• zvýšenie efektívnosti a produktivity – automatizácia úloh a rýchlejšie spracovanie dát,
• zlepšenie presnosti a spoľahlivosti – zníženie ľudských chýb a lepšia analýza rozsiahlych dát,
• väčšia dostupnosť služieb – nepretržitá podpora prostredníctvom chatbotov a online systémov,
• transparentnosť a boj proti korupcii – detekcia anomálií a sledovanie finančných tokov.

Nevýhody a odporúčania:

• zvýšené riziko kybernetických útokov na infraštruktúru verejnej správy,
• spracovanie citlivých osobných údajov si vyžaduje prísne dodržiavanie GDPR a zabezpečenie proti zneužitiu,
• je potrebné zabezpečiť, aby verejná správa zostala dostupná aj pre ľudí, ktorí nemajú prístup k digitálnym technológiám alebo nemajú dostatočné digitálne zručnosti,
• ak nie sú trénované na rôznorodých a spravodlivých dátach, algoritmy môžu vykazovať zaujatosť a viesť k diskriminácii,
• občania by mali mať právo vedieť, ako AI dospela k určitému rozhodnutiu, najmä v prípade autonómneho rozhodovania; koncept „čiernej skrinky“ môže vyvolávať nedôveru;
• je nevyhnutné správne nastaviť právne, technologické a etické rámce pre zodpovedné využívanie AI;
• automatizácia rutinných úloh môže viesť k zániku niektorých pracovných miest.

Implementácia AI vo verejnej správe na Slovensku

Slovensko je v oblasti implementácie AI vo verejnej správe stále na začiatku, no sú viditeľné maximálne snahy o posun vpred. Ministerstvo investícií, regionálneho rozvoja a informatizácie (MIRRI) plánuje predstaviť stratégiu na zavedenie umelej inteligencie.

Kľúčovými oblasťami, kde sa AI na Slovensku spomína, sú:

• Digitalizácia štátnej správy – Projekt Slovensko 2.0 a celková snaha o digitálnu transformáciu, kde AI môže pomôcť pri automatizácii procesov.
• Vzdelávanie úradníkov – Školenia o základných princípoch a aplikáciách AI v kontexte verejnej správy, s dôrazom na praktické využitie nástrojov ako je automatizácia spracovania dokumentov a analýza dát.
• Tvorba etického a regulačného rámca – Na Slovensku už pôsobí stála komisia pre etiku a reguláciu AI, ktorú zriadilo MIRRI, s cieľom definovať etické a regulatívne hranice AI.

Hoci konkrétne, rozsiahle príklady zavedenej AI do bežného fungovania verejnej správy na Slovensku sú zatiaľ skôr víziou, potenciál je enormný. Je dôležité, aby sa štát sústredil na budovanie dôveryhodných systémov, ktoré budú transparentné, spravodlivé a bezpečné, a zároveň vzdelával občanov o výhodách a rizikách spojených s používaním AI.

Návrh zákona, ktorým sa mení a dopĺňa zákon č. 95/2019 Z. z. o informačných technológiách vo verejnej správe a o zmene a doplnení niektorých zákonov v znení neskorších predpisov a ktorým sa menia a dopĺňajú niektoré zákony^[1]

Podľa „§ 13b – Základné zásady používania systémov AI vo verejnej správe

(1) Ak orgán riadenia používa vo svojej činnosti systém AI, je povinný zabezpečiť dohľad nad systémom AI spôsobom, ktorý zabezpečuje kontrolu nad výstupmi tohto systému a zabezpečuje, že konečnú kontrolu nad obsahom úkonu orgánu riadenia má človek.

(2) Orgán riadenia nesmie používať systémy AI spôsobom, ktorý by zakladal neprimerané riziko neoprávneného zásahu do základných práv a slobôd, alebo iných práv a právom chránených záujmov osôb alebo takéto riziko zvyšoval; ustanovenia osobitného predpisu^17b) a medzinárodného dohovoru^17c) tým nie sú dotknuté.

(3) Orgán riadenia zverejňuje jasné a zrozumiteľné informácie o účele, funkciách a použití systému AI a je povinný dostupným spôsobom informovať o tom, na akú činnosť systém AI používa. Ak orgán riadenia používa systém AI v komunikácii s koncovým používateľom, takáto informácia musí byť vždy poskytnutá aj pred začatím tejto komunikácie.

(4) Orgán riadenia zabezpečí osobitnú odbornú starostlivosť a dohľad nad bezpečnosťou systému AI a nad ochranou osobných údajov, ktoré spracúva prostredníctvom tohto systému.

(5) Orgán riadenia zabezpečí pravidelnú kontrolu postupov a vstupov, používaných systémom AI a ich pravidelnú aktualizáciu s cieľom vylúčiť postupy vedúce k výstupom, ktoré sú v rozpore so zákonom alebo s dobrými mravmi.

(6) Orgán riadenia podporuje výskum, vývoj a inovácie v oblasti umelej inteligencie s cieľom zlepšovať kvalitu a efektívnosť elektronických služieb poskytovaných s použitím systémov AI.

(7) Orgán vedenia a orgán riadenia spolupracujú s akademickými inštitúciami, súkromným sektorom a organizáciami občianskej spoločnosti s cieľom zabezpečiť úspešné napredovanie a implementáciu systémov AI vo verejnej správe.“.

AI predstavuje nový vektor hrozieb. Môže byť použitá na útoky (deepfake, phishing s generovaným textom/hlasom, automatizované skenovanie zraniteľností). Útočníci môžu použiť generatívne modely na tvorbu malvéru, alebo obchádzanie detekčných systémov. Manažér kybernetickej bezpečnosti musí zaistiť, že AI systémy, ktoré sa používajú, sú bezpečné a neotvárajú nové riziká. AI systémy spracúvajú citlivé dáta, ktoré môžu byť cieľom útoku. Nové zákony (napr. AI Act v EÚ, GDPR, NIS2) kladú dôraz na bezpečné, transparentné a zodpovedné využitie AI. Manažér kybernetickej bezpečnosti musí zabezpečiť súlad s týmito predpismi.

AI modely môžu byť napadnuteľné:

• Data poisoning – zámerné ovplyvnenie (otrava) dát.
• Model theft – krádež modelu reverzným inžinierstvom.
• Prompt injection alebo adversarial attacks – manipulatívne vstupy, ktoré obchádzajú pravidlá.

Zodpovednosti manažéra kybernetickej bezpečnosti  vo vzťahu k AI:

• Mapovanie AI systémov v organizácii (kde, ako a na čo sa používajú).
• Posúdenie rizík spojených s AI (vrátane dát, ktoré AI spracúva).
• Zavedenie bezpečnostných politík pre vývoj, testovanie a nasadenie AI.
• Spolupráca s právnym oddelením a dátovými analytikmi – ide o multidisciplinárnu tému.
• Vzdelávanie zamestnancov o rizikách a zodpovednom používaní AI.

Pri zvažovaní dôveryhodnosti umelej inteligencie vo verejnej správe, vzhľadom k pretrvávajúcim nedostatkom, si kladieme zásadnú otázku – Môže umelá inteligencia vo verejnej správe požívať dôveru, vzhľadom na pretrvávajúce nedostatky? Hoci stručná odpoveď môže byť kladná, táto dôvera je podmienená múdrym, transparentným nasadením AI, s neustálym zreteľom na verejný záujem. Je nevyhnutné uvedomiť si, že AI vo verejnej správe predstavuje nástroj, nie konečný cieľ, a jeho využitie môže smerovať buď k zefektívneniu byrokracie, alebo k skutočnému zlepšeniu kvality života občanov.

Zdroj: Centrálny portál kybernetickej bezpečnosti. [online]. Bratislava: Slovensko.sk, [cit. 2025-05-29]. Dostupné na: https://kyberportal.slovensko.sk/

[1] Viac tu: https://www.aspi.sk/prakticke-nastroje/monitor-legislativniho-procesu/5561