Právna regulácia umelej inteligencie v EÚ /zákon o AI
Používanie umelej inteligencie je v praxi čoraz častejšie a to v rôznych oblastiach života či podnikania.
Právna regulácia používania AI však chýba, čo chce Európska únia zmeniť a v rámci svojej digitálnej stratégie chce regulovať umelú inteligenciu (AI) tak, aby zabezpečila lepšie podmienky pre vývoj a využívanie tejto inovatívnej technológie.
V decembri 2023 došlo k dohode európskeho parlamentu s Radou o Akte o umelej inteligencii.
Prioritou parlamentu je zabezpečiť, aby systémy umelej inteligencie používané v EÚ boli bezpečné, transparentné, sledovateľné, nediskriminačné a šetrné k životnému prostrediu. Na systémy AI by mali dohliadať ľudia, a nie automatizácia, aby sa predišlo škodlivým dôsledkom.
Nové pravidlá budú stanovovať povinnosti pre poskytovateľov a používateľov v závislosti od úrovne rizika vyplývajúceho z AI, pričom sa rozlišujú:
- Zakázané praktiky v oblasti umelej inteligencie - považujú sa za hrozbu pre ľudí a budú zakázané
- Vysokoriziové systémy umelej inteligencie - také, ktoré majú negatívny vplyv na bezpečnosť alebo základné práva – tie sa budú posudzovať pred uvedením na trhu a tiež následne
Zavedie sa tiež povinnosť transparentnosti pre určité systémy umelej inteligencie, napr.:
- Poskytovatelia zabezpečia, aby systémy umelej inteligencie určené na interakciu s fyzickými osobami boli koncipované a vyvinuté tak, aby boli fyzické osoby informované o tom, že komunikujú so systémom umelej inteligencie, pokiaľ to nie je zrejmé z okolností a kontextu používania
- Používatelia systému na rozpoznávanie emócií alebo systému biometrickej kategorizácie musia o prevádzke takéhoto systému informovať fyzické osoby, ktoré sú mu vystavené.
- Používatelia systému umelej inteligencie, ktorý vytvára obrazový, zvukový obsah alebo videoobsah, alebo s takýmto obsahom manipuluje, pričom tento obsah sa zjavne podobá existujúcim osobám, predmetom, miestam alebo iným subjektom či udalostiam a niektorým osobám by sa mohol mylne javiť ako pravý alebo pravdivý („deepfake“), musia informovať, že tento obsah bol umelo vytvorený alebo zmanipulovaný.
Aplikačnými problémami v súvislosti s AI sa už zaoberali aj slovenské a české súdy.
V Českej republike napr. Mestský súd v Prahe vydal v roku 2023 (č.k. 10 C 13/2023) jedno z prvých rozhodnutí týkajúcich sa umelej inteligencie a autorského práva v Českej republike, v ktorom riešil otázku autorského práva v prípade vytvorenia obrázku pomocou AI.
V Slovenskej republike zas rozhodoval Správny súd v Bratislave, ktorý sa zaoberal aj použitím umelej inteligencie v rozhodovacom procese orgánov verejnej správy a možnej kolízie využívania elektronického systému/AI zo strany štátu a práva občana na tzv. dobrú verejnú správu.
JUDr. Ivana Vaculčiaková, JUDr. Rastislav Masnyk
Masnyk legal s.r.o.