Únia stanovuje pravidlá používania umelej inteligencie

Komisia víta politickú dohodu, ktorú Európsky parlament a Rada dosiahli pri akte o umelej inteligencii, ktorý Komisia navrhla v apríli 2021.

Predsedníčka Európskej komisie Ursula von der Leyenová v tejto súvislosti uviedla: „Umelá inteligencia už mení náš každodenný život. A toto je iba začiatok. Rozumne a široko používaná umelá inteligencia sľubuje obrovské výhody pre naše hospodárstvo a spoločnosť. Preto veľmi vítam  politickú dohodu Európskeho parlamentu a Rady o akte o umelej inteligencii. Akt EÚ o umelej inteligencii je vôbec prvým komplexným právnym rámcom pre umelú inteligenciu na celom svete. Čiže toto je historický moment. Aktom o umelej inteligencii sa európske hodnoty transponujú do novej éry. Tým, že sa regulácia zameria na identifikovateľné riziká, dohoda podporí zodpovedné inovácie v Európe. Zaručením bezpečnosti a základných práv ľudí a podnikov podporí rozvoj, zavádzanie a využívanie dôveryhodnej umelej inteligencie v EÚ. Náš akt o umelej inteligencii významne prispeje k rozvoju celosvetových pravidiel a zásad pre umelú inteligenciu sústredenú na človeka.“ 

Európska koncepcia dôveryhodnej umelej inteligencie

Nové pravidlá sa budú uplatňovať priamo vo všetkých členských štátoch. Základom bude nadčasové vymedzenie umelej inteligencie. Sú orientované na koncepciu rizika:

Minimálne riziko: Prevažná väčšina systémov umelej inteligencie spadá do kategórie s minimálnym rizikom. Na aplikácie s minimálnym rizikom, ako sú odporúčacie systémy na základe umelej inteligencie alebo spamové filtre, sa nebudú vzťahovať žiadne obmedzenia ani povinnosti, pretože nepredstavujú žiadne alebo len minimálne riziko pre práva či bezpečnosť občanov. Spoločnosti sa môžu napriek tomu dobrovoľne zaviazať uplatňovať pri nich dodatočné kódexy správania.

Vysoké riziko: Systémy umelej inteligencie identifikované ako vysokorizikové budú musieť dodržiavať prísne požiadavky vrátane povinných systémov na zmierňovanie rizika, vysokokvalitných dátových súborov, logovania činností, podrobnej dokumentácie, jednoznačných informácií pre používateľov, ľudského dohľadu a vysokej úrovne spoľahlivosti, presnosti a kybernetickej bezpečnosti. Experimentálne regulačné prostredie uľahčí zodpovednú inováciu a vývoj systémov umelej inteligencie spĺňajúcich pravidlá.

Medzi takéto vysokorizikové systémy umelej inteligencie patria okrem iných určité kritické infraštruktúry napríklad v oblasti vody, plynu a elektriny, zdravotnícke pomôcky, systémy na určovanie prístupu do vzdelávacích zariadení alebo na nábor pracovníkov do zamestnania, či určité systémy používané v oblasti presadzovania práva, kontroly hraníc, výkonu spravodlivosti a demokratických procesov. Aj systémy biometrickej identifikácie, kategorizácie a rozpoznávania emócií sa považujú za vysokorizikové. 

Neprijateľné riziko: Systémy umelej inteligencie považované za jednoznačné ohrozenie základných ľudských práv ľudí budú zakázané. Do tejto kategórie patria systémy alebo aplikácie umelej inteligencie, ktoré manipulujú ľudské správanie s cieľom obísť slobodnú vôľu používateľa (napr. hračky s hlasovým asistentom, ktoré nabádajú neplnoletých k nebezpečnému správaniu), alebo systémy, ktoré vládam alebo podnikom umožňujú „spoločenské bodovanie“ a určité aplikácie na prediktívne vykonávanie policajných funkcií. Okrem toho niektoré použitia biometrických systémov však budú zakázané: napríklad systémy rozpoznávania emócií používané na pracoviskách a niektoré systémy kategorizácie ľudí alebo biometrická identifikácia na diaľku v reálnom čase na účely presadzovania práva vo verejnom priestore (s niekoľkými výnimkami).

Osobitné riziko pri transparentnosti: používatelia systémov umelej inteligencie, ako sú chatboty by si mali byť vedomí, že ich interakcia prebieha so strojom. Deepfake a iný obsah, ktorý generuje umelá inteligencia, budú musieť ako také byť označené. Rovnako bude povinné informovať používateľov v prípadoch, keď sa používa biometrická kategorizácia alebo rozpoznávanie emócií. Okrem toho budú poskytovatelia musieť navrhnúť systémy tak, aby syntetický obsah (napr. audio, video, texty a obrázky) bol označený v strojovo čitateľnom formáte a identifikovateľný ako umelo vygenerovaný alebo manipulovaný.

Pokuty

Spoločnosti, ktoré nebudú dodržiavať pravidlá, budú pokutované. Pokuty sa budú pohybovať od 35 miliónov EUR alebo 7 % celosvetového ročného obratu (podľa toho, ktorá suma je vyššia) za porušenie zakázaných aplikácií umelej inteligencie, 15 miliónov EUR alebo 3 % za porušenie iných povinností a 7,5 milióna EUR alebo 1,5 % za poskytnutie nesprávnych informácií. Pre MSP a startupy sa stanovujú proporcionálnejšie stropy správnych pokút v prípade porušenia aktu o umelej inteligencii.

Umelá inteligencia na všeobecné použitie

Akt o umelej inteligencii zavádza špecializované pravidlá pre modely umelej inteligencie na všeobecné použitie, ktoré zaručia transparentnosť v celom hodnotovom reťazci. Pri veľmi silných modeloch, ktoré by mohli predstavovať systémové riziko, budú platiť dodatočné záväzné povinnosti súvisiace s riadením rizík a monitorovaním vážnych incidentov, vykonávaním modelového hodnotenia a kontradiktórnym testovaním. Tieto nové povinnosti budú fungovať na základe kódexov postupov, ktoré zostaví sektor, vedecká obec, občianska spoločnosť a iné zainteresované strany spolu s Komisiou.

Pokiaľ ide o riadenie, na dodržiavanie nových pravidiel na vnútroštátnej úrovni budú dohliadať vnútroštátne príslušné orgány dohľadu nad trhom. Koordináciu na európskej úrovni zabezpečí novo vytvorený európsky úrad pre umelú inteligenciu v rámci Európskej komisie. Nový úrad pre umelú inteligenciu bude dohliadať aj na vykonávanie a presadzovanie nových pravidiel týkajúcich sa modelov umelej inteligencie na všeobecné použitie. Úrad pre umelú inteligenciu bude spolu s vnútroštátnymi orgánmi dohľadu nad trhom prvým orgánom na celom svete, ktorý presadzuje záväzné pravidlá týkajúce sa umelej inteligencie, a preto sa očakáva, že sa stane medzinárodnou referenciou. V prípade modelov na všeobecné použitie bude ústrednú úlohu zohrávať vedecká skupina nezávislých odborníkov, ktorá bude vydávať varovania o systémových rizikách a prispievať ku klasifikácii a testovaniu modelov.

Ďalšie informácie

Tlačová správa

Vyhlásenie predsedníčky von der Leyenovej k politickej dohode o akte EÚ o umelej inteligencii

Nové pravidlá pre umelú inteligenciu – otázky a odpovede (aktualizácia čoskoro k dispozícii)

Nové pravidlá umelej inteligencie – fakty

Hirošimský proces k umelej inteligencii: Usmerňujúce zásady a kódex správania v oblasti umelej inteligencie

Koordinovaný plán o umelej inteligencii

Nariadenie o strojníckych výrobkoch

Pravidlá zodpovednosti v oblasti umelej inteligencie

Európske centrum pre transparentnosť algoritmov, Spoločné výskumné centrum