AI Act v kostce

Na začátku srpna vstoupil v platnost AI Act, vydaný Evropskou unií, neboli akt o umělé inteligenci. Jde o celosvětově první komplexní soubor pravidel pro fungování umělé inteligence.

Co si vzít z toho, že je to "akt"?

AI Act je nařízení Evropské unie. Jde tedy o druh zákona, který vzniká na půdě EU a platí ve všech členských státech Unie bez potřeby další přeměny do národních předpisů. AI Act tak platí v Česku úplně stejně, jako by šlo o zákon českého původu.

Proč se (najednou) řeší umělá inteligence?

AI Act nespadl z čistého nebe. Jednou z šesti hlavních priorit Evropské komise pro období 2019–2024 bylo Evropa připravená na digitální věk. V rámci této priority vzniklo v posledních letech hned několik klíčových předpisů, například také akt o digitálních službách (DSA), kvůli kterému mimo jiné musely sociální sítě zpřísnit svá pravidla o odstraňování obsahu uživatelů. Pod tento zásadní cíl – připravit Evropu na digitální věk, kdy se přesouvá čím dál více lidské činnosti do online prostoru, – spadá i snaha regulovat umělou inteligenci.

Nařízení má podpořit vývoj AI jako slibné technologie a tím i posílit evropský trh, ale zároveň především chránit lidská práva a další v Evropě sdílené hodnoty. Jde také o ambiciózní plán nastavit celosvětový vzor pro komplexní regulaci umělé inteligence. Globální dopad se ostatně EU již povedl s GDPR, které ovlivnilo a inspirovalo nakládání s osobními údaji i daleko za evropskými hranicemi.

O co v AI Actu jde?

Jelikož se nebezpečí spojená s různými systémy, modely a aplikacemi mohou výrazně lišit, AI Act kategorizuje umělou inteligenci do několika úrovní podle stupně rizikovosti pro společnost. Na základě této kategorizace pak stanovuje konkrétní pravidla.

Nepřijatelné riziko:

• Zahrnuje systémy umělé inteligence, které představují jasnou hrozbu pro základní práva a svobody jednotlivce.

• Příkladem je hodnocení sociálního kreditu, které by umožnilo vládám nebo jiným entitám hodnotit občany na základě jejich chování nebo osobních charakteristik (možná jste si, zcela správně, vzpomněli na Čínu).

• Takové systémy AI jsou v EU zakázané.

Vysoké riziko:

• Zahrnuje AI systémy, jejichž používání může vést k významnému poškození zdraví, bezpečnosti, základních práv či dalších hodnot.

• Patří sem např. použití umělé inteligence ve zdravotní péči, bankovnictví nebo při vymáhání práva.

• Tyto systémy budou podléhat přísnému posouzení před uvedením na trh i během celého jejich životního cyklu.

Omezené riziko:

• Vztahuje se na AI systémy, u kterých je potřeba zajistit transparentnost, jinými slovy je potřeba dát uživatelům vědět, že jde o umělou inteligenci. Typicky sem patří interaktivní AI, deepfaky a generovaný obsah.

• Např. chatboty a voiceboty musí informovat uživatele, že neinteragují s člověkem.

Minimální riziko:

• Zahrnuje všechny ostatní AI systémy.

• Jedinou povinností v této kategorii je zajistit AI gramotnost pro zaměstnance firem, které AI vyvíjejí nebo používají.

Obecné modely:

• Jde o kategorii mimo čtyři stupně rizik.

• AI nástroje s velmi širokým využitím, jako je například OpenAI s modelem GPT.

• Nová pravidla se vztahují pouze na vývojáře těchto modelů.

Kdo bude muset nová pravidla plnit?

Většina pravidel z AI Actu se týká vývojářů umělé inteligence. Například ti budou mít povinnost do svých generativních modelů vymyslet metody, jak mohou lidé rozpoznat, že jde o vygenerovaný obsah (například vodoznak u obrázků). Část pravidel pak dopadne i na "zavádějící subjekty", což jsou typicky firmy využívající umělou inteligenci při svém podnikání.

Kdy začnou nová pravidla platit?

AI Act je již v platnosti, firmy a úřady však stále mají 2 roky na přípravu. Nařízení začne být přímo závazné v celém rozsahu až v roce 2026. Některé části aktu týkající se zakázaných systémů AI budou vymahatelné dříve.

Autor: Lucie Malá