Rozhovor se zákaznickou podporou působí přirozeně, fotografie zachycuje věrohodnou událost a zveřejněný text nabízí přesvědčivý popis veřejného dění. Přesto může mít každá z těchto situací společného aktéra, jehož přítomnost zůstává skrytá: umělou inteligenci. Právě v okamžiku, kdy člověk její účast nerozpozná, začíná příběh pravidel transparentnosti podle AI Actu. Kdo má její přítomnost odhalit, komu, kdy a jakým způsobem? Evropské nařízení o umělé inteligenci (AI Act) v České republice i celé EU nabývá účinnosti postupně ve vlnách: od 2. února 2025 do 2. srpna 2028.
Transparentnost podle AI Actu
Mag. iur., JUDr.
Dominik
Králik,
LL.M., EUR., Ph.D.
Úvod
Článek 50 AI Actu na tyto otázky odpovídá prostřednictvím několika odlišných povinností. Jejich uspořádání sleduje cestu od návrhu systému k setkání člověka s jeho výstupem. Poskytovatel má v určitých případech zajistit informování o interakci s AI nebo technické označení syntetického obsahu, zavádějícímu subjektu pak přísluší vlastní povinnosti při konkrétním použití systému či zveřejnění jeho výstupů. Rozlišení systému a obsahu, stejně jako poskytovatele a zavádějícího subjektu, tvoří také osu výkladu Hendrika Witta a Davida Krstice.
Zdánlivě jednoduchý požadavek oznámit použití AI se však při bližším pohledu větví. Postačuje označení čitelné strojem? Kdy je umělý původ zřejmý? Jak informovat o manipulovaném obsahu, který je součástí uměleckého díla? A jakou roli hraje lidská redakční kontrola? Následující výklad postupuje od těchto konkrétních situací k právní konstrukci, která je spojuje. Jeho cílem je ukázat, jak se obecný požadavek transparentnosti mění v povinnost určitého subjektu a za jakých podmínek skutečně pomáhá člověku porozumět tomu, s čím se setkává.
Transparentnost jako regulační nástroj: účel a systematické zakotvení
1. Ochrana autonomie jednotlivce, prevence klamání a ochrana informačního prostředí
Kdo má člověku sdělit, že komunikuje s umělou inteligencí nebo sleduje uměle vytvořený obsah? A kdy a jak má takové sdělení zaznít? Tyto otázky, kolem nichž Hendrik Witt a David Krstic vystavěli svůj výklad článku 50 AI Actu, nabízejí výchozí bod také pro pochopení účelu transparentnosti. Nejdříve je totiž třeba rozpoznat přítomnost AI, teprve poté lze informovaně posuzovat její roli v konkrétní situaci. Právní význam takového rozpoznání spočívá v ochraně podmínek, za nichž si člověk vytváří úsudek. Pokud zákazník předpokládá, že hovoří s pracovníkem podpory, může odpovědi přisuzovat jinou váhu než sdělení automatizovaného systému. Podobně může divák považovat věrohodně působící video za záznam skutečné události. Informace o účasti AI mu umožňuje tato očekávání přehodnotit. Transparentnost tak může omezovat informační nerovnováhu a podporovat autonomní rozhodování.
Tento účel vystupuje do popředí také v příspěvku kanceláře HÄRTING, který spojuje povinnosti transparentnosti s riziky klamání, záměny autentického a syntetického obsahu a manipulace veřejného mínění. Ochrana jednotlivce se zde setkává s ochranou informačního prostředí, důsledky ne