Nová povinnost, ale zatím bez sankcí. Tak by se dal ve zkratce popsat aktuální stav kolem článku 4 evropského nařízení AI Act, který od 2. února 2025 zavádí požadavek na zajištění dostatečné úrovně znalostí o umělé inteligenci. Tento požadavek se týká všech společností, které AI vyvíjejí nebo implementují. Co to ale v praxi znamená?

Současná situace připomíná období, kdy se zavádělo GDPR. I tehdy panovala nejistota a na trhu se objevila řada pochybných nabídek rychlých řešení. Historie se nyní opakuje – už teď můžeme pozorovat množství „zázračných“ webinářů a certifikací, které slibují snadné splnění požadavků článku 4.

„Univerzální kurzy a instantní certifikáty nemají žádnou oficiální platnost a nejsou nutné,“ upozorňuje Lukáš Benzl, ředitel České asociace umělé inteligence. Místo toho doporučuje soustředit se na praktické vzdělávání odpovídající skutečným potřebám organizace.

Český kontrolní orgán zatím neexistuje

Je důležité si uvědomit, že v České republice zatím neexistuje orgán, který by dodržování článku 4 kontroloval. Sankce související s AI Act začnou platit až od srpna 2025, přičemž samotný článek 4 mezi sankčními ustanoveními přímo nefiguruje. To ale neznamená, že by firmy měly povinnost ignorovat – nízká úroveň AI gramotnosti může být v budoucnu přitěžující okolností při posuzování dodržování dalších povinností.

Foto: Freepik AI

Zvláštní pozornost by měly věnovat implementaci AI Act především organizace pracující s vysoce rizikovými AI systémy. Pro ty budou platit přísnější požadavky, včetně nutnosti zajištění lidského dohledu nad výstupy těchto technologií.

Jak tedy k nové povinnosti přistoupit? Česká asociace umělé inteligence ve spolupráci s advokátní kanceláří Legitas připravuje praktický přehled a kontrolní seznam, který firmám pomůže zorientovat se v požadavcích AI Act. Místo ukvapených reakcí na nabídky rychlých řešení je vhodnější přistoupit k problematice systematicky a s odbornou podporou.

Klíčové je především pochopení fungování AI systémů a souvisejících právních aspektů v kontextu konkrétní organizace. Není třeba propadat panice – důležitější je promyšlený přístup odpovídající reálným potřebám firmy.

Zdroj: Česká asociace umělé inteligence