Evropský parlament nedávno schválil první komplexní nařízení zaměřené na regulaci umělé inteligence (AI) a omezení rizik s ní spojených. Jedná se o historický krok, který může mít dalekosáhlé dopady na vývoj a nasazování AI technologií, včetně oblasti kybernetické bezpečnosti.
Z pohledu Miloslava Lujky, odborníka na kybernetickou bezpečnost ze společnosti Check Point Software Technologies, přináší nový zákon řadu přímých i nepřímých přínosů pro oblast kyberbezpečnosti.
Akt o umělé inteligenci byl Evropským parlamentem schválen 13.3.2024. Foto: Pixabay
Jaké jsou hlavní body Aktu o umělé inteligenci?
- Přísnější podmínky pro vývoj a nasazení AI: Vývojáři budou muset dodržovat přísné pokyny pro zajištění bezpečnosti AI systémů od samotného základu. To zahrnuje implementaci kyberbezpečnostních opatření, šifrování a odolnost vůči útokům.
- Větší transparentnost: Zákon nařizuje transparentnost AI operací, zejména u vysoce rizikových aplikací. To může vést ke zveřejňování detailnějších dat použitých pro trénink, rozhodovacích procesů a opatření pro ochranu soukromí a bezpečnosti. Transparentnost napomůže odhalování zranitelností a zmírňování rizik.
- Vylepšená ochrana údajů: Nová pravidla kladou důraz na bezpečnou správu dat a ochranu osobních údajů, což je klíčový aspekt kybernetické bezpečnosti. AI systémy pracují s obrovským množstvím dat, takže jejich integrita a důvěrnost jsou zásadní.
- Odpovědnost za bezpečnostní incidenty: Zákon pravděpodobně stanoví odpovědnost organizací za narušení bezpečnosti AI systémů. To může vést k přísnějším protokolům pro reakci na incidenty a nutnosti implementovat robustní mechanismy pro detekci a reakci na kybernetické hrozby.
- Boj s předsudky a diskriminací: Nepřímým přínosem pro kyberbezpečnost je snaha zákona omezit předsudky a diskriminaci v AI systémech. Spravedlivé a nezaujaté systémy jsou méně zranitelné vůči útokům zneužívajícím neobjektivní rozhodovací procesy.
- Certifikační audity a shoda s předpisy: Vysoce rizikové AI systémy budou muset projít přísným testováním a certifikací, která zajistí splnění bezpečnostních standardů EU včetně kybernetické bezpečnosti. Průběžné audity zajistí kontinuální dodržování těchto norem.
- Prevence nebezpečného použití AI: Zákon se snaží zabránit využívání AI ke škodlivým účelům, jako je vytváření deepfake obsahu nebo automatizace kybernetických útoků. Regulací určitých použití AI se snižuje riziko zneužití AI jako nástroje pro kybernetické zločiny a války.
- Výzkum a spolupráce: Nový rámec by mohl podpořit výzkum a spolupráci v oblastech AI a kybernetické bezpečnosti a přispět k vývoji nových technologií a strategií pro zabezpečení AI systémů.
I když se jedná o historický mezník, je důležité si uvědomit, že plné dopady zákona se projeví až časem. Postupné zavádění dává firmám a institucím čas se na novou realitu regulované AI připravit. Poté bude pozornost pravděpodobně zaměřena spíše na vysoké pokuty za nedodržování předpisů.
Podle Lujky současné dění kolem AI ukazuje, že legislativa nemůže držet krok s tak rychle se rozvíjející technologií, která ovlivňuje celá průmyslová odvětví, ekonomiky a vlády. Přesto by však nový zákon EU mohl posloužit jako katalyzátor širších společenských diskuzí o dopadu AI a přimět zúčastněné strany k zamyšlení nejen nad možnostmi technologie, ale také nad jejími dopady.
Kdy začne Akt o umělé inteligenci platit?
Nařízení o umělé inteligenci sice prošlo klíčovým schválením Evropským parlamentem, ale stále musí projít finálními formálními kroky. Čeká jej kontrola právníky-lingvisty a konečné přijetí Radou Evropské unie před koncem současného volebního období.
Po vyhlášení v Úředním věstníku vstoupí nařízení v platnost za 20 dní. Nicméně jeho plná použitelnost bude postupná s řadou přechodných období. Zákaz nepřípustných praktik začne platit za 6 měsíců, kodexů správné praxe za 9 měsíců a pravidla pro obecné AI systémy za 12 měsíců. Povinnosti pro vysoce rizikové systémy, které představují největší regulační zátěž, nabydou účinnosti až za 36 měsíců.
Zdroj: TZ CheckPoint, Evropský parlament
