Zákon o umělé inteligenci očima experta na kybernetickou bezpečnost

Evropský parlament nedávno schválil první komplexní nařízení zaměřené na regulaci umělé inteligence (AI) a omezení rizik s ní spojených. Jedná se o historický krok, který může mít dalekosáhlé dopady na vývoj a nasazování AI technologií, včetně oblasti kybernetické bezpečnosti.

Z pohledu Miloslava Lujky, odborníka na kybernetickou bezpečnost ze společnosti Check Point Software Technologies, přináší nový zákon řadu přímých i nepřímých přínosů pro oblast kyberbezpečnosti.

Obrázek: Zákon o umělé inteligenci očima experta na kybernetickou bezpečnost

Akt o umělé inteligenci byl Evropským parlamentem schválen 13.3.2024. Foto: Pixabay

Jaké jsou hlavní body Aktu o umělé inteligenci?

  1. Přísnější podmínky pro vývoj a nasazení AI: Vývojáři budou muset dodržovat přísné pokyny pro zajištění bezpečnosti AI systémů od samotného základu. To zahrnuje implementaci kyberbezpečnostních opatření, šifrování a odolnost vůči útokům.
  2. Větší transparentnost: Zákon nařizuje transparentnost AI operací, zejména u vysoce rizikových aplikací. To může vést ke zveřejňování detailnějších dat použitých pro trénink, rozhodovacích procesů a opatření pro ochranu soukromí a bezpečnosti. Transparentnost napomůže odhalování zranitelností a zmírňování rizik.
  3. Vylepšená ochrana údajů: Nová pravidla kladou důraz na bezpečnou správu dat a ochranu osobních údajů, což je klíčový aspekt kybernetické bezpečnosti. AI systémy pracují s obrovským množstvím dat, takže jejich integrita a důvěrnost jsou zásadní.
  4. Odpovědnost za bezpečnostní incidenty: Zákon pravděpodobně stanoví odpovědnost organizací za narušení bezpečnosti AI systémů. To může vést k přísnějším protokolům pro reakci na incidenty a nutnosti implementovat robustní mechanismy pro detekci a reakci na kybernetické hrozby.
  5. Boj s předsudky a diskriminací: Nepřímým přínosem pro kyberbezpečnost je snaha zákona omezit předsudky a diskriminaci v AI systémech. Spravedlivé a nezaujaté systémy jsou méně zranitelné vůči útokům zneužívajícím neobjektivní rozhodovací procesy.
  6. Certifikační audity a shoda s předpisy: Vysoce rizikové AI systémy budou muset projít přísným testováním a certifikací, která zajistí splnění bezpečnostních standardů EU včetně kybernetické bezpečnosti. Průběžné audity zajistí kontinuální dodržování těchto norem.
  7. Prevence nebezpečného použití AI: Zákon se snaží zabránit využívání AI ke škodlivým účelům, jako je vytváření deepfake obsahu nebo automatizace kybernetických útoků. Regulací určitých použití AI se snižuje riziko zneužití AI jako nástroje pro kybernetické zločiny a války.
  8. Výzkum a spolupráce: Nový rámec by mohl podpořit výzkum a spolupráci v oblastech AI a kybernetické bezpečnosti a přispět k vývoji nových technologií a strategií pro zabezpečení AI systémů.

I když se jedná o historický mezník, je důležité si uvědomit, že plné dopady zákona se projeví až časem. Postupné zavádění dává firmám a institucím čas se na novou realitu regulované AI připravit. Poté bude pozornost pravděpodobně zaměřena spíše na vysoké pokuty za nedodržování předpisů.

Podle Lujky současné dění kolem AI ukazuje, že legislativa nemůže držet krok s tak rychle se rozvíjející technologií, která ovlivňuje celá průmyslová odvětví, ekonomiky a vlády. Přesto by však nový zákon EU mohl posloužit jako katalyzátor širších společenských diskuzí o dopadu AI a přimět zúčastněné strany k zamyšlení nejen nad možnostmi technologie, ale také nad jejími dopady.

Kdy začne Akt o umělé inteligenci platit?

Nařízení o umělé inteligenci sice prošlo klíčovým schválením Evropským parlamentem, ale stále musí projít finálními formálními kroky. Čeká jej kontrola právníky-lingvisty a konečné přijetí Radou Evropské unie před koncem současného volebního období.

Po vyhlášení v Úředním věstníku vstoupí nařízení v platnost za 20 dní. Nicméně jeho plná použitelnost bude postupná s řadou přechodných období. Zákaz nepřípustných praktik začne platit za 6 měsíců, kodexů správné praxe za 9 měsíců a pravidla pro obecné AI systémy za 12 měsíců. Povinnosti pro vysoce rizikové systémy, které představují největší regulační zátěž, nabydou účinnosti až za 36 měsíců.

Zdroj: TZ CheckPoint, Evropský parlament

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: Biorobotické medúzy: Hlubiny oceánů budou prozkoumávat podvodní kyborgové
Biorobotické medúzy: Hlubiny oceánů budou prozkoumávat podvodní kyborgové
Obrázek: Globální dodávky chytrých telefonů rostou, největší odbyt má Samsung
Globální dodávky chytrých telefonů rostou, největší odbyt má Samsung
Obrázek: Čtyřnohý společník pro astronauty. NASA vyvíjí nové roboty pro kosmické mise
Čtyřnohý společník pro astronauty. NASA vyvíjí nové roboty pro kosmické mise
Obrázek: Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Obrázek: Máte doma nefunkční GPS lokátor od Invoxia? Nyní bude v ČR opět fungovat
Máte doma nefunkční GPS lokátor od Invoxia? Nyní bude v ČR opět fungovat
Obrázek: Tesla v ČR otevřela své rychlonabíječky pro všechny elektromobily. Jak nabíjet na Superchargeru?
Tesla v ČR otevřela své rychlonabíječky pro všechny elektromobily. Jak nabíjet na Superchargeru?
Obrázek: Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Obrázek: Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?
85%
Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?