EU představila akční plán pro kybernetickou bezpečnost a umělou inteligenci

Evropská komise ve Štrasburku představila plán řešící rizika i příležitosti, které pokročilá umělá inteligence přináší pro kybernetickou bezpečnost. Za novou iniciativou stojí výkonná místopředsedkyně pro technologickou suverenitu, bezpečnost a demokracii Henna Virkkunen. Cílem plánu je podpořit bezpečné a odpovědné využívání AI a zároveň posílit evropskou kybernetickou bezpečnost. Podle tiskové agentury MLex plán nepřináší žádnou novou legislativu – Komise se místo toho zaměří na implementaci stávajících pravidel, což je pro firmy dobrá zpráva z hlediska regulatorní zátěže, ale zároveň signál, že dohled nad AI systémy bude reálně přitvrzovat.

Plán reaguje na obousměrnou povahu rizika: AI může kybernetickou bezpečnost zlepšovat, ale zároveň může být zneužita k odhalování zranitelností, automatizaci útoků a výraznému zvýšení rozsahu a rychlosti kybernetických incidentů. Komise proto spojuje členské státy, průmysl a organizace na úrovni EU, aby posílily odolnost digitálního prostředí vůči zranitelnostem způsobeným pokročilou AI.

Plán obsahuje pět hlavních směrů. Za prvé, v souladu s AI Actem bude vytvořena evropská kapacita pro hodnocení AI modelů, která posílí nezávislé posuzování schopností a rizik AI a podpoří regulační funkci AI Office. Za druhé, Komise ve spolupráci s Agenturou EU pro kybernetickou bezpečnost (ENISA) vytvoří evropský rámec pro strukturovaný přístup k pokročilým AI kapacitám v oblasti kybernetické bezpečnosti, který má pomoci veřejným i soukromým organizacím tyto modely bezpečně využívat. Za třetí vznikne bezpečná testovací platforma pro AI v kybernetické bezpečnosti, vytvořená ENISA a Společným výzkumným střediskem, včetně simulovaných prostředí pro operátory v kritických sektorech.

Pro firmy, zejména z kritické infrastruktury, je klíčový čtvrtý bod: organizace by měly zintenzivnit kybernetickou hygienu, řízení rizik a zásady bezpečnosti již od návrhu (security by design) a začít využívat dostupné AI nástroje k rychlejšímu odstraňování zranitelností a prevenci útoků, přičemž jim s přechodem pomůže ENISA formou pokynů, doporučení a osvětové kampaně zaměřené na zabezpečení open source softwaru. Pátým pilířem je posílení evropských AI kapacit – Komise počítá s využitím infrastruktury AI Factories a budoucích Gigafactories a spustí tzv. EU Grand Challenge on AI for cybersecurity, který má spojit firmy, výzkumníky a organizace při vývoji AI řešení pro kybernetickou bezpečnost a podpořit růst evropského trhu.

Plán staví na existujících pravidlech EU – AI Actu, Cyber Resilience Actu, směrnici NIS2 a Cyber Solidarity Actu – nejde tedy o nový zákon, ale o prováděcí a koordinační rámec. Pro české firmy, zvláště v kritických sektorech (energetika, finance, zdravotnictví, výroba), to znamená, že by měly už teď revidovat své postupy kybernetické hygieny a sledovat, jak se bude vyvíjet přístup k testovacím a evaluačním nástrojům EU – účast v těchto iniciativách může přinést konkurenční výhodu i dřívější přístup k evropským AI kapacitám pro bezpečnost.

Související témata