Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) se nedávno připojil do celosvětové debaty o vlivu nových modelů umělé inteligence na kybernetickou bezpečnost. V rámci svého vyjádření úřad publikoval analýzu, která se zaměřuje na schopnosti těchto AI modelů, přičemž vychází z veřejně dostupných zdrojů a informací o činnosti regulátorů. Mezi nejvýznamnějšími modely, které byly zkoumány, je Mythos od společnosti Anthropic, jenž se vyznačuje výraznými schopnostmi při hledání bezpečnostních zranitelností v softwaru a informačních technologiích. Tento aspekt je důvodem, proč americká vláda zavedla omezení pro jeho používání, což odráží obavy z jeho potenciálního zneužití.
NÚKIB ve své analýze uvádí, že pokročilé systémy umělé inteligence přinášejí značné zlepšení ve schopnostech automatizovaného vyhledávání a ověřování zranitelností. Tyto modely jsou schopny pracovat na velkém měřítku, což umožňuje výrazné zrychlení procesů od identifikace zranitelností až po jejich možné zneužití. Nové AI technologie dokážou automatizovaně prohledávat a analyzovat kód v takovém rozsahu, že je pro lidské týmy obtížné tuto práci zvládnout. To vytváří situaci, kdy se útočníci mohou dostat k citlivým informacím nebo systémům rychleji než dříve, což by mohlo mít vážné důsledky pro bezpečnost českých firem a institucí.
Možné scénáře útoků na české subjekty
Analýza NÚKIBu se zabývá i pravděpodobnými scénáři, jak by útočníci mohli využít nové AI modely k provádění kybernetických útoků na české subjekty. Nejpravděpodobnějším scénářem je přitom dopad na velké firmy, které poskytují globální služby a jejichž kompromitace by mohla mít přímé důsledky i pro Českou republiku. Například útoky na digitální infrastrukturu bank a platebních systémů by mohly způsobit rozsáhlé problémy v celém dodavatelském řetězci. Taktéž by mohly být ohroženy poskytovatelé cloudových a softwarových služeb, což by vedlo ke zvýšení počtu kybernetických incidentů a narušení služeb, které jsou pro podnikání klíčové.
NÚKIB dále varuje, že se očekává nárůst aktualizací softwaru, jak budou nové AI modely revidovat aktuální kód a objevovat nové zranitelnosti. Tento proces bude klást zvýšené nároky na firmy, které budou muset reagovat na tyto nové hrozby a zabezpečit své systémy. Vzhledem k tomu, že útočníci mají k dispozici pokročilé technologie, obranné mechanismy se mohou ukázat jako nedostatečné, což vytváří další tlak na IT specialisty a bezpečnostní týmy. V tomto kontextu se zdá, že schopnosti AI modelů, které byly vyvinuty pro ochranu, mohou být snadno zneužity pro útoky.
Závislost na zahraničních technologiích a rizika
Úřad také zdůraznil, že analýza se nevěnuje otázce, že Evropa, a tedy i Česká republika, nemá k dispozici vlastní vysoce výkonné AI modely. Tato skutečnost zvyšuje závislost na technologiích vyvinutých v jiných zemích, což může přinášet další rizika, zejména v oblasti národní bezpečnosti. Závislost na externích dodavatelích technologií může vést k citlivosti vůči geopolitickým tlakům a potenciálnímu zneužití technologií. NÚKIB tak vyzývá k větší samostatnosti v oblasti vývoje a implementace technologií umělé inteligence, aby se minimalizovala rizika spojená s externími vlivy.
Vzhledem k těmto zjištěním je jasné, že vývoj a implementace AI technologií vyžaduje nejen technické znalosti, ale také strategické plánování a regulaci. NÚKIB bude i nadále sledovat situaci a doporučuje firmám, aby investovaly do kybernetické bezpečnosti a pravidelně aktualizovaly své systémy. Je nezbytné, aby české subjekty byly připraveny na možné hrozby a aktivně pracovaly na prevenci proti kybernetickým útokům. V době, kdy se technologie rychle vyvíjejí, je důležité, aby organizace měly na paměti nejen výhody, ale i rizika spojená s jejich používáním.
