Evropská unie přináší s AI Actem nová pravidla pro používání umělé inteligence (AI). Tato legislativa se netýká pouze technologických firem, ale prakticky každé organizace, která AI využívá – od marketingu až po zákaznické systémy.
Co je AI Act a koho se týká
AI Act je první komplexní legislativa v oblasti umělé inteligence v EU.
Zavádí požadavky na:
Zavádza kľúčové požiadavky na:
- používání umělé inteligence ve firmách
- řízení rizik AI systémů
- ochranu osobních údajů a práv jednotlivců
- transparentnost rozhodování AI a lidský dohled
Týká se zejména firem, které:
- využívají AI nástroje (Copilot, ChatGPT apod.)
- pracují s daty pomocí AI
- nasazují AI do procesů
- zavedení řízení rizik AI
- dokumentace využívání AI
- zajištění lidského dohledu (human oversight)
- ochrana citlivých a osobních údajů
- připravenost na audit a kontrolu
Nedodržení může vést k finančním sankcím, bezpečnostním incidentům i poškození reputace.
AI už používáte… ale znáte skutečná rizika?
V mnoha firmách se AI zavádí bez jasných pravidel a řízení. Používat AI „rozumně“ bez definovaných pravidel je v praxi často iluze. Vede to k nejednotnému chování zaměstnanců a nekontrolovanému riziku pro firmu.
Zadávání citlivých dat, jako jsou smlouvy, zákaznické údaje nebo interní dokumenty, do AI nástrojů bez adekvátní kontroly představuje reálné riziko úniku nebo zneužití dat.
Stejně tak ignorování legislativních požadavků a zavádění AI bez dokumentace či řízení rizik vede k závažným problémům při auditu nebo bezpečnostním incidentu.
Hlavní rizika používání AI ve firmách
- zaměstnanci mohou do AI zadávat interní nebo osobní údaje
- data mohou uniknout nebo být využita k trénování modelů
- není definováno, kdo odpovídá za AI rozhodnutí
- chybí procesy schvalování a kontroly
AI Act vs ISO/IEC 42001: Jaký je rozdíl?
Při zavádění řízení AI se firmy často setkávají s pojmy AI Act a ISO/IEC 42001. Ačkoli spolu souvisí, jejich role je odlišná.
AI Act je legislativa, která určuje, co musí organizace splnit – například řízení rizik, dokumentaci, transparentnost a dohled nad AI.
Naopak ISO/IEC 42001 je mezinárodní standard, který pomáhá firmám tyto požadavky zavést prostřednictvím systematického řízení AI. Tyto přístupy se doplňují – zatímco AI Act je povinný, ISO 42001 je dobrovolný nástroj, který výrazně zlepšuje řízení, auditovatelnost a kontrolu nad AI.
⚖️ AI Act
- Typ: Legislativa EU
- Povinnost: Povinný
- Úloha: Určuje povinnosti
- Zaměření: Regulace AI
- Přístup: Řízení podle rizika
- Audit: Regulační dohled
- Sankce: Pokuty (miliony €)
- Výstup: Compliance
✅ ISO/IEC 42001
- Typ: Mezinárodní standard
- Povinnost: Dobrovolný
- Role: Systém řízení
- Zaměření: AI governance
- Přístup: Manažerský systém
- Audit: Certifikační audit
- Sankce: Žádné
- Výstup: ISO certifikát
AI Act = co musíte splnit
ISO 42001 = jak to efektivně řídit
Naše řešení: od chaosu k řízené AI
Pomůžeme vám přejít od neřízeného využívání AI k systematickému, bezpečnému a legislatívně správnému přístupu.
Analýza využití AI
- identifikace, kde a jak AI používáte
- posouzení rizik (AI Act, GDPR, NIS2)
- klasifikace AI systémů
Dokumentace a compliance
- příprava dokumentace
- nastavení procesů pro audit
- provázání s ISO 27001, GDPR a NIS2
AI governance a pravidla
- návrh governance modelu
- nastavení interních pravidel (AI policy)
- implementace bezpečnostních opatření
Role a odpovědnosti
- definování odpovědnosti za AI
- nastavení governance rolí (např. AI koordinátor)
- a školení zaměstnanců
Pro koho je služba určena
- firmy využívající AI (i neformálně)
- organizace pracující s citlivými daty
- společnosti řešící compliance (ISO, NIS2, GDPR)
- firmy, které chtějí AI škálovat bezpečně
Začněte ještě dnes
Regulace AI není otázkou budoucnosti – týká se již současného fungování firem.
Kontaktujte nás a získejte kontrolu nad využíváním AI, minimalizujte rizika a zajistěte soulad s AI Actem.
IOSEC
