Evropské nařízení o umělé inteligenci, známé jako AI Act, ukládá od 2. února 2025 firmám, které nástroje umělé inteligence používají, povinnost přijímat opatření na podporu rozvoje gramotnosti v oblasti AI u svých zaměstnanců. Týká se to i běžných nástrojů, jako jsou ChatGPT, Copilot nebo Gemini. Od 27. července 2026 platí upravené znění, které nevyžaduje zaručit konkrétní úroveň znalostí u každého člověka. Povinnost ale trvá a firma by měla umět doložit, co pro její splnění udělala.
Článek shrnuje, co povinnost znamená v praxi. Nenahrazuje právní poradenství. Ve specifických situacích je vhodné postup konzultovat s právníkem.
Co je AI Act a na koho se vztahuje
AI Act je nařízení Evropského parlamentu a Rady (EU) 2024/1689. Platí přímo ve všech členských státech a jeho povinnosti nabíhají postupně. Většina se uplatní mezi lety 2025 a 2028, některé přechodné lhůty běží až do roku 2030. Rozlišuje mezi poskytovateli, kteří systémy umělé inteligence vyvíjejí nebo uvádějí na trh, a zavádějícími subjekty, tedy firmami a organizacemi, které je při své činnosti používají.
Většina menších a středních firem je v roli zavádějícího subjektu. Tyto firmy používají nástroje jiných dodavatelů, například jazykové modely, překladače, nástroje na tvorbu textů a obrázků nebo funkce umělé inteligence vestavěné do CRM a účetních systémů.
Poskytovatelem se ale může stát i menší firma, pokud vyvine nebo nechá vyvinout vlastní systém umělé inteligence, například chatbota pro zákazníky, a uvede ho na trh nebo do provozu pod svým jménem. Pak pro ni platí i další povinnosti, například zajistit, aby lidé věděli, že komunikují se systémem AI, pokud to není zřejmé.
Co povinnost znamená
Článek 4 nařízení ukládá poskytovatelům i zavádějícím subjektům přijímat opatření na podporu rozvoje gramotnosti v oblasti AI u svých zaměstnanců i dalších osob, které systémy AI jejich jménem provozují a používají. Přihlíží se přitom k jejich technickým znalostem, zkušenostem, vzdělání a odborné přípravě, k prostředí, v němž se systémy používají, i k lidem, vůči nimž se používají. Nařízení výslovně uvádí, že firma nemusí u jednotlivých osob zaručit konkrétní úroveň znalostí.
Gramotností v oblasti AI nařízení rozumí dovednosti, znalosti a chápání, které umožňují používat systémy AI informovaně a uvědomovat si možnosti a rizika spojená s AI i škody, které může způsobit.
Opatření se mají týkat každého, kdo umělou inteligenci ve firmě používá, tedy i obchodníků, administrativy nebo vedení. Podle samotného textu nařízení a výkladu Evropské komise sem patří i lidé, kteří nejsou zaměstnanci, ale systémy AI používají jménem firmy, například smluvní spolupracovníci nebo poskytovatelé služeb. Pokud zaměstnanci pro práci používají soukromé účty v nástrojích, jako je ChatGPT nebo Gemini, je rozumné zahrnout je do opatření také.
Co se změnilo digitálním omnibusem
Článek 4 změnilo nařízení (EU) 2026/1744, známé jako digitální omnibus o AI, které vstoupilo v platnost 27. července 2026. Původní znění požadovalo přijmout opatření, aby firmy v co největší možné míře zajistily dostatečnou úroveň gramotnosti v oblasti AI. Nové znění ukládá přijímat opatření na podporu jejího rozvoje a výslovně nevyžaduje zaručit konkrétní úroveň znalostí u každého člověka. Komise a členské státy mají firmy, zejména malé a střední podniky, při plnění této povinnosti podporovat.
V praxi to znamená, že jde o povinnost vynaložit přiměřené úsilí. O to důležitější je, aby firma měla přijatá opatření zdokumentovaná a mohla je v případě potřeby doložit. U zavádějících subjektů vysoce rizikových systémů AI navíc zůstává zachována povinnost svěřit lidský dohled lidem, kteří mají potřebnou způsobilost, odbornou přípravu a pravomoc. U systémů podle přílohy III se uplatní od 2. prosince 2027.
Co nařízení nevyžaduje
Nařízení nepředepisuje konkrétní formu ani rozsah vzdělávání. Nevyžaduje certifikát, zkoušku ani školení od akreditované instituce. Evropská komise v otázkách a odpovědích k AI gramotnosti uvádí, že certifikát není potřeba a že si firma může vést interní záznamy o školeních a dalších opatřeních.
Podle Komise přitom pouhé spoléhání na návod k použití nebo pokyn, aby si ho zaměstnanci přečetli, nemusí být účinné. U vysoce rizikových systémů Komise uvádí, že to nestačí. Opatření mají odpovídat rizikům a způsobu, jakým lidé umělou inteligenci skutečně používají.
Jak povinnost plnit v praxi
- Zmapujte, jakou umělou inteligenci používáte. Sepište, které nástroje lidé ve firmě používají a k čemu. Nezapomeňte na funkce vestavěné do běžných aplikací ani na soukromé účty, které lidé používají pro práci.
- Posuďte role a rizika. Jinou míru znalostí potřebuje člověk, který si nechá přeložit e-mail, a jinou ten, kdo pomocí AI zpracovává osobní údaje zákazníků nebo připravuje podklady pro rozhodování.
- Nastavte pravidla používání. Stručná interní směrnice určí, které nástroje lze používat, jaká data do nich lidé nesmějí zadávat a kdo za co odpovídá.
- Vzdělávejte podle rolí. Všem nabídněte základní vzdělávání a těm, kdo s AI pracují častěji nebo s citlivějšími daty, prohloubené. Dobře fungují praktické ukázky na skutečných úlohách z vaší firmy.
- Dokumentujte. Zaznamenejte, kdo prošel jakým vzděláváním, jaká pravidla platí a kdy byla naposledy aktualizována.
- Pravidelně revidujte. Nástroje i způsoby jejich využití se rychle mění, proto je dobré pravidla i vzdělávání aktualizovat, například jednou ročně.
Co by měl zaměstnanec znát
- Co umělá inteligence umí a kde má své limity, včetně toho, že může vytvářet přesvědčivé, ale nepravdivé odpovědi.
- Jaká data do nástrojů nesmí zadávat, zejména osobní údaje, obchodní tajemství a důvěrné informace klientů.
- Jak ověřovat výstupy, než je použije v komunikaci se zákazníkem nebo pro rozhodnutí.
- Kdy je potřeba uvést, že obsah vytvořila nebo upravila umělá inteligence, například u realistických obrázků či videí skutečných osob a míst nebo u textů zveřejňovaných k informování veřejnosti, které neprošly lidskou redakční kontrolou, a co k tomu stanoví interní pravidla firmy.
- Na koho se obrátit, když si není jistý, zda nástroj smí pro danou úlohu použít.
Pozor na vysoce rizikové použití
Některá použití umělé inteligence nařízení řadí mezi vysoce riziková. Pro menší firmy bývá nejčastější oblastí zaměstnávání, například výběr uchazečů, hodnocení výkonu nebo rozhodování o povýšení. Pro vysoce rizikové systémy platí přísnější povinnosti, které se podle upraveného harmonogramu uplatní od 2. prosince 2027. Pokud AI v personalistice používáte nebo plánujete, vyplatí se s přípravou začít včas.
Souvislost s ochranou osobních údajů
AI Act neruší pravidla GDPR. Pokud zaměstnanci do nástrojů umělé inteligence zadávají osobní údaje, musí mít firma pro takové zpracování právní základ. Pokud poskytovatel vystupuje jako zpracovatel, musí s ním mít uzavřenou smlouvu o zpracování osobních údajů a vědět, kde a jak data zpracovává. Firemní verze nástrojů obvykle nabízejí smluvní záruky, že zadaná data nebudou použita k dalšímu trénování modelů. U bezplatných a osobních verzí bývá výchozí nastavení jiné a zadaná data mohou sloužit ke zlepšování modelů, pokud to uživatel nevypne.
Dozor a sankce
Povinnost platí od 2. února 2025 a pravidla dozoru a prosazování se použijí od 2. srpna 2026. AI Act za porušení článku 4 nestanoví konkrétní výši pokuty, sankce mají upravit členské státy ve vnitrostátních předpisech. V Česku je k datu vydání článku v legislativním procesu návrh zákona o umělé inteligenci, podle kterého má být hlavním orgánem dozoru Český telekomunikační úřad, u regulovaných finančních institucí Česká národní banka a u vybraných vysoce rizikových systémů, například v oblasti vymáhání práva, justice nebo voleb, Úřad pro ochranu osobních údajů.
Kontrola připravenosti firmy
- Máte přehled o nástrojích umělé inteligence, které se ve firmě používají, včetně soukromých účtů používaných pro práci.
- Víte, kdo je používá a k čemu.
- Máte interní pravidla pro používání umělé inteligence.
- Zaměstnanci vědí, jaká data do nástrojů nesmějí zadávat.
- Lidé, kteří s AI pracují, prošli vzděláváním odpovídajícím jejich roli.
- Vzdělávání a pravidla máte zdokumentovaná.
- Víte, zda AI nepoužíváte v oblasti, kterou nařízení řadí mezi vysoce rizikové.
- Používáte firemní verze nástrojů se smluvními zárukami ochrany dat (doporučení, nikoli povinnost podle AI Actu).
- Pravidla i vzdělávání pravidelně revidujete.
Shrnutí
Povinnost přijímat opatření na podporu gramotnosti v oblasti AI se týká prakticky každé firmy, ve které zaměstnanci používají nástroje umělé inteligence. Nevyžaduje certifikát ani konkrétní kurz, ale promyšlený přístup. Znamená to zmapovat, co se používá, nastavit pravidla, vzdělávat lidi podle jejich rolí a vše zdokumentovat. Firmy, které to udělají, mohou zároveň snížit riziko úniku dat a chyb a lépe využít to, co jim umělá inteligence může přinést.
Praktické vzdělávání na vašich procesech a datech nabízím v rámci AI workshopů pro firmy.