AI agent je program s umělou inteligencí, který samostatně provede část práce. Sám si zvolí postup, použije nástroje, například vaše CRM nebo účetní systém, a průběžně vyhodnocuje, zda je hotovo. Na rozdíl od chatbota tedy nejen odpovídá, ale i jedná. Agenti mohou firmám ušetřit hodně práce, zároveň ale přinášejí nová rizika a náklady. V článku vysvětluji, z čeho se agent skládá, kdy dává smysl a kdy ne, jak ho zabezpečit a jak poznat, že funguje. Na konci najdete tři nasazení z mé praxe.
Chatbot, automatizace, nebo agent
Slovo agent se dnes používá pro téměř cokoli, co obsahuje umělou inteligenci. Pro rozhodování ve firmě je ale užitečné rozlišovat čtyři úrovně, od nejjednodušší po nejsložitější.
- Pevná automatizace. Pravidla, skripty a propojení systémů bez umělé inteligence. Například poptávka z webu se podle tabulky převede na koncept nabídky v CRM.
- Chatbot nebo jedno volání modelu. Jazykový model, tedy AI, která rozumí textu a umí ho tvořit, dostane jeden dotaz a odpoví na otázku nebo napíše text. Sám nic neprovede.
- AI krok v pevném procesu. Model plní jednu úlohu uvnitř postupu, který navrhl člověk. Například roztřídí e-mail do kategorie nebo vytěží údaje z faktury. Anthropic, vývojář modelů Claude, tomu říká workflow, tedy pevný pracovní postup.
- Agent. Model sám rozhoduje, jaké kroky a nástroje použije a kdy skončit, ale jen v mezích, které mu nastavíte.
Anthropic ve svém návodu k budování agentů doporučuje hledat nejjednodušší řešení a složitost přidávat jen tam, kde je to potřeba. OpenAI uvádí, že agent má smysl hlavně u složitého rozhodování, u pravidel, která se špatně udržují, a u práce s velkým množstvím nestrukturovaných dat, tedy textů, e-mailů a dokumentů. Jinak obvykle stačí pevná automatizace.
Kdy stačí jednodušší řešení
Microsoft ve svém rámci pro zavádění AI agentů výslovně uvádí, že u předvídatelných úloh je běžný program nebo klasický model strojového učení rychlejší, levnější a spolehlivější. Pokud jen potřebujete, aby AI odpovídala z firemních dokumentů, stačí vyhledávání v dokumentech, tedy dohledání souvisejících pasáží, které model použije k odpovědi, a agent není potřeba. V praxi se vyplatí začít pevnou automatizací a AI přidat tam, kde pravidla nestačí.
Z čeho se agent skládá
Model a instrukce
Základem je jazykový model a instrukce, které popisují úlohu, postup a hranice. Dobré instrukce vycházejí z toho, jak práci dělají vaši lidé, tedy z firemních postupů, ceníků a pravidel. OpenAI doporučuje začít s nejschopnějším modelem, změřit výsledky a teprve potom zkoušet levnější varianty tam, kde kvalita zůstává přijatelná.
Nástroje a MCP
Nástroje jsou funkce, které agent smí volat, například přečíst obchodní případ, spočítat cenu nebo uložit koncept. Mohou data číst, měnit nebo spouštět další agenty. OpenAI upozorňuje, že problémem není jen počet nástrojů, ale jejich podobnost. Některé systémy zvládnou víc než patnáct jasně oddělených nástrojů, jiné mají potíže už s méně než deseti, které se překrývají. Anthropic doporučuje nástroje navrhovat pro agenta, ne jen zpřístupňovat všechny funkce systému, a vracet mu jen podstatné údaje.
MCP, tedy Model Context Protocol, je otevřený standard pro napojení AI na firemní systémy. Jeho autoři ho přirovnávají ke konektoru USB-C pro AI aplikace. Standard sjednocuje způsob napojení. Neurčí ale, co smí agent ve vašich systémech dělat, a nezlepší kvalitu dat.
Firemní data a paměť
Aby agent pracoval s vašimi podklady, potřebuje k nim přístup. Obvykle se používá vyhledávání v dokumentech, kdy se k dotazu dohledají související pasáže a předají modelu. Model má navíc omezený kontext, tedy množství textu, se kterým v jednu chvíli pracuje. Anthropic proto doporučuje do kontextu dávat jen to podstatné a stav práce ukládat mimo něj, například do poznámek nebo databáze.
Vzory řízení
Majitel firmy nemusí tyto vzory znát do detailu, pomáhají ale pochopit, z čeho se řešení skládají. Anthropic popisuje pět vzorů pro workflow a agent je až další, nejvolnější úroveň.
- Řetězení kroků. Úloha se rozdělí na pevné kroky a každý navazuje na výstup předchozího.
- Směrování. Model rozhodne, do jaké kategorie vstup patří, a předá ho specializovanému postupu.
- Souběžné zpracování. Několik volání běží najednou a výsledky se spojí nebo porovnají.
- Rozdělení mezi koordinátora a pomocníky. Jeden model rozdělí úlohu na části, které předem nelze určit, a deleguje je.
- Hodnocení a zlepšování. Jeden model navrhne řešení, druhý ho podle jasných kritérií hodnotí a vrací k úpravě.
Jeden agent, nebo více agentů
OpenAI i Microsoft doporučují začít jedním agentem a rozšiřovat ho o nástroje. Více agentů má smysl až tam, kde to vyžadují oddělená oprávnění, různé týmy nebo příliš složité instrukce. Tokeny jsou jednotky textu, za které se u modelů platí. Anthropic uvádí, že jeho systém s více agenty spotřeboval zhruba patnáctkrát víc tokenů než běžný chat a jeden agent zhruba čtyřikrát víc. Agenti si navíc nesou stav a chyby se během delšího běhu nabalují.
Bezpečnost a mantinely
Oprávnění a schválení člověkem
Každý nástroj má mít jen taková oprávnění, jaká nutně potřebuje. OpenAI doporučuje u každého nástroje posoudit riziko podle toho, zda data jen čte, nebo mění, zda je změna vratná a jaký má finanční dopad. Nevratné a citlivé akce, jako je odeslání e-mailu zákazníkovi, platba, zrušení objednávky nebo smazání dat, mají podléhat schválení člověkem. Člověk má převzít práci i tehdy, když agent opakovaně selže.
Vložené instrukce
Na prvním místě žebříčku deseti hlavních rizik aplikací s jazykovými modely od organizace OWASP je takzvaný prompt injection, tedy vložení škodlivých instrukcí do textu, který model zpracovává. U agentů je nebezpečný hlavně nepřímý útok, kdy se instrukce skrývá v e-mailu, dokumentu nebo na webové stránce, kterou agent čte. Bezpečnostní výzkumník Simon Willison upozorňuje na takzvanou smrtící trojici. Pokud má agent zároveň přístup k soukromým datům, čte nedůvěryhodný obsah a umí komunikovat ven, může útočník data vynést.
Ochrana se skládá z několika vrstev.
- Nedůvěryhodný obsah se předává jen jako data, ne jako instrukce.
- Agent má jen nezbytná oprávnění.
- Výstupy nástrojů kontroluje další model.
- Řešení se předem testuje i na záměrně podvržených dokumentech.
Záznam činnosti a limity
Každé volání nástroje se má zaznamenat, aby bylo možné zpětně dohledat, co agent udělal a proč. Agent potřebuje také limit počtu kroků, času a nákladů na jeden běh. Bez nich může při chybě běžet dlouho a stát nečekaně mnoho.
GDPR a AI Act
Podle článku 22 GDPR má člověk právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, pokud má pro něj právní nebo podobně závažné účinky. Tam, kde agent rozhoduje o lidech, například o reklamaci nebo o žádosti, proto má mít poslední slovo člověk. Se zpracováním osobních údajů souvisí také smlouva s poskytovatelem modelu, výběr regionu zpracování a minimalizace dat, která agent dostává.
AI Act ukládá firmám, které AI používají, přijímat opatření na podporu gramotnosti v oblasti AI u lidí, kteří s ní pracují. Od 2. srpna 2026 navíc platí povinnost zajistit, aby lidé věděli, že komunikují se systémem AI, pokud to není zřejmé. Nese ji poskytovatel systému, kterým je často i firma, která si chatbota pro zákazníky nechá vyvinout a provozuje ho pod svým jménem. Podrobnosti najdete v článku Povinnost AI gramotnosti podle AI Actu.
Jak poznat, že agent funguje
Testovací sada ze skutečných případů
Ukázka na třech příkladech toho o spolehlivosti řekne málo. Anthropic doporučuje začít sadou dvaceti až padesáti úloh ze skutečného provozu, ideálně z případů, kde se dříve chybovalo. Výstupy agenta je nejlepší porovnat s tím, co v dané situaci udělal člověk. Agent přitom správnou odpověď nevidí.
Opakované testy po každé změně
Instrukce, znalosti i modely se mění. Po každé změně je potřeba znovu spustit testovací sadu a ověřit, že se nic nezhoršilo. Anthropic rozlišuje testy schopností, které měří, co agent zvládá, a zpočátku mají nízkou úspěšnost, a regresní testy, které hlídají, že dál funguje to, co už fungovalo. Kromě čísel se vyplatí číst i samotný záznam práce agenta, protože skóre může klamat.
Náklady a návratnost
Náklady tvoří vývoj, provoz a cena za tokeny, které rostou s počtem kroků. Přínos se počítá z ušetřeného času, rychlejší odezvy zákazníkům a nižšího počtu chyb. Microsoft doporučuje změřit výchozí stav ještě před začátkem vývoje a ukazatele používat jako podmínku pro další krok.
Tři nasazení z praxe
Agent na přípravu nabídek
Výrobce produktů na zakázku měl obchodníky přetížené přípravou nabídek. Prvním krokem nebyla umělá inteligence, ale pevná automatizace. Každá poptávka z webového konfigurátoru se podle převodních tabulek sama převede na koncept nabídky v CRM a obchodník ho jen zkontroluje a odešle.
Agenta jsme přidali až pro složitější případy. Obchodník ho spustí tlačítkem a agent přečte obchodní případ včetně poznámek, e-mailů a předchozích nabídek a připraví nové verze nabídky jako koncepty se stručným vysvětlením, co a proč udělal.
Agent smí číst, vytvářet nové koncepty a doplnit poznámku. Nesmí měnit existující nabídky, posílat e-maily, měnit stav obchodu ani nic mazat. Ceny počítá firemní cenotvorba a výsledek kontrolují pevná technická pravidla v kódu, která model nemůže obejít. Firemní zvyklosti a příklady jsou ve znalostní bázi, kterou lze upravovat v administraci. Každý běh má limit kroků a času a každé volání nástroje se zaznamená.
V prvním slepém testu na malém vzorku skutečných obchodů se agent u většiny případů shodl s tím, co udělal obchodník, a u zbytku částečně. Stejný model bez znalostní báze a nástrojů dopadl výrazně hůř. V tomto nasazení tedy víc než volba modelu rozhodovaly znalosti firmy a dobře navržené nástroje.
Vytěžování faktur a účtenek
Doklady přicházejí nahráním nebo do vyhrazené e-mailové schránky. Jedno volání modelu z dokladu vytěží strukturované údaje, jako je dodavatel, částky, splatnost a rozpis DPH. Chybějící údaj nechá prázdný, nehádá ho. Zbytek procesu je pevný. Doklad se podle pravidel předkontuje, tedy předběžně se mu přiřadí účty, poté se spáruje s pohybem na bankovním účtu a systém přehledně označí, co je spárované jistě a co jen pravděpodobně. Nic se nepovažuje za potvrzené, dokud to neodsouhlasí uživatel nebo účetní. Podle rozdělení výše jde o AI krok v pevném procesu, ne o agenta, a právě proto se dobře kontroluje a vychází levněji než agent.
Třídění požadavků zákazníků
E-shop dostával požadavky zákazníků v mnoha jazycích a neměl je roztříděné. Řešením je vzor směrování. Model u každého e-mailu vrátí jen číslo kategorie, nebo nulu, pokud do žádné nepatří. Každá kategorie má popis s typickými výrazy v různých jazycích a výslovná pravidla, co do ní nepatří, například jak odlišit zrušení objednávky od problému s platbou. Z e-mailu se modelu posílá jen jeho začátek, což šetří náklady a omezuje množství osobních údajů, které model dostane. Před spuštěním se výsledky ověřují na vzorku a při vyšší chybovosti se instrukce upravují.
Postup nasazení krok za krokem
- Vyberte jeden úzký proces. Častý, měřitelný a takový, kde chyba nemá velké následky.
- Změřte výchozí stav. Kolik času proces zabere, kolik stojí a jak často se v něm chybuje.
- Začněte pevnou automatizací. Co jde vyřešit pravidly, vyřešte pravidly.
- Nechte AI navrhovat a člověka schvalovat. První fáze běží jako asistent, jehož výstupy člověk kontroluje.
- Otestujte naslepo na historii. Porovnejte výstupy agenta s tím, co dříve udělal člověk.
- Spusťte pilot s několika lidmi. Sbírejte opravy a přidávejte je do testovací sady.
- Postupně rozšiřujte samostatnost. Jen u akcí s nízkým rizikem. Nevratné akce nechte schvalovat člověka.
Časté chyby
- Agent tam, kde by stačilo pravidlo nebo jedno volání modelu.
- Žádné měření výchozího stavu a žádná testovací sada.
- Příliš široká oprávnění a nevratné akce bez schválení člověkem.
- Agent, který čte cizí e-maily a dokumenty a zároveň může komunikovat ven.
- Chybějící limity kroků, času a nákladů.
- Více agentů hned od začátku.
- Znalosti firmy jen v hlavách lidí, ne v udržované bázi.
- Úpravy instrukcí bez opakovaného spuštění testů.
Kontrola před nasazením agenta
- Víte, který konkrétní proces má agent zlepšit a podle čeho to poznáte.
- Máte změřený výchozí stav.
- Část, kterou jde vyřešit pravidly, je vyřešená pravidly.
- Agent má jen nezbytná oprávnění.
- Nevratné akce schvaluje člověk.
- Agent má limity kroků, času a nákladů.
- Každé volání nástroje se zaznamenává.
- Máte testovací sadu ze skutečných případů a spouštíte ji po každé změně.
- Víte, jak agent zachází s osobními údaji a kde se data zpracovávají.
Shrnutí
AI agent se nejvíc vyplatí tam, kde práce vyžaduje úsudek nad texty a dokumenty a kde se pravidla špatně udržují. Ve většině nasazení ale největší díl práce odvede pevná automatizace a dobře připravená data a agent přichází až jako poslední vrstva. Kdo začne úzkým procesem, změří výchozí stav, nastaví oprávnění a testuje na skutečných případech, má velkou šanci, že agent bude ve firmě skutečně pracovat.
Výběr nástrojů, návrh a provoz AI agentů jsou součástí služby Umělá inteligence ve firmě. Pokud nevíte, kde začít, pomůže audit procesů a automatizace.