„AI agenta sme zrušili hneď po implementácii, pretože nesplnil naše očakávania.“ Toto sme počuli už viackrát. Čo a kde sa pokazilo? Demo verzia predsa vyzerala dokonale... Spísali sme pre vás 9 dôvodov, prečo sa stáva, že agent nefunguje ako má.
Napríklad to, že zdrojový systém môže mať výpadok a agent namiesto chyby, vygeneruje prázdne pole a tvári sa, že je to fakt. Alebo, môže prísť mail s prílohou, v ktorej je schovaná inštrukcia od hackerov. Agent ju vykoná, pretože nevie odlíšiť obsah od zadania.
Pritom, ani jedna z týchto situácií sa nestane pri testovaní agenta, objaví sa až v plnej prevádzke.
Podľa prieskumu S&P Global Market Intelligence upustilo 42 % firiem od väčšiny svojich plánov s AI, pričom rok predtým to bolo 17 %. Priemerná organizácia zahodila 46 % proof of conceptov a to ešte pred produkciou. Analytická spoločnosť Forrester upozorňuje, že dlhodobo fungujúci agent sa správa ako distribuovaný systém a vyžaduje najmä disciplínu v orchestrácii, identitách a práci s kontextom. A na toto sa väčšina firiem vôbec nepripravila.
| Koľko projektov neprežije? | |
|---|---|
| AI projekty zrušené do konca 2027 kvôli nákladom, nejasnej hodnote alebo slabému riadeniu rizikaGartner, jún 2025 | nad 40 % |
| Podniky, ktoré do roku 2027 agentom obmedzia alebo odoberú právomociGartner, máj 2026 | 40 % |
| Firmy, ktoré opustili väčšinu svojich AI iniciatív (rok predtým 17 %)S&P Global Market Intelligence, marec 2025 | 42 % |
| Pilotné projekty zahodené ešte pred nasadením do produkcieS&P Global Market Intelligence, marec 2025 | 46 % |
| Čo brzdí nasadenie? | |
| Integrácia s existujúcimi systémamiAnthropic a Material, 2026 State of AI Agents Report | 46 % |
| Náklady na implementáciuAnthropic a Material, 2026 State of AI Agents Report | 43 % |
| Prístup k dátam a ich kvalitaAnthropic a Material, 2026 State of AI Agents Report | 42 % |
| Zavedenie agenta do zaužívaných pracovných postupovAnthropic a Material, 2026 State of AI Agents Report | 39 % |
| Trh a bezpečnosť | |
| Dodávatelia, ktorí AI agentov reálne robia (z tisícok, ktorí to o sebe vyhlasujú)Gartner, jún 2025 | cca 130 |
| Bezpečnostní lídri, pre ktorých je AI obavaForrester Security Survey 2026 | 49 % |
| Kto agentov reálne škáluje a čo to prináša? | |
| Veľké firmy s obratom nad 1 mld. USD, ktoré agentov škálujúMcKinsey State of AI, 2026 | 40 % |
| Menšie firmy, ktoré škálujú agentovMcKinsey State of AI, 2026 | 22 % |
| Firmy, ktoré AI pripisujú aspoň nejaký dopad na EBIT, medziročne bez zmenyMcKinsey State of AI, 2026 | 37 % |
| Firmy, ktorým prevádzkové náklady AI obmedzili jej využitieMcKinsey State of AI, 2026 | cca 20 % |
| Kde je dnes Európa? | |
| Podniky v EÚ, ktoré používajú aspoň jednu AI technológiuEurostat, ICT usage in enterprises 2025 | 20,0 % |
| Z toho Slovensko a ČeskoEurostat, ICT usage in enterprises 2025 | 18,0 % / 17,6 % |
| Podniky v EÚ, ktoré používajú AI-based RPAEurostat, ICT usage in enterprises 2025 | 5,4 % |
Hodnoty vyjadrujú podiel organizácií, ktoré danú skutočnosť v prieskume uviedli. Prieskumy boli realizované medzi technickými lídrami a manažérmi v rokoch 2025 a 2026.
Posledný riadok je dôležitejší, než sa na prvý pohľad zdá. Naznačuje, že uvedomelé nasadenie automatizácie je v Európe stále menšinová záležitosť, pričom AI agenti sa najlepšie a často budujú práve na už existujúcej RPA.
Chatbot len odpovedá v chate, pričom AI agent samostatne vykonáva úlohy.
Rozdiel je v tom, čo sa stane po zadaní požiadavky. Agent si dokáže vyhľadať údaje v CRM, prečítať dokument, vyhodnotiť kontext, použiť nástroj, vytvoriť záznam, spustiť proces, požiadať o schválenie a sledovať výsledok. Každý z tých krokov je zásah do firemného systému s reálnymi dôsledkami.
Z toho vyplýva, že implementácia agenta znamená v prvom rade stanoviť si architektúru, integráciu, bezpečnosť a prevádzku. Prompt engineering je z toho všetkého tá najmenšia časť.
Informácie v každom jednotlivom systéme, napríklad CRM, ERP, mailoch, exceloch, dokumentových úložiskách a v portáli sú správne. Každý systém má však vlastnú logiku, vlastné identifikátory a vlastnú „verziu pravdy“. Ak nie sú systémy prepojené, agent potom nevie spoľahlivo odpovedať ani na jednoduchú otázku o stave žiadosti.
Tento chaos spôsobuje, že firmy často nalejú agentovi do kontextu všetko, čo majú po ruke a dúfajú, že si podstatné informácie nájde sám.
Pred nasadením zmapujte „zdroj pravdy“ pre každý dátový objekt, jeho vlastníka, pravidlá kvality a kľúčové identifikátory. Agent by nemal mať prístup ku všetkému. Má mať presne definovaný kontext pre jeden proces.
V demo verzii stačí ukázať, že sa agent vie pripojiť na rozhranie. V prevádzke však musí vedieť aj to, čo má robiť, keď rozhranie neodpovedá, keď sú dáta neúplné, keď sa zmení schéma a kedy je potrebné celú operáciu zrušiť bez akýchkoľvek zmien.
Podľa prieskumu Anthropicu a Material medzi viac než päťsto technickými lídrami je to najčastejšia bariéra vôbec, uviedlo ju až 46 % opýtaných. Popisujú pritom aj jeden konkrétny vzorec. Agent bol vybudovaný na schéme napríklad z januára, no medzičasom sa rozhranie zrušilo a nikto si nevšimne, že to nefunguje, prípade všimne, až keď je neskoro.
Pre každý proces definujte vstupy, výstupy, povolené nástroje a akcie, podmienky eskalácie, chybové scenáre, rollback a auditnú stopu. Agent si nemá proces vymýšľať. Má používať ten, ktorý už máte overený, ideálne pomocou existujúcej RPA.
Našli sme aj diskusiu o prevádzke agentov, kde sa opakuje rovnaký dôvod, prečo k tomu dochádza. Tím nechce spomaliť implementáciu definovaním prístupových pravidiel, tak dá agentovi prístup „na skúšku“ k celému systému. Dočasné riešenie sa bohužiaľ stane trvalým.
Agenti majú zdieľané, požičané alebo príliš široké prístupy, takže jeden agent si otvorí všetko, k čomu sa dostane.
Ako tomu predísť? Vlastnou identitou pre každého agenta, so samostatným servisným účtom, explicitným zoznamom povolených zápisových akcií, povinným ľudským schvaľovaním pri citlivých operáciách a logovanie aj zamietnutých pokusov, nielen úspešných volaní. Revízia oprávnení má mať pevný termín, nielen podľa potreby.
Ak agent spracúva obsah zvonku, napríklad mail, dokument, web stránku alebo ticket, tento obsah mu môže prepísať zadanie. OWASP (Open Worldwide Application Security Project) to má na prvom mieste svojho rebríčka pre agentov ako ASI01, takzvaný únos cieľa.
„The model is never the control.”
Gee Rittenhouse z AWS a Eric Johnson zo SANS Institute, september 2026
Bezpečnosť viacerých agentov nemôže byť len v systémovom prompte, musí byť nastavená priamo v platforme.
Preto oddeľte to, kde sú nastavené pravidlá, od toho, kde sa model rozhoduje. Vynucovanie pravidiel patrí do platformy, do brány a do oprávnení, nie do inštrukcie typu „nemaž záznamy“.
Môže vzniknúť situácia, kedy sa agent nedokáže pripojiť k systému, no pokračuje vo svojej úlohe aj bez potrebných údajov či úkonov. Kým si to všimne reálny človek, agent spraví ďalšie tri kroky, čím sa chyba znásobí. V konečnom dôsledku sa však opravuje pokazený výsledok alebo len medzikrok, nie skutočná príčina problému.
Zaplnenie kontextového okna, kaskádu a drift dátových rozhraní totiž netestuje takmer nikto, hoci práve tie spôsobujú tiché zlyhania a to bez chybovej hlášky.
Stanovte limit na počet krokov, detekciu slučiek, timeout a povinný bezpečný stav, do ktorého sa agent vracia. Každé použitie nástroja má mať jasne definované, aby ak sa niečo pokazí, nepokračoval ďalej.
Aj Gartner varuje pred jedným univerzálnym pravidlom pre všetkých agentov.
„Firmy to vidia čiernobielo. Agent buď nesmie skoro nič, alebo smie všetko.”
Shiva Varma, Senior Director Analyst, Gartner
Zlyhanie má potom dve podoby. Jednoduchý agent je zaťažený kontrolami, pričom ich toľko vôbec nepotrebuje a tak ho vo firme obídu. Autonómny agent má zas prílišnú voľnosť, čím vzniká bezpečnostné alebo compliance riziko. Gartner odporúča proporčné riadenie so štyrmi úrovňami autonómie, pričom každá je samostatnou hranicou dôvery.
Tretia úroveň má jeden zádrheľ, to, že sa schvaľovanie pod tlakom degraduje. Keď zamestnanec automaticky kliká na schválenie, pretože mu hláška vyskočila už tridsiaty krát za hodinu, kontrola vlastne neexistuje, napriek pôvodnému nastaveniu human-in-the-loop.
Vývojári tvrdia, že problém je na prevádzke. Tá zas povie, že problém je v AI. Nevedia sa dohodnúť a tým pádom agent pracuje ďalej bez opravy.
Uvedieme trochu extrémnejší prípad. AI agent získal v júni neoprávnený prístup k vládnemu zdravotníckemu portálu. Prevádzkovateľ bol súkromná firma v inej krajine a poškodená strana nemala zmluvu ani s jedným z nich. Oznámenie o udalosti prišlo až v septembri, pretože žiadny postup nerátal s takouto situáciou. Toto sa nazýva orphan incident, bez majiteľa.
Pred spustením preto pomenujte vlastníka procesu, vlastníka dát, vlastníka technického riešenia, toho, kto reaguje na incident a toho, kto má právo agenta vypnúť. Posledné meno je najdôležitejšie a najčastejšie chýba.
Koľkokrát bol agent spustený, koľko správ spracoval, koľko tokenov minul. To je užitočná telemetria, ktorá však o prínose nič nehovorí.
Našli sme aj prípad, kedy vo firme, počas šiestich mesiacov sledovali počet aktivácií agenta, ale vôbec nemerali, či jeho činnosť zlepšila biznisový výsledok. Agent však fungoval ďalej, prinášal minimum hodnoty a mrhal rozpočtom.
Pre každý proces je potrebné nastaviť jedno biznisové KPI a jeden náklad. Napríklad podiel automaticky vyriešených prípadov, čas odpovede zákazníkovi a náklad na jednu úspešne dokončenú úlohu. Dashboard, do ktorého vidí vedenie, nielen tím, ktorý agenta postavil.
Náklady na licenciu a vývoj sa dajú ľahko vypočítať. Požiadavky na modely, opakované spúšťanie nástrojov, veľké kontexty a prehľadávanie objemných dát už tak predvídateľné nie sú. Pätina firiem podľa McKinsey uvádza, že prevádzkové náklady AI vrátane tokenov im obmedzili jej využívanie.
Je potrebné nastaviť strop na jedného agenta a na jeden proces, zapojiť menšie modely tam, kde sú postačujúce a nastaviť automatické stopnutie, keď agent prekročí určený limit. Pričom náklad na úlohu patrí do reportu vedľa prínosu, nie do samostatného súboru u správcu cloudu.
Pre banku, poisťovňu, energetiku aj verejnú správu pribúdajú riziká a povinnosti, ktoré sa v bežnom projekte nenachádzajú.
Napríklad AI Act po Digital Omnibuse. Povinnosti pre vysokorizikové systémy z prílohy III, kam patrí okrem iného úverová bonita, upisovanie životného a zdravotného poistenia či riadenie zamestnancov, sa presunuli z 2. augusta 2026 na 2. decembra 2027. Vysokoriziková AI zabudovaná v regulovaných produktoch má termín 2. augusta 2028. Odklad nadobúda účinnosť zverejnením v Úradnom vestníku.
Transparentné povinnosti podľa článku 50 platia ďalej. Človek musí byť oboznámený, že komunikuje s AI a obsah vytvorený AI sa musí čitateľne označiť. Pri systémoch uvedených na trh pred 2. augustom 2026 je na technické riešenie označovania čas do 2. decembra 2026.
Pre banku je dodávateľ AI rovnaký typ partnera ako poskytovateľ cloudu. Čaká ho previerka, zmluva s povinnými náležitosťami a zápis do registra aj so subdodávateľmi. Posudzovanie trvá týždne až mesiace. Firma, ktorá to má pripravené vopred, ušetrí týždne, ktoré by inak strávila zháňaním dokumentov.
Ako prvý proces na automatizáciu AI agentom je vhodné vybrať ten, ktorý sa často opakuje, má jasné vstupy a výstupy, funguje nad systémami s rozhraním alebo existujúcou automatizáciou, chyba v ňom nemá kritický dopad a v procese je miesto, kde do neho vstúpi človek a rozhodne o konečnom výstupe.
Dobrí kandidáti sú napríklad kvalifikácia leadov, kontrola žiadostí, alebo interné vyhľadávanie.
Nevhodné procesy sú tie, bez dátového základu, bez dokumentácie, s vysokým regulačným dopadom a tie, kde sa zmena nedá vrátiť naspäť, bez dôsledkov.
Ak dokážete stručne a jasne odpovedať na týchto šesť otázok a doložiť to konfiguráciou, váš pilotný projekt má veľkú šancu na úspech.
1 K čomu má agent prístup a čo môže zmeniť?
2. Pri ktorom kroku je nutné schválenie človekom?
3. Čo sa stane, keď je zdrojový systém nedostupný alebo sa zmení schéma?
4. Dá sa každá akcia dohľadať spätne a ako dlho sa uchovávajú záznamy?
5. Aký je strop nákladov na jedného agenta a kedy je potrebné ho vypnúť?
6. Kto ho bude prevádzkovať aj o rok a pod akým SLA?
V millennium vytvárame agentov ako ďalšiu vrstvu nad existujúcou architektúrou zákazníka. Prakticky to znamená prepojenie na CRM postavené na Microsoft Dynamics 365, automatizácii v Power Platform a UiPath a na dokumentoch a reportingu v Power BI. K tomu samozrejme patrí aj návrh rozhodovacej logiky, oprávnení, eskalácií a prevádzka pod SLA.
Niektoré problémy však nevyrieši žiadny dodávateľ a nemá zmysel tvrdiť opak. Napríklad:
Zavedenie agenta do zaužívaných pracovných postupov
Štvrtou najčastejšou bariérou je podľa citovaného prieskumu riadenie zmien, uviedlo ho až 39 % opýtaných. Agent navrhnutý dodávateľom môže byť síce dokonalý, no ak si nezíska dôveru zamestnancov, nebudú ho používať. Pomôže, ak agent prevezme len najnepríjemnejšiu časť práce a nie celú agendu.
Správa dát naprieč firmou
Kým nie je jasne stanovené, ktorý systém je pre daný údaj nastavený ako hlavný, agent si nemá odkiaľ zobrať spoľahlivú odpoveď. Toto rozhodnutie sa nemá robiť na úrovni projektu, ale vedenia.
Bezpečnostný red teaming agentov
Útoky typu prompt injection sú samostatnou disciplínou a je potrebné testovať ich priebežne, ideálne špecialistom.
Rozhodnutie, čo automatizovať netreba
Časť procesov sa dá zrušiť alebo len zjednodušiť namiesto automatizácie. Dodávateľ, ktorý to prizná, síce príde o časť zákazky, no zákazník na tom môže ušetriť viac než na agentovi.
Prečo zlyhávajú AI agenti v produkcii?
Najčastejšie na integrácii, kvalite dát, príliš širokých oprávneniach a v tom, že kontrola nezodpovedá tomu, čo agent skutočne smie. Kvalitu modelu uvádza v prieskumoch len málokto.
Aký rozdiel je medzi chatbotom a AI agentom?
Chatbot len odpovedá. Agent vykonáva kroky v reálnych systémoch, pracuje v nástrojoch, zapisuje záznamy a spúšťa procesy. Z toho vyplývajú odlišné nároky na oprávnenia, audit a prevádzku.
Koľko trvá, kým AI agent prinesie merateľný efekt?
Pri jednom dobre vybranom procese s dostupnými dátami sú prvé merateľné výsledky realistické v horizonte niekoľkých mesiacov. Rozhoduje o tom pripravenosť dát a integrácií, nie výber modelu.
Čo vyžaduje AI Act od firiem v roku 2026?
Povinnosti pre vysokorizikové systémy z prílohy III sa odložili na december 2027. Transparentné povinnosti podľa článku 50 platia ďalej, vrátane informovania človeka, že komunikuje s AI a označovania AI obsahu.
Ako merať návratnosť AI agenta?
Jedným biznisovým KPI a jedným nákladom na proces. Napríklad podiel automaticky vyriešených prípadov oproti nákladu na jednu úspešne dokončenú úlohu. Počet spustení agenta návratnosť nemeria.
Agent, ktorý vie všetko, môže byť síce zaujímavý, no agent, ktorý vie presne to, čo má, má na to správne dáta a koná v hraniciach, ktoré mu firma určila, je použiteľný dlhodobo.
Ak riešite nasadenie agenta do prevádzky v prostredí, kde sa nesmie nič pokaziť, napíšte nám.
