Kde AI nemůže halucinovat

26. srpna 2026 · napsal Milan Dolanský, Deducio

Ústavní soud uložil advokátovi pořádkovou pokutu 25 000 Kč. Ne za použití AI – za to, že soud musel ověřovat, jestli citovaná judikatura vůbec existuje. Nevytvořil to podání chatbot, ale nástroj od dodavatele právního informačního systému. Přitom sedm z deseti advokátů zapojuje AI do práce několikrát týdně. O bezpečnosti nasazení nerozhoduje nástroj, ale zadání.

Za co ta pokuta vlastně byla

V prosinci 2025 uložil Ústavní soud advokátovi pořádkovou pokutu 25 000 Kč, podle soudce „v dolní čtvrtině sazby“. Uložil ji jako předseda senátu Tomáš Langášek a na důvodu trvá:

„Zdůrazňuji, že pokuta nebyla udělena za to, že pan advokát zřejmě použil nástroj tzv. generativní umělé inteligence, ale za to popsané hrubé ztížení postupu Ústavního soudu, neboť jsme zcela zbytečně museli věnovat čas a energii na to, abychom ověřili pouhou existenci právních pramenů, na něž ústavní stížnost odkazovala.“

– Tomáš Langášek, soudce Ústavního soudu

Ten rozdíl je pro praxi zásadní. Sankce nepadla za nástroj. Padla za práci, kterou nikdo neověřil, než ji poslal ven.

Průběh stojí za převyprávění. Stížnost vypadala standardně, bez formálních vad. Asistent nad ní strávil dost času, jen aby vůbec našel rozhodnutí Ústavního soudu a Evropského soudu pro lidská práva, na která se odkazovala. Nakonec zjistil, že neexistují. Na pokyn soudce pak prověřoval kombinace spisových značek a dat, aby vyloučil obyčejný překlep. Langášek vše překontroloval ještě sám.

„Zabralo nám to oběma dost času, což si v provozu Ústavního soudu a množství agendy, kterou musíme zpracovat, nemůžeme dovolit, protože je to na úkor kvalifikovaného posouzení návrhů jiných stěžovatelů.“

– Tomáš Langášek

Advokát pokutu obratem zaplatil, omluvil se a chybu přiznal. Na nástroj to nesváděl.

Jeden detail z rozhovoru pro INFO.CZ ale mění celé zadání. Podání nevytvořil obecný chatbot:

„Pokutou postižený advokát se mi přiznal, že stížnost mu opravdu vytvořil nástroj AI. A to dokonce od některé z profesionálních firem nabízejících komplexní právní informační systém.“

– Petr Dimun, INFO.CZ, z otázky položené soudci Langáškovi

Obvyklá rada zní: nepoužívejte ChatGPT, kupte si oborový nástroj. Tenhle případ tu radu nepotvrzuje.

Není to ojedinělé. V červenci 2026 narazil na totéž Nejvyšší správní soud (10 As 81/2026). Z odůvodnění: „V textu je – typicky pro text generovaný pomocí AI – citována řada údajných rozhodnutí NSS, jež mají podle stěžovatele podpořit jeho stanovisko.“ Pokuta tam nepadla, soud zůstal u varování:

„Podle mého názoru to nedosahovalo intenzity pro uložení pokuty, přesto jsem považoval za vhodné dotyčného alespoň důrazně varovat.“

– Ondřej Mrákota, předseda desátého senátu NSS

Třetí případ ohlásil spolek Šalamoun: ústavní stížnost o 91 stranách v trestní věci, kterou monitoruje. Sám Langášek potvrzuje, že jde o trend:

„Poslední dobou zaznamenávám já i kolegové více ústavních stížností obsahujících nesmyslnou argumentaci a odkazy na neexistující judikaturu. A vskutku podezíráme z toho nástroje umělé inteligence.“

– Tomáš Langášek

Nabízí se jednoduchý závěr: počkat, až to dozraje. Jenže nikdo nečeká.

KdoKolik už AI používá
Advokáti70 % několikrát týdně, třetina denně DirectCase, n = 170
Nemocnicepřes dvě třetiny podle průzkumu ministerstva zdravotnictví
Účetní uprostřed katastrofy JMHZ42,5 % dál podporuje digitalizaci

Poslední řádek je z průzkumu AMSP ČR mezi 448 zaměstnavateli, ve kterém 98,4 % firem uvedlo, že jim jednotné měsíční hlášení nepřineslo žádné zjednodušení. I v takové náladě zůstává podpora digitalizace nad 40 %. Tyhle firmy si nechtějí dát pokoj od technologie. Chtějí si dát pokoj od té, která jim přidělala práci.

Otázka, která rozhoduje

Halucinace není vada, kterou jde v modelu vypnout. Vzniká ve chvíli, kdy po modelu chcete fakt, který jste mu nedali.

Zeptáte-li se „existuje judikatura, která podpoří tenhle argument?“, ptáte se na něco, co v zadání není. Model neumí odpovědět „nevím“ tak, aby to vypadalo jako odvedená práce. Tak si odpověď domyslí. A domyslí ji přesvědčivě, protože přesvědčivost je přesně to, na co byl trénovaný.

Před nasazením si proto kladu jedinou otázku:

Může model odpovědět něco, co si nemůžu okamžitě porovnat s tím, co mám před sebou?

Když ano, riziko nesete vy. Když ne, chybu uvidíte během vteřiny, protože originál držíte v ruce.

1. Chybové kódy z JMHZ – a proč tady AI nechcete

Jednotné měsíční hlášení zaměstnavatele platí od ledna 2026, ostrý provoz začal 1. dubna. Podle průzkumu AMSP ČR označilo 79 % firem nesrozumitelnost chybových hlášení za konkrétní problém a 74,3 % ztratilo víc než 8 hodin práce navíc.

Jak to vypadá v praxi, popsala Simona Fialová z Ecovisu:

„V naší praxi je velmi problematické a pracné zejména dohledávání chyb v podání. Pokud formulář neprojde, mzdová účetní obdrží pouze číselné a technické kódy a následně musí podle nich složitě dohledávat, co je vlastně v hlášení špatně.“

– Simona Fialová, expertka na daně a účetnictví ze společnosti Ecovis

Tady je potřeba být přesný: číselník existuje. MPSV zveřejňuje Katalog kontrol MH, 199 kontrol v XLSX, naposledy aktualizovaný 12. srpna 2026. Kód chyby si z něj odvodíte podle pravidla „ID kontroly + 20000“ pro DIS a „+ 40000“ pro cJMHZ. To pravidlo je schované v hlavičce sloupce.

Jenže mít tabulku a mít odpověď není totéž. V okamžiku odmítnutí držíte v ruce číslo 40217, GUID místo jména zaměstnance a 199řádkový excel.

A teď to hlavní. Tuhle úlohu neřešte umělou inteligencí.

Rozeberte si ji na kroky a je vidět proč:

KrokČím se řeší
Kód → významodečtěte 40000, najděte řádek v katalogu
Význam → které polesloupec „Seznam ID atributů“ a datový slovník
GUID → který zaměstnanecspojení s vaším exportem mezd
Chyba dřív než odmítnutívolání validační služby ČSSZ

Odečtení, vyhledání v tabulce, spojení dvou seznamů. Tohle uměl počítač v roce 1985. Model, kterému za to zaplatíte při každém spuštění, nepřidá nic – jen možnost, že se v tom číslování jednou splete.

Napsat takový skript zabere odpoledne. Katalog se stáhne při instalaci a aktualizuje se, když MPSV vydá novou verzi. Provozní náklady jsou pak nulové, protože se nic nikam neptá.

Proč to píšu do článku o AI: tohle je nejčastější odpověď, kterou v assessmentu dávám. Přijde poptávka „nasaďte nám AI na chybová hlášení“ a poctivý výsledek je „na tohle stačí tabulka a padesát řádků kódu, ušetříte si měsíční paušál“. Poradce, který to neřekne, prodá licenci. Vy ji budete platit každý měsíc za operaci, kterou zvládne kalkulačka.

Model dává smysl až o krok dál – u otázky „co s tím mám teď udělat“, kde se scénáře opravy větví podle typu vady. I tam ale platí stejný test: odpověď musí jít porovnat s katalogem, který máte otevřený vedle.

Cena za neodchycený překlep je přitom konkrétní:

„Přísné validace navíc znamenají, že překlep v nepodstatném poli vede k odmítnutí celého hlášení pod hrozbou pokut až 100 000 korun.“

– Petra Pospíšilová, prezidentka Komory daňových poradců ČR

Kde AI u JMHZ nepomůže vůbec: výpadky systému, neprůhledné „přijato versus zpracováno“, blokované potvrzení o bezdlužnosti. To je konstrukce portálu, ne úloha pro model. A pozor na zastaralé stížnosti – přenos údajů z předchozího měsíce ePortál od jara 2026 umí, i když se to pořád opisuje jako nedostatek.

2. Stejná data do pátého formuláře

Jedna informace putuje do tří systémů a dvou PDF. Každý přepis je další příležitost k překlepu.

Model tady neodpovídá na otázku, přepisuje. Kontrola je vizuální: položíte vedle sebe originál a výstup.

V účetnictví je to nejdostupnější úloha vůbec. 63 % účetních nevyužívá žádný vytěžovací software a 50 % českých firem stále předává doklady osobně v papírové podobě.

Ve zdravotnictví je vzorec ostřejší. Očkování se podle předsedy Sdružení praktických lékařů ČR zadává třikrát – do elektronického očkovacího průkazu, ve vykázání pojišťovně a u povinných očkování ještě jednou na konci pololetí do clearingového centra. Sám tomu říká triplicita. Šéf ÚZIS to k hlášení dat do registrů řekl bez obalu:

„Nebudeme nutit profesora medicíny opisovat z obrazovky do obrazovky, protože je to pořád levnější, než zaplatit ajťáka.“

– Ladislav Dušek, ředitel ÚZIS ČR

3. Systém, který nemá API

Na žádost „propojte nám to“ zní standardní odpověď: bez API se nedá automatizovat nic. České účetní programy vznikaly v 90. letech a rozhraní většinou nemají. Nemocniční informační systémy na tom nejsou lépe. Dušek k tomu dodává: „Ve víc a víc agendách drhneme o nemocniční informační systémy.“

Rozhraní, kterým se systémem mluvíte vy, je ale taky rozhraní. Model, který ovládá uživatelské prostředí – klikne, vyplní, uloží – nepotřebuje povolení od dodavatele.

Je to pomalejší a křehčí než skutečné API. Když se změní obrazovka, je potřeba to ohlídat. To říkám dopředu, ne až u faktury. U úlohy „přenes tahle data odsud tam“ ale model nemá prostor si cokoli domyslet. Vstup je daný, cíl je daný, výsledek vidíte.

Pro malou kancelář to bývá rozdíl mezi „automatizovat nejde“ a „automatizovat jde, jen oklikou“.

Kde ta hranice končí

ÚlohaHalucinace možná?
Překlad chybového kódu, předvalidacene – a nepotřebujete na to model
Vyplnění formuláře z existujícího dokladune – kontrola je vizuální
Přenos dat mezi systémy přes UIne – vstup i cíl jsou dané
Sumarizace dokumentu, který mátezčásti – vynechání je chyba, která není vidět
Rešerše judikatury, dohledání zdrojeano – tady vznikla ta pokuta
Návrh diagnózy nebo kódu DRGano, a je to i regulační hranice

U posledního řádku nejde jen o kvalitu výstupu. FAQ Národního centra elektronického zdravotnictví je v tom jednoznačné. Software bez označení CE smí do zdravotní péče „výhradně v rámci SÚKLem schválené klinické zkoušky/studie funkční způsobilost“. A „konečnou diagnózu a následnou léčbu vždy určuje lékař v kontextu posouzení celkového zdravotního stavu pacienta“. Nástroj, který přepisuje a strukturuje diktát, zdravotnický prostředek není. Nástroj, který navrhuje diagnózu, se té hranici blíží.

Čím začít

Otázka nezní, jestli je AI dost dobrá. Zní: nesu za tenhle výstup odpovědnost a poznám na něm chybu?

Předsedkyně České advokátní komory Monika Novotná to popsala takhle:

„Důležité je, že advokát bude jediný, kdo za to bude odpovídat. Když umělá inteligence napíše špatnou smlouvu a klient prohraje spor, tak si na nikom nic nevezme. Advokát je ze zákona pojištěný a tu škodu potom musí nahradit.“

– Monika Novotná, předsedkyně ČAK

Stejnou hranici popsal i Langášek, když se ho ptali, jestli by si soud neměl pořídit automatickou kontrolu podání:

„Jistě lze zapojit nástroje rozpoznávání halucinující argumentace a falešných odkazů na neexistující prameny, nakonec to ale stejně musí zkontrolovat člověk – soudce.“

– Tomáš Langášek

Nástroj jako pomoc, kontrola u člověka. Proto začínám u úloh, kde ta kontrola trvá vteřiny. Ne kvůli skromnosti. Kvůli tomu, že u nich neexistuje scénář, ve kterém vás výstup dostane před kárný senát. A někdy je výsledkem zjištění, že model nepotřebujete vůbec – viz první úloha.

Nevíte-li, do které kategorie vaše práce spadá, je to samo o sobě užitečné zjištění. Projít to nahlas s někým, kdo si vede seznam těch selhání, trvá 45 minut.

Zdroje

Všechny citace byly před publikací ověřeny proti živému zdroji.

Do 7 dnů víte, kde vám AI ušetří hodiny a za kolik.

8 900 Kč · konečná cena

Rezervovat termín

Fixní cena, výstupy do 7 dnů, 100% zápočet do implementace. Nebo si nejdřív přečtěte, kolik stojí AI poradenství v Česku.