Jak poznat, že byl obsah vytvořen umělou inteligencí?

Krátká odpověď: ne, spolehlivě to poznat nejde. Existují indicie, ale žádná z nich nefunguje stoprocentně – a s každou novou generací modelů to bude horší.

Pojďme si projít, co vlastně máme k disposici.

Halucinace

Nejspolehlivější indicií jsou halucinace – vymyšlené informace, které AI presentuje s naprostou jistotou. V technických textech to bývá obzvlášť viditelné.

AI si ráda vymýšlí neexistující API a funkce. Napíše vám třeba pandas.DataFrame.auto_clean() nebo git commit --auto-message a tváří se, že to je naprosto běžný příkaz. Podobně dokáže citovat vědecké studie, které nikdy nevyšly, s fiktivními autory a přesvědčivými názvy. Nebo namíchá dohromady skutečné koncepty způsobem, který nedává smysl – syntaxi z jednoho jazyka aplikuje na jiný, popíše funkci z úplně jiné knihovny.

Problém je, že halucinaci odhalí jen ten, kdo dané problematice rozumí. Běžný čtenář nepozná, že popsaná SQL funkce neexistuje nebo že citovaná studie je vymyšlená. A i kdyby chybu našel – jak pozná, jestli je to halucinace AI, nebo jestli si autor prostě špatně zapamatoval API? Lidé dělají stejné typy chyb.

A pak je tu ještě jeden háček: pokud autor AI výstup pečlivě zkontroluje a opraví, halucinace v textu prostě nebudou. Takový obsah je pak prakticky nerozlišitelný od lidského.

Stylistické indicie

AI texty mívají několik typických rysů. Jsou až podezřele hladké – žádné stylistické nedokonalosti, žádný osobní tón. Opakují se v nich generické fráze typu „je důležité si uvědomit” nebo „v dnešní době”. Struktura bývá perfektně symetrická: každá sekce má úvod, tři odrážky a shrnutí.

Po obsahové stránce je AI text často široký, ale mělký. Pokryje téma ze všech stran, ale nikam nezajde do hloubky. Chybí konkrétní příklady z praxe, osobní zkušenosti, kontroversní názory. Vše je vyváženě diplomatické.

Jenže všechny tyto znaky jde úpravou promptu nebo následnou editací snadno odstranit. Stačí AI říct „piš neformálně, používej krátké věty” – a výstup bude vypadat úplně jinak. A pokud AI dostane vzorky textů konkrétního autora, dokáže napodobit jeho styl natolik věrohodně, že rozdíl nepozná ani blízký člověk.

Detektory AI obsahu

Na trhu je celá řada nástrojů, které slibují, že AI obsah poznají. Většina z nich měří, jak předvídatelný je text (perplexity), jak moc se mění délky vět (burstiness) a jakou distribuci mají jednotlivá slova.

V praxi mají ale zásadní nedostatky. Označují lidský text jako AI (falešně positivní), promyšleně upravený AI text neodhalí (falešně negativní) a fungují výrazně lépe na angličtině než na jiných jazycích. Navíc mají tendenci diskriminovat non-native speakers – jejich text vypadá „víc AI” kvůli jednodušší větné stavbě.

Spolehlivost detektorů se pohybuje kolem 60–70 %. To je málo na to, abyste na základě takového výsledku někoho obviňovali z podvodu.

Hybridní obsah

Celá debata o „AI vs. lidském” obsahu navíc stojí na falešném protikladu. V praxi AI většina autorů používá jako asistenta – nechá si vygenerovat osnovu, ověří si souvislosti, nechá si vylepšit formulace. Výsledek je pak mix lidské a strojové práce.

Je to AI obsah, pokud AI napsala první draft a člověk ho přepsal? Co když člověk napsal text a AI opravila jen gramatiku? Co když AI pomohla s rešerší, ale samotný text psal člověk? Jasnou hranici tu prostě nejde nakreslit.

Proč to vlastně řešíme

Hlavní obavou je kvalita – že AI generovaný obsah bude plný halucinací a chyb. Jenže kvalita nesouvisí s původem. Na internetu je spousta špatného obsahu, který napsali lidé. A naopak, AI text, který prošel důkladnou kontrolou, může být lepší než to, co by autor zvládl sám.

Co dál

S každou novou generací modelů bude detekce těžší. Méně halucinací, přirozenější text, schopnost napodobit styl konkrétního autora. Už teď je prakticky nemožné rozlišit kvalitní AI obsah od lidského.

Místo snahy o detekci původu dává větší smysl zaměřit se na to, co jde skutečně posoudit: jsou v textu konkrétní informace? Odpovídají realitě? Má autor prokazatelné zkušenosti s tématem? To jsou kritéria kvality – ne to, jestli autor při psaní použil klávesnici, Word, Grammarly, nebo ChatGPT.