Podvádění s úkoly, generování falešných recenzí nebo masový přísun anonymních článků od robotů. Technické řešení v podání neviditelných vodoznaků mělo přinést jasný řád do toho, co vytvořila umělá inteligence a co člověk. Vývoj událostí z posledních měsíců ale ukazuje, že očekávání narážejí na tvrdou realitu technologických limitů.
Společnost OpenAI, která stojí za ChatGPT, v říjnu 2026 oznámila zavedení neviditelného vodoznaku pro texty vygenerované službou ChatGPT i programovacím nástrojem Codex v rámci Evropské unie. Název této technologie je textGrain.
Firma k tomuto kroku přistoupila v návaznosti na článek 50 evropského zákona o umělé inteligenci (AI Act), který od srpna 2026 po výrobcích vyžaduje, aby byl obsah vytvořený AI strojově rozpoznatelný. Na první pohled by se mohlo zdát, že jde o definitivní tečku za anonymním generováním textů. V praxi k tomu však nedojde.
Na rozdíl od obrázků se do textu nevkládají žádné skryté znaky. Vodoznak spočívá v samotném výběru slov. Fungování si lze představit na příkladu číšníka, který má tajnou dohodu se šéfem: kdykoli může zvolit mezi slovním spojením „prosím“ a „račte“, použije výraz „račte“. Kdykoli může volit mezi slovy „dobrý“ a „výborný“, zvolí „výborný“. Jedna věta nic neprozradí. Pokud však šéf poslouchá celou směnu, podle statistické odchylky spolehlivě pozná, o kterého číšníka jde. Vodoznak v textu není razítko. Je to statistický přízvuk. A přízvuk se dá snadno ztratit.
Limitů, kvůli kterým technologie v praxi neposkytuje stoprocentní záruku detekce, je několik:
- Stačí minimální úpravy: Podle údajů samotné OpenAI dokáže detektor u delšího odborného textu poznat vodoznak přibližně v 95 % případů. Pokud je však čtvrtina slov nahrazena synonymy, úspěšnost detekce klesá na pouhých 17 %. S nadsázkou jde o přeložení slov do jiného dialektu, při kterém původní přízvuk zmizí.
- Překlad vodoznak maže: Výrazné přeformulování nebo překlad do jiného jazyka podle OpenAI vodoznak spolehlivě odstraní. U jiných než anglických jazyků je navíc úspěšnost nižší i bez úprav. U evropských jazyků se úspěšnost detekce pohybuje pouze v rozmezí 42 až 69 %.
- Rozhraní API bez povinného značení: Vývojáři a firmy často nevyužívají ChatGPT přes běžné webové rozhraní, ale připojují se přímo přes API. V tomto režimu je vodoznak ve výchozím nastavení vypnutý a jeho zapnutí je dobrovolné.
- Rozdílný přístup u jiných modelů: Zatímco Anthropic značkuje celosvětově a Google využívá vlastní systém SynthID, stovky volně dostupných a otevřených modelů (open-source) žádné značení neobsahují a vyžadovat ho u nich nelze.
- Absence veřejného detektoru: Ověřovací nástroj není volně přístupný veřejnosti. Přístup k němu dostávají pouze vybraní výzkumníci a instituce.
- Chybějící vodoznak není důkaz: Samotná dokumentace OpenAI upozorňuje na skutečnost, že nenalezený vodoznak nelze považovat za důkaz, že text napsal člověk.
Vodoznak tak zachytí pouze ty případy, kdy se autor nesnaží o žádnou úpravu textu. Působí jako preventivní opatření, které ovšem neodradí od vědomého obcházení.
Reálné využití technického značení
Iniciativy pro vkládání vodoznaků mají svůj význam, ovšem jiný, než se široká veřejnost domnívá. Systém pomůže velkým platformám a výzkumníkům při měření celkového objemu AI obsahu na internetu. Usnadní také dohledávání hromadných dezinformačních či marketingových kampaní, u kterých dochází k publikaci tisíců stejných textů bez redakčních úprav. Rozpoznání však nepomůže vyučujícím, personalistům ani redaktorům při posuzování jednoho konkrétního dokumentu či článku.
Dopady na komerční využití a marketing
Pro subjekty využívající AI v externí komunikaci a marketingu z dané situace vyplývá několik klíčových zásad:
- Mýtus o rozpoznatelnosti: Nelze spoléhat na to, že původ textu z AI nikdo nepozná, ani na to, že jej spolehlivě odhalí jakýkoliv detektor.
- Transparentnost podle AI Actu: Pravidla vyžadují jasné informování zákazníka v situacích, kdy komunikuje s automatizovaným systémem. V případě textů týkajících se věcí veřejného zájmu legislativa vyžaduje označení obsahu vytvořeného AI, pokud neprošel kontrolou odpovědného člověka.
- Odpovědnost zůstává na zadavateli: Právní i faktickou odpovědnost za správnost informací nese vždy vydavatel nebo firma, nikoli použitý softwarový nástroj.
- Nezastupitelná role lidské kontroly: Standardem bezpečného provozu a dodržování legislativy zůstává model, kdy vygenerovaný text projde před publikací lidskou redakcí.
Vodoznaky na AI textech představují funkční indikátor pro globální statistiky a analýzu velkých datových souborů, nikoli však spolehlivou metodu pro ověřování autovztahu u jednotlivých textů. Vodoznak je jako cedulka „Pozor, pes“ na plotě bez psa. Někoho odradí, ale nikoho nezastaví. Pro praxi tak platí jedno základní pravidlo: Umělá inteligence může text připravit, finální odpovědnost a podpis však vždy náleží člověku.
ČLÁNKY DO MAILU