AI začne v textech zanechávat skrytou stopu. Odhalí ji školy i zaměstnavatelé

AI začne v textech zanechávat skrytou stopu. Odhalí ji školy i zaměstnavatelé
Fotografie: ilustrace DALL-E, OpenAI
  • Nové modely Claude budou do vytvořených textů vkládat neviditelný strojově čitelný vodoznak
  • Označení zůstane zachované při běžném kopírování a může přežít i některé dodatečné úpravy
  • Nález vodoznaku ale nebude spolehlivým důkazem podvádění ani toho, že celý text vytvořila umělá inteligence

Stačí označit odpověď, stisknout Ctrl+C a vložit ji do nového dokumentu. Tak jednoduché je dnes přenést text vytvořený umělou inteligencí například do školní práce, e-mailu nebo pracovního zadání. Nové modely Claude však po sobě začnou nechávat neviditelnou stopu, kterou budou moci odhalit školy, nebo třeba zaměstnavatelé.

Na první pohled přitom nebude poznat vůbec nic. V textu se neobjeví logo, poznámka pod čarou ani upozornění, že jej vytvořila AI. Vodoznak bude vložen přímo do odpovědi tak, aby neměnil její význam, kvalitu ani čitelnost.

Ctrl+C skrytou stopu nesmaže

Označení nebude uložené pouze někde uvnitř aplikace Claude. Stane se součástí samotného textu, takže se s ním přenese také do Wordu, e-mailu nebo publikačního systému. Běžné zkopírování a vložení jej proto neodstraní a přežít by měl i některé následné úpravy (viz support.claude.com).

Jak přesně bude řešení fungovat, zatím Anthropic neprozradil. Firma nezveřejnila technický princip vodoznaku ani to, kolik změn může text podstoupit, než se skrytá značka ztratí. Podrobnější dokumentaci a nástroje určené k jejímu rozpoznání teprve chystá.

Vodoznak se navíc nebude týkat pouze odpovědí z běžného chatbota. Objeví se také v textech vytvořených prostřednictvím vývojářského rozhraní Claude Platform, programátorského nástroje Claude Code nebo služby Claude Cowork. Značení proběhne už na úrovni samotného modelu, takže nepomůže ani využití Claude prostřednictvím cloudových služeb Amazonu, Googlu nebo Microsoftu.

Označený text nemusela napsat AI

Pro školy může jít o vítaný nástroj. Učitel nebo univerzita by v budoucnu mohli zjistit, že odevzdaná práce nese značku Claude. Stejnou možnost může využít zaměstnavatel při kontrole úkolu vypracovaného uchazečem nebo materiálu odevzdaného zaměstnancem.

Má to ale poměrně zásadní háček. Nalezený vodoznak nebude důkazem, že Claude napsal celý text. Ukáže pouze to, že jej v určité fázi zpracoval.

Student tak může práci napsat úplně sám a Claude požádat jen o opravu pravopisu nebo uhlazení několika vět. Výsledný text přesto může nést stejnou značku jako odpověď vytvořená umělou inteligencí od začátku do konce. Podobné to bude u překladů, shrnutí nebo přeformátování původně lidského textu.

Škola ani zaměstnavatel by proto neměli nález automaticky považovat za důkaz podvádění. Může být důvodem k dalšímu ověření, například porovnání s předchozími pracemi, kontrole použitých zdrojů nebo rozhovoru s autorem. Sám vodoznak však nedokáže určit, kdo text skutečně napsal a jak velkou úlohu při jeho vzniku sehrála AI.

Bez vodoznaku? Ani to nic nedokazuje

Stejná opatrnost bude nutná také u opačného výsledku. Když detektor žádnou značku nenajde, ještě to neznamená, že text vznikl bez pomoci umělé inteligence.

Vodoznak se může ztratit po důkladnějším přepracování, parafrázování, překladu nebo smíchání odpovědi s jiným textem. U velmi krátkého úryvku navíc nemusí zůstat dostatek informací, podle kterých by jej bylo možné spolehlivě odhalit. A uživatel samozřejmě může sáhnout po jiném modelu, který kompatibilní označení vůbec nepoužívá.

Novinka tak zkomplikuje hlavně bezmyšlenkovité přebírání celých odpovědí. Kdo text výrazně přepíše, může skrytou stopu zeslabit nebo úplně odstranit. Z vodoznaku se proto nestane univerzální detektor umělé inteligence, ale spíše další vodítko při posuzování původu textu.

Zpočátku navíc nebude označená každá odpověď Claude. Značení se týká nových modelů uvedených v Evropské unii od 2. srpna 2026. Anthropic jej chce postupně doplnit také do starších modelů, pro které platí přechodné období (viz support.claude.com).

Za změnou stojí Evropská unie

Anthropic nezavádí vodoznaky pouze z vlastní iniciativy. Reaguje jimi na evropské nařízení o umělé inteligenci, jehož nové požadavky na transparentnost začaly platit 2. srpna 2026. Poskytovatelé generativních systémů mají zajistit, aby jejich výstupy bylo možné strojově rozpoznat jako uměle vytvořené nebo upravené.

Evropský kodex popisující praktické splnění těchto pravidel je sice dobrovolný, samotné zákonné povinnosti nikoliv. Firmy, které se ke kodexu nepřipojí, musejí prokázat splnění požadavků jiným odpovídajícím způsobem (viz digital-strategy.ec.europa.eu).

Pravidla také rozlišují mezi skrytým strojově čitelným označením a viditelným upozorněním pro čtenáře. U textů týkajících se veřejného zájmu může hrát roli lidská kontrola a redakční odpovědnost. Použití AI proto automaticky neznamená, že každý článek musí být označen jako kompletně vytvořený umělou inteligencí.

Google už podobnou značku používá

Claude není první službou, která chce po sobě v textech nechávat skrytou stopu. Google už používá technologii SynthID, která dokáže neviditelně označovat obrázky, zvuk, video i text vytvořený jeho nástroji.

V případě textu SynthID ovlivňuje pravděpodobnosti jednotlivých slov, ze kterých model při sestavování odpovědi vybírá. Tím vzniká vzorec, který člověk při čtení nepozná, specializovaný systém jej ale může vyhledat. Podle Googlu nemá tato úprava vliv na kvalitu výsledného textu (viz deepmind.google).

Zda Claude využije úplně stejný princip, zatím nevíme. Anthropic pouze uvádí, že vodoznak vloží přímo do textu, a podrobnosti chce zveřejnit později. U obrázků a dalších podporovaných souborů ve formátech PNG, JPG nebo SVG použije digitálně podepsaná metadata podle otevřeného standardu C2PA.

Školy, firmy i vydavatelé tak dostanou do rukou další možnost, jak odhalit zatajené použití umělé inteligence. Jasný důkaz jim ale vodoznak nevynese. Dokáže upozornit, že text prošel konkrétním systémem AI, nikoliv spolehlivě rozhodnout, kdo jej napsal a zda při tom porušil nějaká pravidla.

deepmind.google, digital-strategy.ec.europa.eu