Text vytvořený pomocí ChatGPT bude v Evropské unii nově obsahovat neviditelný digitální vodoznak. OpenAI tím reaguje na požadavky evropského nařízení AI Act, podle kterého musí být obsah vytvořený generativní umělou inteligencí za určitých podmínek strojově rozpoznatelný. Technologie má ale stále několik výrazných omezení.
OpenAI reaguje na nová pravidla Evropské unie
OpenAI oznámilo, že během následujících týdnů začne do vybraných textových výstupů ChatGPT a nástroje Codex v Evropské unii přidávat neviditelný vodoznak. Změna se má týkat způsobilých uživatelů napříč všemi tarify. Mimo Evropskou unii zatím společnost plošné zavedení neplánuje.
Výjimkou jsou zákazníci používající API OpenAI. Ti mohou funkci aktivovat dobrovolně prakticky kdekoliv na světě, přičemž ve výchozím nastavení zůstane vypnutá. OpenAI tak zatím volí postupné nasazování namísto zavedení technologie pro všechny uživatele globálně.
Důvodem jsou především pravidla evropského AI Actu. Transparentní povinnosti podle článku 50 se začaly uplatňovat 2. srpna 2026 a požadují mimo jiné, aby poskytovatelé generativních systémů zajistili strojovou rozpoznatelnost uměle vytvořeného nebo upraveného obsahu, pokud je to technicky proveditelné. Evropská komise současně připravila dobrovolný kodex, který firmám ukazuje, jak tyto povinnosti prakticky plnit.
Pravidla se netýkají pouze OpenAI. Evropský rámec počítá s označováním textu, obrazu, zvuku i videa vytvořeného nebo upraveného pomocí umělé inteligence. U některých textů zveřejněných ve veřejném zájmu přitom existují výjimky například tehdy, pokud obsah prošel lidskou kontrolou a podléhá redakční odpovědnosti.
Vodoznak nebude vidět a úpravami jej lze oslabit
Technologie OpenAI dostala název textGrain. Nejde o skryté znaky, mezery nebo symboly vložené do výsledného textu. Systém místo toho mírně upravuje způsob, jakým model při generování vybírá mezi několika možnými dalšími slovy či částmi slov.
V delším textu se tak postupně vytváří statistický vzorec, který běžný čtenář nepozná, ale speciální detektor jej může vyhodnotit. Výhodou je, že se informace o původu textu neztratí například prostým zkopírováním článku do jiného dokumentu nebo na web. OpenAI plánuje technologii později rovněž zpřístupnit jako open source.
Společnost zároveň upozorňuje, že nejde o spolehlivý nástroj pro jednoznačné určování autorství. U 200 tokenů dlouhých textů z oblasti psychologie dokázal detektor při nastavené jednoprocentní míře falešných pozitivních výsledků odhalit vodoznak přibližně v 80 % případů. U textů dlouhých 400 tokenů se úspěšnost zvýšila přibližně na 95 %. U matematiky nebo jiných témat, kde má model menší volnost při volbě slov, byly výsledky výrazně slabší.
Ještě větší problém představují následné úpravy. V jednom z testů OpenAI vedlo nahrazení 10 % slov synonymy k poklesu úspěšnosti detekce z přibližně 92 % na 66 %. Při nahrazení čtvrtiny slov klesla až na 17 %. Překlady, krátké odpovědi nebo výrazně přepracované texty tak mohou být pro systém podstatně obtížnější.
Také proto nebude detektor alespoň zpočátku veřejně dostupný každému. OpenAI chce přístup poskytovat schváleným výzkumníkům a odborným organizacím, které mají technologii dále testovat. Detektor má pouze určit, zda text obsahuje signál OpenAI. Nemá odhalovat konkrétního uživatele, účet, původní prompt ani konverzaci.
jak tajně? když je to dle nařízení EU? a proč ChatGPT, všichni po 02/2027 tu povinnost mají