Text napísaný pomocou ChatGPT vyzerá ako každý iný. Neobsahuje žiadny zvláštny symbol ani skrytý znak, ktorý by na prvý pohľad prezradil jeho pôvod. Čoskoro by však softvér mohol dokázať určiť, či ho vytvoril človek alebo umelá inteligencia.
Spoločnosť OpenAI oznámila, že začne neviditeľne označovať texty vytvorené pomocou ChatGPT a programátorského nástroja Codex. Novinka sa má v nasledujúcich týždňoch postupne zavádzať pre všetkých používateľov v Európskej únii.
Ako funguje neviditeľný vodoznak?
Chatboty, ako je ChatGPT, fungujú na základe veľkých jazykových modelov (LLM). Tie sa trénujú na obrovskom množstve textov a učia sa predpovedať, ktoré slovo s najväčšou pravdepodobnosťou nasleduje po predchádzajúcom. Odpovede preto vytvárajú postupne, slovo za slovom. V mnohých prípadoch pritom existuje viacero podobne pravdepodobných možností.
Predstavme si napríklad vetu: „Vlak meškal viac ako 20 minút a cestujúci boli…“ Slová „nahnevaní“ a „podráždení“ môžu byť rovnako pravdepodobné, zatiaľ čo výraz „nadšení“ by sa v tomto kontexte očakával menej. Za bežných okolností model medzi podobnými možnosťami vyberá do istej miery náhodne.
Nový neviditeľný vodoznak od OpenAI tento výber čiastočne usmerní. O tom, ktoré slová budú uprednostňované a na ktorých miestach, rozhodne tajný kľúč. Jedno konkrétne slovo pritom nemusí nič prezrádzať. V texte s niekoľkými stovkami slov sa však môžu zvýhodnené možnosti objavovať častejšie, než by sa očakávalo náhodou.
Špecializovaný overovací program potom dokáže tento vzor rozpoznať, musí však mať prístup k príslušnému tajnému kľúču.
Metóda sa nazýva Textgrain a má svoje obmedzenia, na ktoré upozorňuje aj samotná OpenAI. Ak niekto nahradí jedno z desiatich slov synonymom, úspešnosť detekcie klesne z 92 % na 66 %. Pri nahradení každého štvrtého slova sa zníži dokonca pod 20 %. Systém má problémy aj s krátkymi textami, matematickými odpoveďami a prekladmi.
Prečo OpenAI zavádza túto novinku?
OpenAI sa pre tento krok nerozhodla úplne dobrovoľne. Spoločnosť k nemu tlačí Európska únia. Od 2. augusta 2026 platia povinnosti týkajúce sa transparentnosti podľa európskeho nariadenia o umelej inteligencii (AI Act). Poskytovatelia musia označovať obsah vytvorený umelou inteligenciou tak, aby ho dokázali rozpoznať aj iné systémy.
Konkurent Anthropic je už o krok vpred
Spoločnosť Anthropic začiatkom augusta oznámila, že neviditeľný vodoznak zavedie do všetkých svojich modelov Claude. Prvé modely s touto funkciou sú už dostupné a staršie verzie majú nasledovať v nasledujúcich mesiacoch.
Na rozdiel od OpenAI používa Anthropic toto označovanie na celom svete. Dôvod je však rovnaký – požiadavky európskeho nariadenia o umelej inteligencii.
Ani zavedenie vodoznakov však neznamená, že si každý bude môcť jednoducho overiť pôvod ľubovoľného textu. OpenAI zatiaľ sprístupňuje svoj overovací nástroj len vybraným skupinám používateľov. Podľa spoločnosti totiž ešte nie je dostatočne spoľahlivý na všeobecné používanie.
V prípade spoločnosti Anthropic môžu o prístup požiadať úrady, médiá a overovatelia faktov. Bežné online detektory umelej inteligencie však tajné kľúče nemajú. Navyše neexistuje jednotný štandard, ktorý by dokázali používať všetky systémy. Nástroj od OpenAI tak rozpozná iba texty označené systémom OpenAI.
Jednoduché preverenie podozrivo uhladeného e-mailu pomocou jedného univerzálneho nástroja preto zatiaľ nebude možné. A platí aj opačná vec: ak text neobsahuje vodoznak, ešte to neznamená, že ho napísal človek.
Tento článok pochádza z partnerského webu vydavateľstva Ringier.
