ringier

Ringier Media

Text napísaný pomocou ChatGPT vyzerá ako každý iný. Neobsahuje žiadny zvláštny symbol ani skrytý znak, ktorý by na prvý pohľad prezradil jeho pôvod. Čoskoro by však softvér mohol dokázať určiť, či ho vytvoril človek alebo umelá inteligencia.

Spoločnosť OpenAI oznámila, že začne neviditeľne označovať texty vytvorené pomocou ChatGPT a programátorského nástroja Codex. Novinka sa má v nasledujúcich týždňoch postupne zavádzať pre všetkých používateľov v Európskej únii.

Azet magazin

Chatboty, ako je ChatGPT, fungujú na základe veľkých jazykových modelov (LLM). Tie sa trénujú na obrovskom množstve textov a učia sa predpovedať, ktoré slovo s najväčšou pravdepodobnosťou nasleduje po predchádzajúcom. Odpovede preto vytvárajú postupne, slovo za slovom. V mnohých prípadoch pritom existuje viacero podobne pravdepodobných možností.

Predstavme si napríklad vetu: „Vlak meškal viac ako 20 minút a cestujúci boli…“ Slová „nahnevaní“ a „podráždení“ môžu byť rovnako pravdepodobné, zatiaľ čo výraz „nadšení“ by sa v tomto kontexte očakával menej. Za bežných okolností model medzi podobnými možnosťami vyberá do istej miery náhodne.

Nový neviditeľný vodoznak od OpenAI tento výber čiastočne usmerní. O tom, ktoré slová budú uprednostňované a na ktorých miestach, rozhodne tajný kľúč. Jedno konkrétne slovo pritom nemusí nič prezrádzať. V texte s niekoľkými stovkami slov sa však môžu zvýhodnené možnosti objavovať častejšie, než by sa očakávalo náhodou.

Špecializovaný overovací program potom dokáže tento vzor rozpoznať, musí však mať prístup k príslušnému tajnému kľúču.

Metóda sa nazýva Textgrain a má svoje obmedzenia, na ktoré upozorňuje aj samotná OpenAI. Ak niekto nahradí jedno z desiatich slov synonymom, úspešnosť detekcie klesne z 92 % na 66 %. Pri nahradení každého štvrtého slova sa zníži dokonca pod 20 %. Systém má problémy aj s krátkymi textami, matematickými odpoveďami a prekladmi.

OpenAI sa pre tento krok nerozhodla úplne dobrovoľne. Spoločnosť k nemu tlačí Európska únia. Od 2. augusta 2026 platia povinnosti týkajúce sa transparentnosti podľa európskeho nariadenia o umelej inteligencii (AI Act). Poskytovatelia musia označovať obsah vytvorený umelou inteligenciou tak, aby ho dokázali rozpoznať aj iné systémy.

OpenAI vyvíjaja vlastné systémy na identifikáciu textov generovaných umelou inteligenciou.

Spoločnosť Anthropic začiatkom augusta oznámila, že neviditeľný vodoznak zavedie do všetkých svojich modelov Claude. Prvé modely s touto funkciou sú už dostupné a staršie verzie majú nasledovať v nasledujúcich mesiacoch.

Na rozdiel od OpenAI používa Anthropic toto označovanie na celom svete. Dôvod je však rovnaký – požiadavky európskeho nariadenia o umelej inteligencii.

Ani zavedenie vodoznakov však neznamená, že si každý bude môcť jednoducho overiť pôvod ľubovoľného textu. OpenAI zatiaľ sprístupňuje svoj overovací nástroj len vybraným skupinám používateľov. Podľa spoločnosti totiž ešte nie je dostatočne spoľahlivý na všeobecné používanie.

V prípade spoločnosti Anthropic môžu o prístup požiadať úrady, médiá a overovatelia faktov. Bežné online detektory umelej inteligencie však tajné kľúče nemajú. Navyše neexistuje jednotný štandard, ktorý by dokázali používať všetky systémy. Nástroj od OpenAI tak rozpozná iba texty označené systémom OpenAI.

Jednoduché preverenie podozrivo uhladeného e-mailu pomocou jedného univerzálneho nástroja preto zatiaľ nebude možné. A platí aj opačná vec: ak text neobsahuje vodoznak, ešte to neznamená, že ho napísal človek.

Tento článok pochádza z partnerského webu vydavateľstva Ringier.

Evergreen (OneSignal)

Proteus

Unsplash

ChatGPT začne v Európskej únii označovať texty neviditeľným vodoznakom, ktorý má pomôcť rozpoznať obsah vytvorený umelou inteligenciou.

umelá inteligencia

chat GPT

generatívna umelá inteligencia

texty

Text vytvorený umelou inteligenciou môže na prvý pohľad vyzerať rovnako ako ten od človeka. OpenAI preto zavádza systém, ktorý do generovaných textov ukryje merateľný vzor. Má však svoje limity a bežní používatelia si jeho prítomnosť zatiaľ nebudú môcť jednoducho overiť.

OpenAI mení pravidlá hry: ChatGPT začne označovať texty neviditeľným vodoznakom

Zázvor pred použitím nemusíte vždy šúpať. Ak je čerstvý a má jemnú hladkú šupku, často ho stačí dôkladne umyť.

Šúpete zázvor pred každým použitím? Vo väčšine prípadov to nemusíte robiť

Polícia si posvietila na taxikárov po celom Slovensku.

Polícia si posvietila na taxikárov po celom Slovensku. Už odhalila desiatky porušení

Myslíte si, že sa o svoje zuby staráte správne?

KVÍZ: Umývate si zuby ihneď po jedení? Týchto 10 otázok odhalí, či si nevedomky neničíte sklovinu

Predaj elektromobilov v EÚ trhá rekordy, pomáha im aj nová hrozba pre klasické palivá.

Elektromobily v EÚ lámu rekordy. Predaj za osem mesiacov vzrástol o 45 percent

Pohľad do temnej hlbokej šachty pripomína extrémne podmienky, ktorým čelili vedci pri pokuse preniknúť čo najhlbšie do zemskej kôry. Kolský superhlboký vrt dosiahol rekordnú hĺbku 12 262 metrov. (Ilustračný obrázok)

Sovieti sa prevŕtali 12 kilometrov do Zeme. Potom narazili na niečo, s čím nepočítali

Pravidelné čistenie a správna starostlivosť môžu bielym teniskám výrazne predĺžiť životnosť.

Ako udržať biele tenisky žiarivo čisté? Zabudnite na pranie v práčke, pomôžu vám tieto domáce triky

Chrumkavé rakúske Pofesen plnené slivkovým lekvárom sa podávajú ešte teplé. Na povrchu sú zlatisté a chrumkavé, zatiaľ čo vo vnútri zostáva sladká ovocná náplň.

Kedysi sme jedli chlieb vo vajíčku. Teraz sú hitom rakúske hrianky so sladkým prekvapením

Tuk a zvyšky jedla sa postupne usádzajú na stenách potrubia a znižujú jeho priechodnosť. Varovným signálom býva pomaly odtekajúca voda alebo nepríjemný zápach z  drezu.

Nalejte to do odtoku. Nič tak účinne „nevyžerie“ hnijúce zvyšky

Genetický kľúč k rozumu.

Máte vysoké IQ po otcovi či mame? Psychologička prezradila pravdu o našich génoch

Rádioteleskop FAST v čínskej provincii Kuej-čou patrí medzi najcitlivejšie nástroje na hľadanie rádiových signálov z vesmíru. Vedci ho využili aj pri pátraní po možných technosignatúrach v 33 planetárnych systémoch. (Ilustračný obrázok)

Hľadali signály mimozemských civilizácií pri 33 hviezdach. Pri jednej zachytili niečo nezvyčajné

Čerstvé jablká patria medzi najdostupnejšie druhy ovocia. Ich pravidelná konzumácia môže byť súčasťou jedálnička priaznivého pre zdravie srdca a metabolizmu.