Bez ohľadu na závažnosť chýb sa im pri dostatočne dlhom používaní ChatGPT nevyhnete. Pochopenie toho, prečo si tieto systémy zamieňajú pravdepodobnosť s pravdou, je kľúčové pre každého, kto s nimi pracuje.
Keďže tieto systémy generujú odpovede predpovedaním nasledujúceho slova na základe vzorcov z tréningových dát (namiesto overovania faktov), môžu znieť mimoriadne presvedčivo aj vtedy, keď si úplne vymýšľajú. Trik spočíva v neustálej ostražitosti a hľadaní skrytých indícií.
1. Pasca prílišnej konkrétnosti
Jednou z najzákernejších vlastností AI halucinácií je, že často obsahujú veľmi špecifické detaily. Vymyslená odpoveď môže uvádzať presné dátumy, mená a iné údaje, ktoré jej dodávajú zdanie autenticity.
Keďže ChatGPT napodobňuje naučené vzorce, dokáže vytvoriť detaily, ktoré štrukturálne zodpovedajú platnej odpovedi, hoci nemajú reálny základ. Môžete sa opýtať na konkrétnu osobu a dostať mix pravdivých údajov s úplne vymysleným príbehom. Práve táto konkrétnosť nás mätie, pretože ľudia majú tendenciu dôverovať detailným vyhláseniam. Ak sa však dátum, článok alebo osoba nespomínajú nikde inde, je to jasný znak halucinácie.
2. Prehnane sebavedomý tón
S pascou konkrétnosti súvisí aj autoritatívny tón. Modely sú navrhnuté tak, aby zneli plynulo a sebaisto. Práve toto sebavedomie spôsobuje, že dezinformácie pôsobia dôveryhodne, aj keď sú nepodložené. AI je optimalizovaná na predpovedanie pravdepodobných slovných spojení, takže aj pri neistých témach píše s rovnakou istotou ako pri overených faktoch.
Na rozdiel od ľudského experta, ktorý povie „nie som si istý“, AI modely priznávajú nevedomosť len zriedka. Uprednostňujú totiž dojem úplnosti pred úprimnosťou. Ak ChatGPT odpovedá kategoricky na témy, ktoré sú v odborných kruhoch predmetom sporov (napr. v medicíne alebo vede), jeho sebaistota môže signalizovať, že medzeru v znalostiach vyplnil výmyslom.
3. „Duchovia“ v citáciách
Citácie a referencie sú skvelým spôsobom overovania faktov. Umelá inteligencia však niekedy poskytne odkazy na zdroje, ktoré v skutočnosti neexistujú. Tento problém je obzvlášť vážny v akademickom či profesionálnom prostredí. Študent môže vypracovať rešerš literatúry s perfektne naformátovanými citáciami, no neskôr zistí, že dané práce neexistujú.
Vždy si overte, či sa citovaný autor alebo časopis nachádza v renomovaných databázach. Ak názov znie uveriteľne, ale vyhľadávanie nič nevráti, ide o „fantomovú citáciu“ vytvorenú len na zvýšenie autority odpovede.
4. Protirečenia v rámci konverzácie
Ak ChatGPT popiera sám seba, niečo nie je v poriadku. Keďže generatívna AI nemá zabudovanú databázu na kontrolu konzistencie, pri doplňujúcich otázkach sa môže zapliesť do vlastných tvrdení. Ak sa nová odpoveď líši od tej predchádzajúcej tak, že sa nedajú zosúladiť, pravdepodobne ide o halucináciu. Ak model neudrží logickú líniu v rámci jedného chatu, jeho pôvodné tvrdenia zrejme neboli založené na faktoch.
5. Logika odporujúca realite
Niekedy logika AI jednoducho nedáva zmysel v reálnom svete. ChatGPT predpovedá reťazce slov namiesto aplikovania skutočnej logiky, takže veta, ktorá znie gramaticky správne, môže byť v praxi nezmyslom.
Často to začína falošnými predpokladmi. AI môže napríklad navrhnúť pridanie neexistujúcich krokov do vedeckého protokolu alebo porušiť zdravý rozum – ako v známom prípade modelu Gemini, ktorý odporučil pridať lepidlo do omáčky na pizzu, aby syr lepšie držal.
Halucinácie sú vedľajším produktom spôsobu, akým je umelá inteligencia trénovaná. Budú existovať dovtedy, kým sa AI bude spoliehať na predpovedanie slov. Rozpoznávanie týchto chýb sa stáva kľúčovou zručnosťou digitálnej gramotnosti. Najlepšou obranou nie je slepá dôvera, ale kritické myslenie a preverovanie informácií.
Tento článok pochádza z partnerského webu vydavateľstva Ringier.
