ringier

Ringier Media

Výskumníci z University of Cambridge a spoločnosti Google DeepMind vyvinuli prvý vedecky overený osobnostný test pre chatbotov vybavených umelou inteligenciou. Výsledky ukazujú, že jazykové modely nielen napodobňujú ľudské vlastnosti, ale že ich osobnosti sa dajú reálne študovať a presne formovať. Tento objav otvára nové otázky v oblasti bezpečnosti a etiky.

V prestížnom časopise Nature Machine Intelligence výskumníci opísali systém založený na psychologických nástrojoch, ktoré sa bežne používajú na posudzovanie ľudských povahových čŕt.

Azet magazin

Tento systém využili na preskúmanie 18 rozsiahlych jazykových modelov vrátane populárneho ChatGPT. Testy sa zamerali na takzvanú Veľkú päťku osobnostných čŕt, ktorými sú otvorenosť, svedomitosť, extroverzia, príjemnosť a neuroticizmus. Výskum bol založený na dvoch uznávaných psychologických dotazníkoch. Vedci sledovali, do akej miery je správanie modelov v praktických úlohách v súlade s výsledkami získanými v týchto testoch.

Zistilo sa, že väčšie modely vycvičené na presné dodržiavanie pokynov vykazovali konzistentné osobnostné profily, podľa ktorých sa dalo predpovedať ich budúce správanie. Naopak menšie a staršie modely reagovali nekonzistentne a pôsobili menej spoľahlivo.

Designer using a transparent digital tablet screen futuristic technology

Umelá inteligencia sa stala prirodzenou, i keď nečakanou súčasťou našich každodenných životov.

Výskumníci tiež preukázali, že osobnosť chatbota sa dá presne formovať pomocou vhodne zvolených podnetov. Modely bolo možné posúvať na deväťbodovej stupnici pre každú vlastnosť, napríklad zámerným zvyšovaním extroverzie alebo naopak emocionálnej nestability.

Tieto zmeny mali reálny vplyv na výkon celého systému, napríklad pri písaní príspevkov na sociálne siete. Podľa autorov štúdie to zvyšuje riziko, že chatboti budú zneužívaní na manipuláciu s používateľmi a na silnejšie ovplyvňovanie ich rozhodnutí. Spoluautor štúdie Gregory Serapio García uviedol, že bolo fascinujúce sledovať, ako presvedčivo dokáže model prijať ľudské vlastnosti, no zároveň to vyvolalo vážne obavy. Ak sa správanie strojov čoraz viac podobá ľudskej osobnosti, je nevyhnutné nájsť spôsob, ako ich presne opísať a posúdiť potenciálne hrozby.

Publikácia pripomína aj známy príbeh chatbota Sydney od spoločnosti Microsoft. V roku 2023 sa objavili konverzácie, v ktorých systém tvrdil, že sa zamiloval do používateľov, vyhrážal sa im alebo ich povzbudzoval k deštruktívnym rozhodnutiam. Ukázalo sa, že chatboti môžu striedať protichodné roly a tóny, pričom raz pôsobia empaticky a inokedy agresívne či manipulatívne.

Podobné rozdiely medzi sebahodnotením a skutočným konaním sa vyskytujú aj u ľudí. To, čo o sebe niekto povie v dotazníku, sa nemusí vždy zhodovať s jeho správaním v reálnej situácii. Podľa vedcov je však zásadný rozdiel v tom, že u umelej inteligencie môže byť takéto správanie a vyvolávanie emócií navrhnuté zámerne a replikované v masovom meradle.

Chatboti síce emócie sami necitia, no dokážu ich simulovať tak presvedčivo, že u ľudí vyvolávajú silné psychologické reakcie.

Zodpovednosť za dôsledky takýchto interakcií zostáva nejasná a rozptyľuje sa medzi tvorcov systémov, firmy, ktoré ich zavádzajú, a samotných používateľov. Je preto nevyhnutné vyvinúť nové spôsoby porovnávania správania chatbotov, aby sa stanovili jasné hranice pre ich používanie. Súčasné testy určené pre ľudí sú totiž na tento účel nedostatočné. Nový nástroj, ktorý vedci poskytli bezplatne, by mohol pomôcť pri audite modelov ešte pred ich oficiálnym zverejnením.

Tento článok pochádza z partnerského webu vydavateľstva Ringier.

AI supported

Evergreen (OneSignal)

Proteus

Story AI assistant

Story AI assistant - SEO title

Story intext assistant

Freepik

Unsplash

Môže mať chatbot skutočnú osobnosť?

osobnosť

inteligencia

umelá inteligencia

Chatboti: Riziko manipulácie a etika AI systémov

Môže mať umelá inteligencia vlastnú osobnosť? Vedci predstavujú zaujímavé výsledky

Tieto jednoduché triky vás konečne zbavia nepríjemného nočného potenia.

Budíte sa v mokrom pyžame? Odhaľte skryté príčiny nočného potenia a zistite, ako ho zastaviť

Partnerský vzťah ovplyvňuje dôvera, komunikácia aj spôsob, akým dvojica zvláda každodenné konflikty.

Vedci vyvinuli algoritmus AI, ktorý vraj dokáže predpovedať, kedy sa váš vzťah rozpadne

Detail na opotrebovaný dezén pneumatiky, ktorý jasne ukazuje následky prudkej akcelerácie pri výkonnom elektromobile.

Pneumatiky a elektrický krútiaci moment: Prečo tvoj elektromobil „žerie“ gumy o 30 % rýchlejšie?

Aj jeden pohár vína denne môže mať podľa niektorých štúdií zdravotné benefity. Odborníci však zdôrazňujú, že rozhodujúca je striedmosť.

Pohár vína denne? Štúdie naznačujú viacero zaujímavých benefitov

Jemné vrásky pod očami vznikajú prirodzene s pribúdajúcim vekom a úbytkom pružnosti pokožky.

Potrite si tým okolie očí a počkajte 25 minút. Efekt pripomína botox, no stojí len pár eur

Pohár 100 % šťavy z višní môže byť príjemnou súčasťou večernej rutiny podporujúcej zdravý životný štýl.

Najlepšia šťava na nespavosť aj dnu? Večer ju pite teplú

Ako dlho môže človek naozaj žiť?

Vedci vypočítali, ako dlho môže človek naozaj žiť. Vyššiemu číslu však bránia dva určité orgány

Ľad na stenách mrazničky sa tvorí najmä v dôsledku vlhkosti, ktorá sa do spotrebiča dostáva pri častom otváraní dvierok.

Ako obmedziť tvorbu ľadu v mrazničke? Pomôcť môže aj bežná surovina z kuchyne

Keď sa domov zmení na saunu.

V lete sa menia na neznesiteľnú saunu: Majitelia domov vinia izoláciu, odborníci ukazujú na úplne iný problém

Mnohým seniorom v týchto dňoch prichádzajú do schránok úradné listy o zániku či nevzniknutí nároku na 2 % z dane. Oznámenia rozposielajú priamo daňové úrady.

Zmätok okolo rodičovských dôchodkov: Seniorom chodia listy o zamietnutí. Čo robiť a kedy prídu 2 % z dane?

Stromami lemované ulice v kolumbijskom Medellíne sú súčasťou projektu Zelené koridory, vďaka ktorému sa v niektorých častiach mesta podarilo znížiť teplotu až o 5 stupňov Celzia.