Umelá inteligencia sa vymyká z rúk: Lídri výskumu volajú po zásahu vlád, sami nemajú plán ako ju zastaviť

AI začína sama trénovať nové modely, vývojári priznávajú bezmocnosť.Magnific

Lídri v oblasti umelej inteligencie tvrdia, že tzv. „rekurzívne samostatné zlepšovanie“, t.j. fáza, keď by systémy AI mohli navrhovať a trénovať ďalšiu generáciu modelov s minimálnym zásahom človeka, sa blíži.

Bývalý zamestnanec dvoch vedúcich amerických spoločností zaoberajúcich sa vývojom umelej inteligencie, OpenAI a Anthropic, obvinil svojich bývalých zamestnávateľov z toho, že v pretekoch o vývoj modelov schopných samostatného zlepšovania sa zahrávajú s ľudskými životmi.

V najnovšej epizóde relácie Money Check sme sa s finančným expertom Filipom Schlosserom pozreli na to, prečo vám štátny dôchodok nemusí stačiť a ako si vybudovať dôstojnú penziu.

Prečítajte si tiež: Odborník varuje pred 3 chybami pri dôchodku: Robí ich väčšina Slovákov, pritom ich oprava trvá len 5 minút

Hrozba je skutočná

„Ani jedna spoločnosť nekoná zodpovedne. Ženú sa priamo k samostatne sa zlepšujúcej superinteligencii a hazardujú s našimi životmi,“ vyhlásil v utorok dvadsaťsedemročný Jacob Coxon. Superinteligencia je teoretický bod, keď schopnosti AI presiahnu ľudskú inteligenciu.

Coxon, ktorý posledné tri roky strávil predtrénovaním AI modelov – najprv v OpenAI a tento rok v konkurenčnom Anthropicu –, sa preto rozhodol túto oblasť úplne opustiť. „Ľudia, ktorí vyvíjajú AI, úprimne veria, že nás to môže do konca desaťročia všetkých zabiť,“ uviedol na platforme X. „Toto nie je marketingový trik,“ dodal.

Nadľudská AI

Bezpečnostný pracovník spoločnosti Anthropic Evan Hubinger Coxona v príspevku na platforme X podporil. „My naozaj úprimne veríme, že AI môže zabiť všetkých ľudí!“ napísal a riziko odhadol na viac než desať percent v priebehu nasledujúceho desaťročia.

Hubinger uviedol, že Anthropic „robí, čo môže“, no zatiaľ nemá plán, ako zabezpečiť, aby systém „s nadľudskými schopnosťami“ poslúchal svojich tvorcov. Pri súčasných modeloch je však podľa neho toto riziko nízke.

Súvisiace články

Zdieľate o svojich deťoch týchto 5 vecí?

Stačí jedna fotka na zničenie súkromia: Týchto 5 chýb na sociálnych sieťach zneužíva umelá inteligencia

Podvodníci menia hru: Ako vás umelá inteligencia môže pripraviť o peniaze z účtu

Tri profesie, po ktorých dopyt v ére AI výrazne vzrastie.

Čo by mali vaše deti študovať v ére AI: Po týchto 3 profesiách vzrastie v najbližších rokoch dopyt

Lídri v oblasti umelej inteligencie tvrdia, že tzv. „rekurzívne samostatné zlepšovanie“, t.j. fáza, keď by systémy AI mohli navrhovať a trénovať ďalšiu generáciu modelov s minimálnym zásahom človeka, sa blíži.

Vedci volajú po spomalení

Koncom júla viac než 1 000 pracovníkov technologického sektora vrátane generálneho riaditeľa spoločnosti Anthropic požiadalo Washington, aby podporil koordinované spomalenie vývoja najpokročilejších AI systémov.

V nedeľu šéf výskumu v OpenAI Jakub Pachocki vyzval na „extrémnu opatrnosť“. „Medzinárodná koordinácia budúceho vývoja AI sa musí stať najvyššou prioritou vlád na celom svete,“ napísal na blogu.