Stephen Hawking varoval pred svojou smrťou ľudstvo pred hrozbou, ktorá je stále aktuálnejšia

Hawking často premýšľal nad osudom ľudstva a v tejto súvislosti sa tiež zaoberal umelou inteligenciou, ktorú rozhodne nevnímal optimisticky.

Už v roku 2014 varoval v rozhovore pre BBC, že vývoj autonómnej umelej inteligencie by sa mohol skončiť katastrofou. „Vývoj plnohodnotnej AI by mohol znamenať koniec ľudskej rasy,“ povedal so svojou typickou vecnosťou. Hawking vysvetlil, že skutočným rizikom nie je zlá, vedome nepriateľská AI, ale to, že by jednoducho prerástla svojho stvoriteľa.

Umelá inteligencia by sa podľa neho mohla naučiť vyvíjať sama, upravovať vlastný kód a zlepšovať sa tempom, aké by človek nikdy nedokázal dobehnúť. „Vzala by vývoj do vlastných rúk a sama by sa preprogramovala rýchlosťou, ktorá by stále rástla. Ľudia, ktorí sú obmedzení pomalým biologickým vývojom, by nemohli súťažiť a boli by nahradení,“ uviedol podľa portálu Indy100.

Hawkingovo varovanie však nebolo jednorazové. V roku 2015 bol jedným zo stovky odborníkov, ktorí podpísali otvorený list adresovaný OSN, v ktorom upozornili na nebezpečenstvo neregulovaného rozvoja umelej inteligencie, najmä v oblasti autonómnych zbraní. V roku 2017, teda rok pred svojou smrťou, hovoril ešte otvorenejšie: „Obávam sa, že AI môže úplne nahradiť ľudí,“ uviedol v rozhovore pre magazín Wired.

Po jeho smrti vyšla kniha Krátke odpovede na veľké otázky, v ktorej sa k téme umelej inteligencie vrátil ešte raz. Písal o tom, že ľudstvo môže čeliť tzv. explózii inteligencie. Stroje by podľa neho mohli byť čoskoro inteligentnejšie ako my, a to oveľa výraznejšie, než sme my inteligentnejší ako slimáky. Zároveň varoval pred podceňovaním tejto hrozby. „Je lákavé odmietnuť predstavu vysoko inteligentných strojov ako číru sci-fi, ale bola by to chyba a možno naša najväčšia chyba vôbec,“ napísal.

Hawking vždy zdôrazňoval, že technológie samy o sebe nie sú dobré ani zlé, ale záleží na tom, ako ich používame. Umelá inteligencia podľa neho prináša obrovský potenciál a mohla by vyriešiť mnohé problémy, ktoré trápia svet, od chorôb až po klimatickú krízu. No zároveň v sebe nesie riziko, ktoré nemožno ignorovať. Ak sa jej vývoj vymkne spod kontroly a nebude mať jasné pravidlá a dohľad, môže sa obrátiť proti nám.