Autor je šéfredaktor českého denníka Právo
Nová kniha Yuvala Noaha Harariho Nexus sa zaoberá umelou inteligenciou, ale nielen ňou. Izraelský historik, znalec vojenských dejín, píše všeobecnejšie o informačných sieťach od kamennej doby po AI, ako napovedá podtitul knihy.
A tak sa dá Nexus čítať aj ako originálny pohľad na niektoré dnešné vojnové konflikty.
Hlavný problém vo vzťahu ľudí a umelej inteligencie je totiž podobný vzťahu politického zadania pre vojnové ťaženie za Napoleona i dnes na Blízkom východe alebo na Ukrajine. V oboch prípadoch ide o „zosúladenie“.
Harari píše o „zosúladení počítačov s ľudskými cieľmi... Keď počítače dostanú konkrétny cieľ, zapoja všetok svoj výkon a vynaliezavosť. Keďže však fungujú úplne inak než ľudia, je pravdepodobné, že využijú metódy, ktoré ich ľudskí vládcovia nedohliadli. To môže viesť k nepredvídateľným a nebezpečným situáciám.“
(Ne)zosúladenie
Kým sa dostaneme k vojnám, pripomeňme iný text, v ktorom profesor z Oxfordu Toby Ord skúmal detailne jednotlivé hrozby pre ľudstvo a zostavil ich rebríček.
V knihe Nad priepasťou z roku 2020 dospel k záveru, že pravdepodobnosť jadrovej vojny a zániku ľudstva v priebehu nasledujúcich sto rokov je asi jedna k tisíc. Rovnaké riziko mu vyšlo pri zmene klímy, pri umelo vyvolanej pandémii už 1:30.
Za najväčšiu hrozbu pre ľudstvo potom označil umelú inteligenciu nezosúladenú s ľudskými hodnotami – 1:10.
„Prechod do sveta, v ktorom už ľudia nebudú najinteligentnejšími entitami, by bol zrejme najväčšou zmenou v histórii,“ píše Ord. A skôr než reguláciu odporúča zosúlaďovanie hodnôt a cieľov umelej inteligencie s tými ľudskými. To sa ľahko napíše, ale veľmi ťažko uskutoční, ako dokazujú aktuálne myšlienkové experimenty aj príklady z histórie.
Problém so zosúladením cieľov totiž vôbec nie je nový, upozorňuje Harari a pripomína pruského generála Carla von Clausewitza. Ten bojoval proti Napoleonovi v bitke pri Waterloo a po jeho porážke v roku 1815 sa venoval teórii vojny.
Známa je Clausewitzova veta, že vojna je pokračovaním politiky inými prostriedkami. A je to myslené predovšetkým tak, že vojna nie je vojenská záležitosť, ale politický nástroj.
Politika musí dávať vojakom správne zadania, „vojenské akcie sú úplne iracionálne, ak neprebiehajú v súlade s nejakým nadradeným politickým cieľom,“ interpretuje dodnes uznávaného vojenského teoretika Harari.
Teda – keď sa nepodarí zosúladenie, je na obzore veľký malér, napríklad Napoleon. „Nikto nespochybňuje vojenského génia tohto francúzskeho vojvodcu, ktorý bol majstrom taktiky i stratégie,“ píše Harari, ktorý vyštudoval históriu na Oxfordskej univerzite a prednáša na Hebrejskej univerzite v Jeruzaleme (narodil sa v Haife).
