Čoskoro nebudeme vedieť riadiť autá. Umelá inteligencia nás zmení

Autor je odborník na umelú inteligenciu z Ústavu robotiky a kybernetiky, Fakulty elektrotechniky a informatiky STU v Bratislave.

Stroje ľudia pôvodne začali vymýšľať a vyrábať, aby im uľahčovali ťažkú prácu. Dnes už stroje postupne nadobúdajú aj iné schopnosti a inteligenciu človeka a budú ho postupne nahrádzať vo väčšine činností. Postupne dokážu bez problémov nahradiť úradníka, predavača, prekladateľa a pomaly a iste aj lekára, sudcu, programátora, novinára alebo aj vedca, ktorý vyvíja nové lieky, nové materiály alebo umelú inteligenciu.

Je pravdepodobné, že inteligentné stroje nám v budúcnosti pomôžu riešiť veľké civilizačné výzvy ako sú klimatické zmeny, získavanie energie, zdravotníctvo, problém starnutia populácie či predlžovanie života.

To, že nás stroje nahradia, nie vždy radi akceptujeme. Bude to ale ekonomická nevyhnutnosť, aby sme boli konkurencieschopní. Stroje prinášajú vyššiu produktivitu, vyššiu spoľahlivosť, nebývajú choré, ak sa dobre udržiavajú, nesťažujú sa a neúnavne a presne vykonávajú to, čo sa od nich požaduje.

Okrem toho nás, čoraz viac, prekonávajú svojim výpočtovým výkonom, kapacitou pamäte, rýchlosťou a objemom spracovania dát, schopnosťou získať informácie a znalosti. Tak, ako v minulosti človek prestal konkurovať strojom v ťažkej manuálnej práci, neskôr aj v precíznej práci, dnes im prestáva konkurovať vo vysoko kvalifikovanej intelektuálnej a tvorivej práci.

Strojom delegujeme čoraz viac kompetencií. Ak to neurobíme, urobí to náš obchodný konkurent, technologický konkurent, ale čo je horšie, aj geopolitický alebo vojenský protivník. A my sa dostaneme do nevýhody, ba až do ohrozenia.

Stroj nemá vlastné ciele

Obmedzovať alebo regulovať vývoj a implementáciu technológií a umelej inteligencie je teda problematické. A ak sa už rozhodneme delegovať isté ľudské kompetencie inteligentným strojom, musíme mať na pamäti dôležitý fakt: stroj nie je človek. Stroj, aspoň zatiaľ, je nevedomé zariadenie, ktorého správanie a aktuálne rozhodovanie určuje prísne racionálna strojová logika, ktorá sa riadi človekom vytvorenými pravidlami a algoritmami.

Stroj má iný rebríček hodnôt (ak o niečom takom pri stroji vôbec môžeme hovoriť) než človek. Nemôžeme od neho očakávať ohľaduplnosť, zodpovednosť, empatiu alebo nebodaj priateľstvo či lásku. Stroj (zatiaľ) nemá vlastné vedomie a z toho vyplývajúce vlastné ciele.

Vykonáva to, čo určuje jeho program a disponibilné dáta, nech je akokoľvek zložitý, schopný sa učiť, adaptovať na prostredie a zdokonaľovať sa. Nerozumie tomu, čo robí a prečo to človek od neho chce. Iba to „ako stroj“ vykonáva.

Jeho výpočtový výkon a strojová inteligencia pritom môžu byť aj vyššie, než majú jeho ľudskí tvorcovia. Inteligencia je, zjednodušene povedané, schopnosť riešiť problémy.

Ak dáme stroju za úlohu riešiť problém alebo mu delegujeme isté kompetencie, bude to robiť najlepšie ako vie, spravidla lepšie a spoľahlivejšie, než to robí človek. V tomto duchu môže stroj zohrať pozitívnu rolu v rôznych pozíciách, kde doteraz vykonával rozhodnutia človek.

Na úrovni manažmentu firmy, v štátnej správe alebo v justícii. A môže to vykonávať, narozdiel od človeka, bez presadzovania vlastných záujmov. Ale bez toho, aby rozumel, prečo to robí. Na druhej strane sa ale ani nebude pýtať, či je pridelená úloha zmysluplná, etická alebo zodpovedná. Bude ju vykonávať maximálne presne a neúnavne.

Mozog budeme používať menej

Z toho, čo sme povedali doteraz, sa dá tušiť, že popri mnohých prínosoch a pozitívach tu môžu vzniknúť aj isté otázky, nové výzvy, ale aj riziká, ktoré nám inteligentné stroje môžu prinášať. Tieto riziká je možné kategorizovať do niekoľkých skupín.

Prvý typ sa týka dlhodobého vplyvu umelej inteligencie na ľudskú (prirodzenú) inteligenciu. Prirodzená inteligencia sa vyvíjala v priebehu evolúcie človeka s tým, ako on bol nútený riešiť čoraz zložitejšie problémy (lov, poľnohospodárstvo, chov, stavba príbytkov, obrana, priemysel, moderná spoločnosť).

Dnešné technológie a umelá inteligencia ale začínajú riešenie problémov čoraz viac prenášať na stroje. A to na úrovni, ktorá zodpovedá čoraz vyššej kvalifikácii ľudských profesií. Na čokoľvek sa dnes môžeme opýtať chatbota. Alebo ho požiadame, aby za nás niečo napísal.

To znamená, že človek nemusí už toľko používať svoj mozog, ako pred niekoľkými rokmi alebo desiatkami rokov. Tento trend určite bude pokračovať a zrýchľovať sa.

Čoskoro ani nebudeme vedieť riadiť auto, nebudeme sa vedieť orientovať v priestore bez navigácie, riešiť jednoduché matematické úlohy alebo napísať niečo, čo má hlavu a pätu. To budú prejavy postupnej degradácie ľudskej inteligencie.

Aspoň pokiaľ sa tomu zodpovedné ľudské spoločenstvá nezačnú brániť a nezačnú svoje mozgy aspoň v nevyhnutnej miere trénovať a pripravovať na rovnocennú symbiózu s inteligentnými strojmi. Toto riziko je jedným z najväčších, ktoré ľudskej civilizácii hrozia.

Nových profesií nebude dosť

Druhý typ rizika sa týka sociálno-ekonomických dopadov umelej inteligencie na spoločnosť a budúcnosti trhu práce.

V budúcnosti v mnohých profesiách, vrátane mnohých vysoko kvalifikovaných, nebude ekonomické zamestnávať ľudí. Počet neuplatniteľných ľudí tak bude narastať. Pravdepodobne neobstojí ani argument dnešných ekonómov, že v minulosti nové technológie s tým, ako nahradili jednu skupinu profesií, vytvorili nové profesie.

To platilo, kým technológie nahrádzali profesie vyžadujúce relatívne nízku kvalifikáciu. Ale s nástupom umelej inteligencie bude pretrvávať potreba iba vybraných profesií so špičkovou a stále vyššou mierou kvalifikácie.

Naviac, potreba nových pracovných miest bude klesať aj vďaka globalizácii dopravy, obchodu, služieb a komunikácie. Tisíce ľudí, ktorí stratia prácu v priemysle, poľnohospodárstve aj službách, budú ťažko hľadať uplatnenie ako špičkoví programátori, finanční analytici či youtouberi.

Perspektíva uplatnenia ale na druhej strane môže narastať v profesiách, kde sa vyslovene žiada živý človek, ako sú zdravotné sestry/bratia, opatrovatelia, učitelia na nižších stupňoch vzdelania, pracovníci v stravovaní, v turistickom ruchu či v kultúre. Zmysluplným uplatnením mnohých ľudí sa môže stať aj napríklad ekologické poľnohospodárstvo.

Porastú sociálne nerovnosti

Ďalšou veľkou problémovou témou je zväčšovanie sociálnych nerovností. Vďaka novým technológiám, automatizácii a umelej inteligencii sa rýchlejšie koncentruje ekonomická moc u čoraz menšej skupiny ľudí, ktorí vlastnia kapitál aj prostriedky umelej inteligencie. To bude vyžadovať efektívne sociálno-ekonomické opatrenia.

Ďalšie hľadisko predstavujú také riziká umelej inteligencie, kde sa jej možnosti využijú pri negatívnych činnostiach, ktoré doteraz vykonával človek. Tak, ako vždy v minulosti, mnohí sa aj teraz snažia využívať narastajúce možnosti technologického pokroku, aby dosiahli svoje vlastné ciele, na úkor iných.

Dokonca môžeme povedať, že to vždy bola jedna z hybných síl pokroku. A tým viac to platí pri umelej inteligencii, ktorá poskytuje nebývalé možnosti na zneužitie. Do tejto skupiny patrí niekoľko ďalších typov rizík. V poradí tretí typ rizika tak tvorí ohrozenie súkromia jednotlivca, až ohrozenie jeho osobnostnej integrity a tiež s tým súvisiaca kybernetická bezpečnosť.

Elektronické zariadenia neustále monitorujú našu polohu, našu činnosť, komunikujeme nimi iným informácie o našich postojoch, náladách, prenášame dôverný obsah aj nakupujeme. Algoritmy založené na umelej inteligencii z tohto obsahu dokážu vydolovať náš sociálny, ekonomický, politický alebo psychologický profil, dokážu sa o nás dozvedieť viac, než o sebe vieme sami. Tieto poznatky môžu byť zneužité aj proti nám.

Ako sa rozhoduje stroj

Rozdiely v interpretácii vnímania sveta živým človekom a neživou umelou inteligenciou vyúsťujú do veľkej skupiny odlišností, ktoré tvoria štvrtý a významný typ rizík. Vysoko inteligentný a veľmi výkonný stroj sa rozhoduje na základe prísne pragmatickej strojovej logiky, ktorá je odlišná od rozhodovania sa človeka. Stroj, zatiaľ, nerozumie tomu, o čom rozhoduje.

Naproti tomu rozhodovanie sa človeka vychádza jednak z jeho racionálneho uvažovania, z komplexného modelu sveta v jeho hlave, ale aj z jeho duševného sveta a emócií, ktoré spolutvoria jeho hodnotový systém. Táto odlišná interpretácia sveta medzi človekom a strojom vyúsťuje do rozdielov a problémov, ktoré treba riešiť a zmierňovať. Klasickým príkladom je problém, ako sa má rozhodnúť vaše autonómne vozidlo, keď mu do jazdnej dráhy nečakane vojde mamička s kočíkom.

Má ju zraziť, alebo sa jej má za každú cenu vyhnúť aj keď tým môže ohroziť na živote posádku vášho vozidla vrátane vášho malého dieťaťa? Ešte vypuklejšími problémami sú bezpečnostné otázky vo vojenskom sektore. Z dôvodov konkurencieschopnosti sme nútení delegovať čoraz väčšie kompetencie autonómnym zbraniam.

Ako sa rozhodne autonómny dron alebo autonómna ponorka disponujúca obrovskou ničivou silou v kritickej situácii? Ľudia majú k dispozícii jadrové zbrane už viac než polstoročie, ale zatiaľ sa im ich podarilo, aj napriek rôznym krízam, udržať pod kontrolou. Dokážu to aj stroje?

Piatou kategóriou rizík sú otázky etiky a práva. Zamýšľajú sa napríklad nad tým, kto bude zodpovedný za škody na majetku spôsobené autonómnym vozidlom na ceste alebo autonómnym robotom na verejnosti či v medicíne. Do tejto kategórie problémov patria tiež otázky duševného vlastníctva diel vytvorených umelou inteligenciou. Táto agenda je už pomerne široko rozpracovaná a veľkú pozornosť jej venuje predovšetkým Európska únia.

Vyjadrenia, ktoré nik nevyslovil

Veľmi problematickú oblasť zneužitia umelej inteligencie predstavuje šieste riziko, ktorým je manipulácia verejnej mienky, aj šírením dezinformácií. Môže ísť o texty, zvuk alebo aj video (deepfake).

Umelá inteligencia môže vyrobiť vyjadrenia verejne známych osôb a politikov v médiách a na sociálnych sieťach, ktoré v skutočnosti nikdy nevyslovili, ale ktoré pôsobia dôveryhodne a presvedčivo.

Takéto aktivity sú veľmi nebezpečné a môžu predstavovať až rozmery ohrozenia demokracie. Ťažko sa odhaľujú a bude nutné vytvoriť mechanizmy na ich identifikovanie.

Ďalším, v našom poradí siedmym rizikom je vykonávanie nekalých finančných aktivít. Umelá inteligencia má potenciál používať také metódy a transakcie, ktoré môžu oklamať finančné trhy a zneužívať ich v prospech podvodníkov. Tieto aktivity môžu byť tak zložité, že im ani nebudeme rozumieť. Umelá inteligencia môže disponovať takým rozsahom znalostí, skúseností a dát, aké žiadny ľudský expert za celý život nemôže absorbovať. Stroj ich však dokáže priebežne využívať, spracovávať a reagovať na aktuálne situácie neporovnateľne rýchlejšie a efektívnejšie než človek.

Kto má v rukách kontrolu

Všetky tieto riziká sú príkladmi používania prostriedkov umelej inteligencie jednou skupinou ľudí na dosiahnutie svojich cieľov či na ovplyvňovanie inej skupiny ľudí. O použití umelej inteligencie tu vždy rozhoduje človek, ktorý určí cieľ. Umelá inteligencia potom tento cieľ pomôže zrealizovať dokonalejšie a rýchlejšie, než by to urobil človek iným spôsobom.

Umelá inteligencia je schopná nájsť skryté rezervy, a teda aj takmer optimálne riešenie úlohy, ktorú formuloval človek. Posledná, ôsma kategória rizík sa ale v tomto principiálne odlišuje.

Čoraz viac vedcov z rôznych oblastí vedy pripúšťa takú hypotézu, že stav existencie vedomia, ktorý prisudzujeme človeku (prípadne aj niektorým iným vyšším živočíchom) by mohol za istých podmienok vzniknúť aj v stroji. Z toho by vyplývalo, že aj superinteligentný stroj s vedomím by mohol mať svoje vlastné ciele, ktoré by mohli byť aj v rozpore s cieľmi človeka.

Takýto prelom by mohol predstavovať pre budúcnosť až existenciu ľudstva ťažko predvídateľné dôsledky. Mali by sme dôkladne a zodpovedne zvážiť, či sa k tejto hranici chceme priblížiť, prípadne ako mať takýto vývoj pod kontrolou.

Autor: Ivan Sekaj