AUTORSKÁ STRANA ONDREJA PODSTUPKU

Elon Musk chce zastaviť zabijacké stroje. Zlyhá

Stovka výskumníkov chce, aby OSN zakázalo umelú inteligenciu v zbraniach. Ich cieľ je ušľachtilý, ale takmer určite nesplniteľný.

Na snímke bojový dron. (Zdroj: SITA/AP)

„Ako firmy budujúce projekty v oblasti umelej inteligencie a robotiky, ktoré by mohli byť znovu použité pri vývoji autonómnych zbraní, cítime silnú zodpovednosť aby sme bili na poplach.

Vítame rozhodnutie konferencie OSN k dohovoru o niektorých konvenčných zbraniach založiť nezávislú pracovnú skupinu národných expertov pre smrtiace autonómne systémy. Mnohí z našich expertov sú ochotní poskytnúť technické rady pri vašom rozhodovaní... Smrtiace autonómne systémy by mohli spustiť tretiu vojenskú revolúciu. Ak vzniknú, umožnia viesť vojenský konflikt v škále väčšej ako kedykoľvek v histórii a v časovom rozmedzí rýchlejšom, ako je človek schopných chápať.

Článok pokračuje pod video reklamou

Pre armády by odstránenie ľudí vytvorilo obrovský priestor pre nárast efektivity a získanie konkurenčnej výhody.

Môžu byť použité ako zbrane teroru, zbrane, ktoré despoti a teroristi používajú proti nevinnej populácii, a zbrane hacknuté tak, aby sa správali nežiaducim spôsobom. Nemáme veľa času na to, aby sme konali. Ak sa Pandorina skrinka otvorí, bude ju veľmi ťažké ju zatvoriť.“

Otvorený list pre OSN podpísalo 116 výskumníkov a podnikateľov v oblasti robotiky. Medzi inými aj Elon Musk, šéf firiem Tesla a Space X. Musk, ako aj mnohí ďalší výskumníci v oblasti robotiky dlhodobo varujú, že umelá inteligencia predstavuje pre ľudstvo existenčné riziko. Iná skupina výskumníkov zas tvrdí, že veľkosť ohrozenia nafukujú. Výsledkom je veselá akademická debata, ktorá spokojne prebieha už niekoľko rokov.

Stroje sú lákavé

Najnovšie varovanie je iné. Nehovorí o teoretickom ohrození ľudstva, ale o konkrétnych hrozbách pre ľudské životy. Ľudia podpísaní pod listom nevarujú pred robotmi budúcnosti, ale pred konkrétnymi zbraňami. Niektoré sú len pár rokov od uvedenia do prevádzky, iné sa už aktívne testujú.

„Podpísal som otvorený list, lebo použitie umelej inteligencie v autonómnych zbraniach je rozpore s mojimi etickými zásadami. Pravdepodobne by viedlo k veľmi nebezpečnej eskalácii a uškodilo by budúcemu vývoju prospešného využitia umelej inteligencie. Problém musí vyriešiť medzinárodná komunita, podobne ako to dokázala v minulosti pri použití nemorálnych zbraní (chemických, biologických a nukleárnych),“ napísal jeden z popredných výskumníkov v oblasti strojového učenia a zakladateľ Element AI Yoshua Bengio.

V preklade chcel Bengio povedať, že výskumníci nemajú strach zo strojov podobných terminátorom, ale boja sa toho, čo sa stane, ak začnú aj bežné vojenské systémy využívať pri rozhodovaní o útoku výlučne umelú inteligenciu. Boja sa toho, čo sa stane, ak z vojny zmizne človek.

Odomknite si článok - prihláste sa alebo si predplaťte Sme.sk
Vyskúšajte predplatné za 1€ týždenne. Staňte sa predplatiteľom už za pár sekúnd. Pošlite SMS s textom C526F na číslo 8787. Predplatné môžete kedykoľvek zrušiť (viac na www.sme.sk/vop).
Ďalšie možnosti predplatného Sme.sk:
Odomknite si článok - prihláste sa alebo si predplaťte Sme.sk
Vyskúšajte predplatné za 1€ týždenne. Staňte sa predplatiteľom už za pár sekúnd. Pošlite SMS s textom C526F na číslo 8787, alebo kliknite na tlačidlo s textom SMS a odošlite predvyplnenú SMS. Predplatné môžete kedykoľvek zrušiť (viac na www.sme.sk/vop).
Ďalšie možnosti predplatného Sme.sk:
Ročné predplatné
29 €
Objednať
Ušetríte až 17,80 € v porovnaní s mesačným predplatným
Štvrťročné predplatné
9,90 €
Objednať
Ušetríte 1,80 € v porovnaní s mesačným predplatným

Už mám predplatné - prihlásiť sa

S predplatným získate:
  • neobmedzený prístup k obsahu Sme.sk, Korzar.sk a Spectator.sk
  • viac ako 20-ročný archív Sme.sk
  • čítanie a rozhovory z príloh TV OKO/TV SVET, Víkend a Fórum
  • neobmedzený počet diskusných príspevkov
  • neobmedzený prístup k videám a slovenským filmom na Sme.sk
  • dostupné na PC a v aplikáciach Android a iPhone
Chcete dostať upozornenie na najnovší článok tohto autora?
Objednajte si notifikáciu priamo na váš e-mail.
Odoberať autora na email

Téma: Elon Musk


Článok je zaradený aj do ďalších tém Umelá inteligencia, Autorská strana

Hlavné správy zo Sme.sk

DOMOV

Zálohovanie PET fliaš je bližšie. Na aké prekážky naráža?

Zálohovaním sa vyzbiera 90 percent fliaš.

Podcast Dobré ráno

Dobré ráno: Slovensko vo finále MS vo futbale? Nie je to utópia

Slovenský futbal môže siahať na vrchol.

KOMENTÁR ONDREJA PODSTUPKU

Pomôžme ministrovi spraviť drahé a bolestivé rozhodnutie

Zálohovanie PET fliaš je dobrý a bolestivý nápad.

AUTORSKÁ STRANA PETRY PROCHÁZKOVEJ

Babčenkova manželka prehovorila. Ako prežívala smrť svojho manžela?

O všetkom vedela vopred.

Neprehliadnite tiež

Stĺpček šéfredaktorky

Trump si pri Putinovi vystačil s frázami a klišé

Interpretácie budú iné v každom tábore.

KOMENTÁR PETRA TKAČENKA

Putin si to vychutnal ešte viac ako Trump

Putin sa opäť priznal, že Krym bola hra Kremľa.

Komentár Zuzany Kepplovej

Ľudia, ktorí chodili na námestia, majú v Čižnárovi spojenca

Prípady farmárov nie sú náhodné a zriedkavé.

Správne zrkadlo (Sliacky)

Karikatúra denníka Sme (kreslí Sliacky)

KOMENTÁR ONDREJA PODSTUPKU

Pomôžme ministrovi spraviť drahé a bolestivé rozhodnutie

Zálohovanie PET fliaš je dobrý a bolestivý nápad.