SME
Štvrtok, 21. január, 2021 | Meniny má VincentKrížovkyKrížovky

Načítavam moment...
Momentálne nie ste prihlásený

Vyriešili prvý zločin robota. Inteligenciu polícia nakoniec pustila (Späť na článok)

Pridajte priamu reakciu k článku


Hodnoť

Ten titulok to vystihol "presne"

"Vyriešili prvý zločin robota". A presne na takých hlinených nohách ako titulok stojí celý ďalší obsah. Samozrejme že robot žiadný zločin nespáchal. Podobne ako nôž ktorý bol použitý pri lúpeži. Ani nože zločiny nepáchajú. Program(nákupný automat) pracoval tak, ako bol naprogramovaný. Na takúto pomerne jednoduchú činnosť ani veľmi sofistikovaný systém netreba. Ešte to by chýbalo, aby sa do podobných problémov začali montovať právnici. Aby malo zmysel hovoriť o nejakej zodpovednosti, týchto zariadení, to by museli mať slobodnú vôľu, podobne ako človek. A aby mali slobodnú vôľu, museli by mať vedomie podobne ako človek. Od toho sme ale na míle vzdialení. Aj to bolo v článku napísané, robot spracuje množstvo dát vyhodnotí výsledok, na základe výsledku urobí výstup. Ak zlyhá tak sa jednoznačne tvorcovia musia zamyslieť, kde urobili chybu a prijať opatrenia na jej odstránenie. Ak napríklad autonomné auto spôsobí haváriu, tak musia programátori vyhodnotiť chybu, vymyslieť ako sa jej do budúcnosti vyhnúť, výsledok distribuovať do všetkých ostatných áut s týmto systémom. Vyniť toto auto zo zločinu je totálny nezmysel, podobne ako nákupný automat z článku. Obdobné je to u ostatných takzvaných umelých inteligenciách. Hovoriť u nich o nejakej individuálnej trestnej zodpovednosti je dnes a ešte veeeeľmi dlhú dobu nezmysel.
 

...tá otázka

...sa netýka iba súčasnosti ale riešiť by sa mala už dnes pretože by mala stanoviť obmedzenia (ak to pochopitelne je vôbec možné)...uspokojovať sa že je to ešte ďaleko neobstojí...otázka vedomia odkedy je alebo nie je podobná ako pri vedomí človeka ...tiež nie sme schopní jasne určiť kedy tomu tak nie je a naopak...a u ai sa do budúcnosti predsa predpokladá simulácia človeka
 

NO, len problém je, pokiaľ viem,

že neurónovej sieti sa do "kódu" nepozrieš. Tam programátor nenapísal ak-potom :(
 
Hodnoť

 

*** Po opakovanom hrubom porušení Kódexu diskutujúceho boli zmazané všetky diskusné príspevky tohto autora.
 
Hodnoť

Pozoruhodná poviedka

na túto tému pod názvom "Práčková tragédia" je v knihe Futurologický kongres od Stanislawa Lema.
 
Hodnoť

...no je tam predsa

...podmienka že ai urobí "rozhodnutie" sama ako u ludí kde je tiež nejaký súbor dát ktoré takéto rozhodnutie umožňuje ...nikto predsa netrestá iných ludí za naše autonomne rozhodnutia preto je klúčové práve toto...ak sa ai naozaj učí tak už sa nejedná o pôvodný súbor dát...samozrejme ide stále o stroj a ochranné prvky zabezpečuje človek čo ale s tým ak ich stroj sám poruší kedže je schopný učiť sa, vyhodnocovať a nakoniec konať...zlé zabezpečenie ? ...je človek vôbec schopný zabezpečiť učiacu sa inteligenciu keď sám prekračuje vlastné zákazy ?...na jednej strane je snaha vytvoriť niečo čo sa autonomne rozhoduje a učí a na strane druhej naivná predstava že máme kontrolu nad vyhodnotením celkom iného samostatného subjektu keď to nedokážeme ani medzi sebou...základná havária je už na začiatku pretože človek sa snaží o náhradu samého seba a ak to ai takto vyhodnotí kde asi bude chyba ...nikde
 
Hodnoť

Bol by som veľmi opatrny

Možno je dnes umelá inteligencia v plienkach. Ale proces rozhodovania a učenia sa dá do nich nakopírovať a časom sa budú schopné rozhodovať sami aj človek nie je len telo a nemusíte sa hýbať ani dýchať a predsa ste človekom. Ste súborom spomienok, skúseností a spracúvate ich určitým sposobom. Doporučujem prečítať si Stephen Hawkinga.
 
Hodnoť

Už teraz umelá

Už teraz umelá inteligencia porušuje zákony, napríklad len tým, že sú nasadené roboty, ktoré rozosielajú maily s odkazom na niečo, čím potom ovládnu počítač alebo pošlú škodlivý kód. Denne mi chodia 3-4. To ú iba začiatky, bude to oveľa horšie. Mne je vlastne jedno, či bude mať takýto robot vedomie alebo nie, ak bude škodiť. Zákon by na to mal pamätať a taký robot by mal byť odstránený, zničený, tvorcovia ľudia zákonne postihnutí, keďže naprogramovali a vyrobili niečo, čo sa im vymklo z rúk. Hawking má pravdu a nemali by sme to riskovať.
 
Hodnoť

Aky je rozdiel

medzi tym, ci zabijem cloveka ja a vyhodnotim to ako mensiu mieru rizika alebo to spravi AI. Ano, v mojom pripade su za to zodpovedne hormony a vychova. Lenze ja tiez nemozem za to kto ma vychoval a ake mam hormony.
 

Taktiez.

Niekto by ale mohol namietat, ze rozhodnutie zabit som vykonal ja. Lenze to rozhodnutie vykonal moj mozog predtym ako som ho akceptoval za svoje rozhodnutie (nedavno tu bol o tom clanok) na zaklade vstupov ktore dostal. Takze mozem argumentovat, ze prave tieto vstupy su pricinov mojho konania, ktore je len ich logickym dosledkom. Realne samozrejme nikdy nikoho nezabijem, pretoze viem ze by som isiel do basy. A to je pre moj mozog dalsi vstup, ktory vstupuje do rozhodnutia aky postoj zaujmem. V pripade AI netreba vymyslat koleso, ale aplikovat podobny mechanizmus. AI sa musi naucit, ze zabitie cloveka nikdy nemoze viest k pozitivnemu vysledku.
 
Hodnoť

Ak prvá opica zo stada uchopila

palicu aby zrazila potravu zo stromu, musíme si položiť otázku - mali opice predtým emócie - základ príbehu dobra a zla, alebo intelekt ?
Opačne - budu mat roboty najprv intelekt a potom emócie ?
Rozhodovanie sa medzi dobrom a zlom u človeka súvisí priamo s prekonavanim prahov bolestí medzi formalnym (logika)a emocionalnym intelektom - vedomým spôsobom, alebo nevedomym - determinacia prostredím .
Základnou otázkou je - dokáže človek nastaviť robotov tak, aby sa správali podľa toho ako hovoria, ked sám človek toto kritérium nezvlada ?
 


Najčítanejšie na SME Komentáre