Zákony robotiky Isaaca Asimova: platí i v roce 2020?

Umělá inteligence se dere kupředu a překonává další a další milníky. Zákony robotiky od Isaaca Asimova, v nichž tento americký spisovatel ruského původu definoval pravidla, podle kterých je pro zajištění bezpečnosti člověka nutné roboty vyvíjet, jsou však staré již 76 let. Otázka zní: obstály zkoušku času a jsou dostačující i pro dnešní svět?

Odpovědět si můžeme rovnou: ano, ale nikoli samy o sobě. Základní trojice pravidel je sice na čtyřicátá léta 20. století pozoruhodně vizionářská, ovšem vývoj umělé inteligence přeci jen poskočil trochu jiným směrem, než mohl Isaac Asimov vůbec snít.

Jaké jsou tři zákony robotiky?

  1. Robot nesmí ublížit člověku nebo svou skrze nečinnost dovolit člověku přijít k újmě.
  2. Robot musí poslouchat příkazy člověka kromě těch, které by byly v rozporu s prvním zákonem.
  3. Robot musí chránit svou existenci, pokud ta není v rozporu s prvním nebo druhým zákonem.

Regulace robotiky a umělé inteligence jsou nyní žhavým tématem – ostatně jako u každé rozvíjející se technologie.

Obrázek: Zákony robotiky Isaaca Asimova: platí i v roce 2020?

Zákony robotiky Isaaca Asimova stále platí, ale doplňují je etické standardy

Nová studie se této problematice věnuje a definuje pět pravidel, kterými by se měl vývoj umělé inteligence řídit; ty by měly dnešní době Googlu, sociálních sítí a pokročilých algoritmů sedět více, než zákony robotiky Isaaca Asimova.

  1. Zodpovědnost: konkrétní osoba musí být zodpovědná za chování autonomního systému a to kvůli právním záležitostem, ale též pro poskytnutí zpětné vazby, sledování výsledků a implementaci změn.
  2. Porozumění: musí umět lidem, kterých se dotýká – často laikům – vysvětlit, proč se systém chová tak, jak se chová.
  3. Přesnost: zdroje chyb je nutné identifikovat, monitorovat, vyhodnocovat a následně je odstranit nebo proti nim systém ochránit.
  4. Transparentnost: Musí být možné veřejně či soukromě otestovat, ohodnotit, kritizovat a zpochybňovat výsledky předložené autonomním systémem. Výsledky kontrol a hodnocení by měly být dostupné veřejnosti.
  5. Spravedlivost: Způsob, jakým jsou data využívána, by měl respektovat soukromí a rovněž by měl fungovat v rámci rozumných mezí. To umožní odstranit předpojatost a zabrání zakořenění problematického chování.

Na první pohled se zdá, že Cambridgeská studie popisuje něco o hodně jiného, než co měl na mysli Asimov. A ono to tak také je. Nicméně představy o umělé inteligenci a robotice se od té doby posunuly, a tak je nutné přizpůsobit i etická pravidla, v jejichž normách by se měly inovace vyvíjet.

Obrázek: Zákony robotiky Isaaca Asimova: platí i v roce 2020?

To však neznamená, že by původní zákony robotiky byly neplatné. Ty, doufejme, zůstanou v platnosti ještě dlouho. Jednoduchý příklad: že by vás Face ID Applu zavraždilo je poměrně dost nepravděpodobné. Ovšem to, že by jej neeticky smýšlející programátor mohl využít k narušení vašeho soukromí, už je výrazně pravděpodobně.

Nutno poznamenat, mluvíme spíše o strojovém učení jako takovém než o umělé inteligenci, která jej zaštituje. Právě strojové učení je však v současnosti zřejmě nejviditelnější oblastí pokroku umělé inteligence.

Zdroj: TNW

Obrázek: SpaceX zahájilo novou éru dobývání vesmíru, otevřela cestu soukromým podnikatelům. Astronauti úspěšně přistáli na ISS
SpaceX zahájilo novou éru dobývání vesmíru, otevřela cestu soukromým podnikatelům. Astronauti úspěšně přistáli na ISS
Obrázek: Nerozhodujeme o pravdě, říká Facebook. Lži jsou špatně, oponuje Twitter
Nerozhodujeme o pravdě, říká Facebook. Lži jsou špatně, oponuje Twitter
Obrázek: Asteroid, který vyhladil dinosaury: Pod jakým úhlem dopadl pomohl spočítat superpočítač
Asteroid, který vyhladil dinosaury: Pod jakým úhlem dopadl pomohl spočítat superpočítač
Obrázek: Jezdec Formule E Daniel Abt podváděl ve virtuálních závodech, nechal se nahradit profesionálem
Jezdec Formule E Daniel Abt podváděl ve virtuálních závodech, nechal se nahradit profesionálem
Obrázek: Jak se zbavit předinstalovaných aplikací? Odinstalujte je, nebo je zakažte
Jak se zbavit předinstalovaných aplikací? Odinstalujte je, nebo je zakažte
Obrázek: Nefunguje vám internet? Vodafone má výpadek, přístup k internetu nefungoval v ČR a dalších zemích
Nefunguje vám internet? Vodafone má výpadek, přístup k internetu nefungoval v ČR a dalších zemích
Obrázek: Jak stahovat videa a hudbu z YouTube? Jde to snadno v prohlížeči, PC i na mobilu
98%
Jak stahovat videa a hudbu z YouTube? Jde to snadno v prohlížeči, PC i na mobilu
Obrázek: Wi-Fi sítě jsou přetížené, zapojeno je příliš mnoho zařízení. Jak si doma zlepšit stabilitu připojení k internetu?
Wi-Fi sítě jsou přetížené, zapojeno je příliš mnoho zařízení. Jak si doma zlepšit stabilitu připojení k internetu?
Obrázek: Strojové učení jako zbraň dezinformátorů
Strojové učení jako zbraň dezinformátorů

Umělá inteligence – či spíše její související obory strojového učení a hlubokého učení – patří mezi nejžhavější a nejpopulárnější segmenty...

Zavřít