Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Morální otázky jsou klíčovou součástí celé diskuze a chytrých automobilech. Pokud necháme vůz autonomně řídit, může se stát, že se dostane do situace, kdy bude muset ohrozit lidský život. To však s sebou přináší množství rozporuplných morálních dilemat.

Na etiku autonomních vozů se zaměřili vědci z MIT a pomocí rozsáhlého průzkumu zjišťovali, jak se k etické otázce staví lidé po celém světě.

Odpověď docela překvapí: rozdíly nejsou tak velké.

Trolley problem: neřešitelné dilema autonomních aut

Celosvětový průzkum má nevídaný rozsah, z 200 zemí odpovědělo výzkumníkům MIT přes 2 miliony občanů. Dotazník se zabýval klasickým neřešitelným etickým rébusem, tzv. „Trolley Problem“ neboli v češtině tramvajovým dilematem. Jeho mírně upravená podoba je stále stejně děsivá.

Obrázek: Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Premisa je jednoduchá: srážka vozidla je jasná a nevyhnutelná a auto bez řidiče si musí vybrat, koho zraní nebo přímo zabije – nezmění svou trasu a srazí skupinu lidí na přechodu, nebo raději zatočí a přejede menší počet kolemjdoucích na chodníku?

Přestože v průzkumu se mimo jiné vyskytla tato varianta tramvajového dilematu, lehce lze vymyslet i jiné. Pokud si musí vůz vybrat mezi přejetím chodce na přechodu nebo naražením do stromu ve vysoké rychlosti (a tedy velmi pravděpodobné smrti cestujícího), co z toho je lepší? Lze morálně ospravedlnit přejetí dítěte, pokud se tím zachrání několik životů dospělých osob?

Uzdu kreativitě popustili i tvůrci průzkumu z MIT, tramvajových dilemat představili hned několik skrze aplikaci Moral Machine.

Ano, jde o teoretické otázky – jenže jde zároveň o problémy, na něž musíme znát odpověď, než se kolem nás začnou auta bez řidičů objevovat. Lidský řidič má v tomto případě o něco jednodušší postavení; v kritické situaci reaguje intuitivně, etika tu příliš roli nehraje, není čas přemýšlet nad řešením. Stroj se rozhoduje v řádu méně než milisekund: ví přesně, co dělá.

Obrázek: Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Vítězí počet lidí a jejich věk

Studie MIT přišla se zajímavými výsledky. Celkově se morální zásady – vcelku logicky – po světě liší, byť spíše v drobnostech. Tři jevy jsou prevalentní téměř všude a naznačují, jakým směrem se zřejmě bude vývoj ubírat.

  1. Život člověka má přednost nad životem jiných tvorů.
  2. Čím vyšší zachráněný počet životů, tím lépe – má přednost nad nižším počtem.
  3. Je lépe zachránit život mladého člověka než starého.

Chytré autonomní vozy budou zabíjet; s největší pravděpodobností to tak bohužel skončí. Pokud budou vývojáři i uživatelé zodpovědní, tak sice samořiditelná auta způsobí mnohem méně smrtelných nehod než lidští řidiči, ale chybám – minimálně zpočátku – se lze 100% vyhnout jen velmi těžko.

Stanovit základní etické mezníky je nutné – vzhledem k roztříštěnosti současného trhu je však možné, že o tom nakonec budou rozhodovat samy automobilky, bez větší standardizace.

1 Komentář
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
Antonín

Potom se tedy ptám: „Bude automobilka povinna sdělit zákazníkům, jaký algoritmus pro rozhodování používá?“
Když bych se měl rozhodovat, které auto si pořídím, tak rozhodně ne to, které mne za moje peníze vědomně zabije.

Obrázek: Český IceWarp konkuruje Googlu i Microsoftu: Nabízí alternativy k Office a ZOOMu
Český IceWarp konkuruje Googlu i Microsoftu: Nabízí alternativy k Office a ZOOMu
Obrázek: Nejlepší fotomobil? Řada P50 Pro přinese na český trh to nej
Nejlepší fotomobil? Řada P50 Pro přinese na český trh to nej
Obrázek: Apple po metaverzu netouží – proč taky?
Apple po metaverzu netouží – proč taky?
Obrázek: Technologické vize pro rok 2022: Začíná éra skládacích telefonů a levného satelitního internetu
Technologické vize pro rok 2022: Začíná éra skládacích telefonů a levného satelitního internetu
Obrázek: Jak probíhají podvody v internetových bazarech? Příběh čtenářky, která přišla o tisíce
Jak probíhají podvody v internetových bazarech? Příběh čtenářky, která přišla o tisíce
Obrázek: Pozor na podvody na Bazoši a Sbazaru: Peníze na bankovní kartu vám nikdo nepošle
Pozor na podvody na Bazoši a Sbazaru: Peníze na bankovní kartu vám nikdo nepošle
Obrázek: Česko je oblíbeným terčem kybernetických útoků. Počet hrozeb poroste i v roce 2022
Česko je oblíbeným terčem kybernetických útoků. Počet hrozeb poroste i v roce 2022
Obrázek: Co se starým PC a notebookem? Vyrobte si rychlý Chromebook, nebo síťový disk s filmy
Co se starým PC a notebookem? Vyrobte si rychlý Chromebook, nebo síťový disk s filmy