Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Morální otázky jsou klíčovou součástí celé diskuze a chytrých automobilech. Pokud necháme vůz autonomně řídit, může se stát, že se dostane do situace, kdy bude muset ohrozit lidský život. To však s sebou přináší množství rozporuplných morálních dilemat.

Na etiku autonomních vozů se zaměřili vědci z MIT a pomocí rozsáhlého průzkumu zjišťovali, jak se k etické otázce staví lidé po celém světě.

Odpověď docela překvapí: rozdíly nejsou tak velké.

Trolley problem: neřešitelné dilema autonomních aut

Celosvětový průzkum má nevídaný rozsah, z 200 zemí odpovědělo výzkumníkům MIT přes 2 miliony občanů. Dotazník se zabýval klasickým neřešitelným etickým rébusem, tzv. „Trolley Problem“ neboli v češtině tramvajovým dilematem. Jeho mírně upravená podoba je stále stejně děsivá.

Obrázek: Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Premisa je jednoduchá: srážka vozidla je jasná a nevyhnutelná a auto bez řidiče si musí vybrat, koho zraní nebo přímo zabije – nezmění svou trasu a srazí skupinu lidí na přechodu, nebo raději zatočí a přejede menší počet kolemjdoucích na chodníku?

Přestože v průzkumu se mimo jiné vyskytla tato varianta tramvajového dilematu, lehce lze vymyslet i jiné. Pokud si musí vůz vybrat mezi přejetím chodce na přechodu nebo naražením do stromu ve vysoké rychlosti (a tedy velmi pravděpodobné smrti cestujícího), co z toho je lepší? Lze morálně ospravedlnit přejetí dítěte, pokud se tím zachrání několik životů dospělých osob?

Uzdu kreativitě popustili i tvůrci průzkumu z MIT, tramvajových dilemat představili hned několik skrze aplikaci Moral Machine.

Ano, jde o teoretické otázky – jenže jde zároveň o problémy, na něž musíme znát odpověď, než se kolem nás začnou auta bez řidičů objevovat. Lidský řidič má v tomto případě o něco jednodušší postavení; v kritické situaci reaguje intuitivně, etika tu příliš roli nehraje, není čas přemýšlet nad řešením. Stroj se rozhoduje v řádu méně než milisekund: ví přesně, co dělá.

Obrázek: Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Vítězí počet lidí a jejich věk

Studie MIT přišla se zajímavými výsledky. Celkově se morální zásady – vcelku logicky – po světě liší, byť spíše v drobnostech. Tři jevy jsou prevalentní téměř všude a naznačují, jakým směrem se zřejmě bude vývoj ubírat.

  1. Život člověka má přednost nad životem jiných tvorů.
  2. Čím vyšší zachráněný počet životů, tím lépe – má přednost nad nižším počtem.
  3. Je lépe zachránit život mladého člověka než starého.

Chytré autonomní vozy budou zabíjet; s největší pravděpodobností to tak bohužel skončí. Pokud budou vývojáři i uživatelé zodpovědní, tak sice samořiditelná auta způsobí mnohem méně smrtelných nehod než lidští řidiči, ale chybám – minimálně zpočátku – se lze 100% vyhnout jen velmi těžko.

Stanovit základní etické mezníky je nutné – vzhledem k roztříštěnosti současného trhu je však možné, že o tom nakonec budou rozhodovat samy automobilky, bez větší standardizace.

1 Komentář
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
Antonín

Potom se tedy ptám: „Bude automobilka povinna sdělit zákazníkům, jaký algoritmus pro rozhodování používá?“
Když bych se měl rozhodovat, které auto si pořídím, tak rozhodně ne to, které mne za moje peníze vědomně zabije.

Obrázek: Požadavky Donalda Trumpa jsou protiústavní, brání se TikTok a chystá žalobu na Bílý dům
Požadavky Donalda Trumpa jsou protiústavní, brání se TikTok a chystá žalobu na Bílý dům
Obrázek: Uber je opět v masivní ztrátě, pandemie mu neprospívá
Uber je opět v masivní ztrátě, pandemie mu neprospívá
Obrázek: Prototyp Starship od SpaceX konečně vzlétl, i když jen na pár sekund
Prototyp Starship od SpaceX konečně vzlétl, i když jen na pár sekund
Obrázek: Astronauti NASA jsou zpět na Zemi, vrátili se úspěšně v modulu Crew Dragon
Astronauti NASA jsou zpět na Zemi, vrátili se úspěšně v modulu Crew Dragon
Obrázek: Odinstalujte si z počítačů nebezpečný Flash Player, radí uživatelům Adobe. Jak na to?
Odinstalujte si z počítačů nebezpečný Flash Player, radí uživatelům Adobe. Jak na to?
Obrázek: Jak se zbavit předinstalovaných aplikací? Odinstalujte je, nebo je zakažte
Jak se zbavit předinstalovaných aplikací? Odinstalujte je, nebo je zakažte
Obrázek: Nefunguje vám internet? Vodafone má výpadek, přístup k internetu nefungoval v ČR a dalších zemích
Nefunguje vám internet? Vodafone má výpadek, přístup k internetu nefungoval v ČR a dalších zemích
Obrázek: Jak stahovat videa a hudbu z YouTube? Jde to snadno v prohlížeči, PC i na mobilu
98%
Jak stahovat videa a hudbu z YouTube? Jde to snadno v prohlížeči, PC i na mobilu
Obrázek: Kolik je na světě iPhonů? Apple přestane poskytovat informace o počtu prodaných zařízení
Kolik je na světě iPhonů? Apple přestane poskytovat informace o počtu prodaných zařízení

Nejde jen o smartphony, ale také iPady, Macy a další produkty z portfolia Cupertinské společnosti. Apple se zkrátka rozhodl už od...

Zavřít