Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Morální otázky jsou klíčovou součástí celé diskuze a chytrých automobilech. Pokud necháme vůz autonomně řídit, může se stát, že se dostane do situace, kdy bude muset ohrozit lidský život. To však s sebou přináší množství rozporuplných morálních dilemat.

Na etiku autonomních vozů se zaměřili vědci z MIT a pomocí rozsáhlého průzkumu zjišťovali, jak se k etické otázce staví lidé po celém světě.

Odpověď docela překvapí: rozdíly nejsou tak velké.

Trolley problem: neřešitelné dilema autonomních aut

Celosvětový průzkum má nevídaný rozsah, z 200 zemí odpovědělo výzkumníkům MIT přes 2 miliony občanů. Dotazník se zabýval klasickým neřešitelným etickým rébusem, tzv. „Trolley Problem“ neboli v češtině tramvajovým dilematem. Jeho mírně upravená podoba je stále stejně děsivá.

Obrázek: Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Premisa je jednoduchá: srážka vozidla je jasná a nevyhnutelná a auto bez řidiče si musí vybrat, koho zraní nebo přímo zabije – nezmění svou trasu a srazí skupinu lidí na přechodu, nebo raději zatočí a přejede menší počet kolemjdoucích na chodníku?

Přestože v průzkumu se mimo jiné vyskytla tato varianta tramvajového dilematu, lehce lze vymyslet i jiné. Pokud si musí vůz vybrat mezi přejetím chodce na přechodu nebo naražením do stromu ve vysoké rychlosti (a tedy velmi pravděpodobné smrti cestujícího), co z toho je lepší? Lze morálně ospravedlnit přejetí dítěte, pokud se tím zachrání několik životů dospělých osob?

Uzdu kreativitě popustili i tvůrci průzkumu z MIT, tramvajových dilemat představili hned několik skrze aplikaci Moral Machine.

Ano, jde o teoretické otázky – jenže jde zároveň o problémy, na něž musíme znát odpověď, než se kolem nás začnou auta bez řidičů objevovat. Lidský řidič má v tomto případě o něco jednodušší postavení; v kritické situaci reaguje intuitivně, etika tu příliš roli nehraje, není čas přemýšlet nad řešením. Stroj se rozhoduje v řádu méně než milisekund: ví přesně, co dělá.

Obrázek: Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Vítězí počet lidí a jejich věk

Studie MIT přišla se zajímavými výsledky. Celkově se morální zásady – vcelku logicky – po světě liší, byť spíše v drobnostech. Tři jevy jsou prevalentní téměř všude a naznačují, jakým směrem se zřejmě bude vývoj ubírat.

  1. Život člověka má přednost nad životem jiných tvorů.
  2. Čím vyšší zachráněný počet životů, tím lépe – má přednost nad nižším počtem.
  3. Je lépe zachránit život mladého člověka než starého.

Chytré autonomní vozy budou zabíjet; s největší pravděpodobností to tak bohužel skončí. Pokud budou vývojáři i uživatelé zodpovědní, tak sice samořiditelná auta způsobí mnohem méně smrtelných nehod než lidští řidiči, ale chybám – minimálně zpočátku – se lze 100% vyhnout jen velmi těžko.

Stanovit základní etické mezníky je nutné – vzhledem k roztříštěnosti současného trhu je však možné, že o tom nakonec budou rozhodovat samy automobilky, bez větší standardizace.

1 Komentář
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
Antonín

Potom se tedy ptám: „Bude automobilka povinna sdělit zákazníkům, jaký algoritmus pro rozhodování používá?“
Když bych se měl rozhodovat, které auto si pořídím, tak rozhodně ne to, které mne za moje peníze vědomně zabije.

Obrázek: Spíte špatně? Nechte si poradit od chytrých hodinek Huawei Watch Fit 3
Spíte špatně? Nechte si poradit od chytrých hodinek Huawei Watch Fit 3
Obrázek: Chytrý fotbalový míč pro EURO 2024: S čipy uvnitř dokáže sledovat každý pohyb
Chytrý fotbalový míč pro EURO 2024: S čipy uvnitř dokáže sledovat každý pohyb
Obrázek: Virgin Galactic přerušuje cesty do vesmíru. Chce se více zaměřit na výzkum a vývoj
Virgin Galactic přerušuje cesty do vesmíru. Chce se více zaměřit na výzkum a vývoj
Obrázek: Žádný divák neuvidí stejný film podruhé. Film, který se mění s každým přehráním
Žádný divák neuvidí stejný film podruhé. Film, který se mění s každým přehráním
Obrázek: Jak efektivně využít chytré hodinky? Trenér, hudební přehrávač a svítilna na ruce
Jak efektivně využít chytré hodinky? Trenér, hudební přehrávač a svítilna na ruce
Obrázek: Explozí na třídicích linkách přibývá. Kam vyhazovat elektronické hračky a jak je třídit?
Explozí na třídicích linkách přibývá. Kam vyhazovat elektronické hračky a jak je třídit?
Obrázek: Tuhle chybu dělá většina z nás: Datum narození jako heslo nepoužívejte
Tuhle chybu dělá většina z nás: Datum narození jako heslo nepoužívejte
Obrázek: Allegro Smart! Week poprvé v Česku: Ušetřit můžete tisíce, vybrali jsme pro vás nejzajímavější produkty
Allegro Smart! Week poprvé v Česku: Ušetřit můžete tisíce, vybrali jsme pro vás nejzajímavější produkty