Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Morální otázky jsou klíčovou součástí celé diskuze a chytrých automobilech. Pokud necháme vůz autonomně řídit, může se stát, že se dostane do situace, kdy bude muset ohrozit lidský život. To však s sebou přináší množství rozporuplných morálních dilemat.

Na etiku autonomních vozů se zaměřili vědci z MIT a pomocí rozsáhlého průzkumu zjišťovali, jak se k etické otázce staví lidé po celém světě.

Odpověď docela překvapí: rozdíly nejsou tak velké.

Trolley problem: neřešitelné dilema autonomních aut

Celosvětový průzkum má nevídaný rozsah, z 200 zemí odpovědělo výzkumníkům MIT přes 2 miliony občanů. Dotazník se zabýval klasickým neřešitelným etickým rébusem, tzv. „Trolley Problem“ neboli v češtině tramvajovým dilematem. Jeho mírně upravená podoba je stále stejně děsivá.

Obrázek: Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Premisa je jednoduchá: srážka vozidla je jasná a nevyhnutelná a auto bez řidiče si musí vybrat, koho zraní nebo přímo zabije – nezmění svou trasu a srazí skupinu lidí na přechodu, nebo raději zatočí a přejede menší počet kolemjdoucích na chodníku?

Přestože v průzkumu se mimo jiné vyskytla tato varianta tramvajového dilematu, lehce lze vymyslet i jiné. Pokud si musí vůz vybrat mezi přejetím chodce na přechodu nebo naražením do stromu ve vysoké rychlosti (a tedy velmi pravděpodobné smrti cestujícího), co z toho je lepší? Lze morálně ospravedlnit přejetí dítěte, pokud se tím zachrání několik životů dospělých osob?

Uzdu kreativitě popustili i tvůrci průzkumu z MIT, tramvajových dilemat představili hned několik skrze aplikaci Moral Machine.

Ano, jde o teoretické otázky – jenže jde zároveň o problémy, na něž musíme znát odpověď, než se kolem nás začnou auta bez řidičů objevovat. Lidský řidič má v tomto případě o něco jednodušší postavení; v kritické situaci reaguje intuitivně, etika tu příliš roli nehraje, není čas přemýšlet nad řešením. Stroj se rozhoduje v řádu méně než milisekund: ví přesně, co dělá.

Obrázek: Tramvajové dilema chytrých automobilů: Koho má stroj zachránit a koho obětovat v případě nehody?

Vítězí počet lidí a jejich věk

Studie MIT přišla se zajímavými výsledky. Celkově se morální zásady – vcelku logicky – po světě liší, byť spíše v drobnostech. Tři jevy jsou prevalentní téměř všude a naznačují, jakým směrem se zřejmě bude vývoj ubírat.

  1. Život člověka má přednost nad životem jiných tvorů.
  2. Čím vyšší zachráněný počet životů, tím lépe – má přednost nad nižším počtem.
  3. Je lépe zachránit život mladého člověka než starého.

Chytré autonomní vozy budou zabíjet; s největší pravděpodobností to tak bohužel skončí. Pokud budou vývojáři i uživatelé zodpovědní, tak sice samořiditelná auta způsobí mnohem méně smrtelných nehod než lidští řidiči, ale chybám – minimálně zpočátku – se lze 100% vyhnout jen velmi těžko.

Stanovit základní etické mezníky je nutné – vzhledem k roztříštěnosti současného trhu je však možné, že o tom nakonec budou rozhodovat samy automobilky, bez větší standardizace.

1 Komentář
nejstarší
nejnovější nejlépe hodnocené
Inline Feedbacks
View all comments
Antonín

Potom se tedy ptám: „Bude automobilka povinna sdělit zákazníkům, jaký algoritmus pro rozhodování používá?“
Když bych se měl rozhodovat, které auto si pořídím, tak rozhodně ne to, které mne za moje peníze vědomně zabije.

Obrázek: Microsoft Loop: Nový nástroj pro efektivní spolupráci spojuje nástroje Office a využívá AI
Microsoft Loop: Nový nástroj pro efektivní spolupráci spojuje nástroje Office a využívá AI
Obrázek: Na čem hrají Češi? PlayStation 5 může vše změnit, většina z nás není spokojena s výkonem svého počítače
Na čem hrají Češi? PlayStation 5 může vše změnit, většina z nás není spokojena s výkonem svého počítače
Obrázek: Vesmírný závod ztrácí jednoho z klíčových účastníků. Virgin Orbit pozastavuje veškeré plány
Vesmírný závod ztrácí jednoho z klíčových účastníků. Virgin Orbit pozastavuje veškeré plány
Obrázek: Nové skafandry NASA vypadají jako ze sci-fi. V tomhle se budou astronauti procházet po Měsíci
Nové skafandry NASA vypadají jako ze sci-fi. V tomhle se budou astronauti procházet po Měsíci
Obrázek: Co dokáže umělá inteligence? Vyfotíte obsah chladničky a ona připraví recepty
Co dokáže umělá inteligence? Vyfotíte obsah chladničky a ona připraví recepty
Obrázek: Podvodníci jsou v okrádání lidí čím dál lepší: Už se naučili česky a vytváří pěkné kopie webů
Podvodníci jsou v okrádání lidí čím dál lepší: Už se naučili česky a vytváří pěkné kopie webů
Obrázek: Jak nainstalovat Windows 11 bez Microsoft účtu? Pomůže chytrý trik
Jak nainstalovat Windows 11 bez Microsoft účtu? Pomůže chytrý trik
Obrázek: Tajné kódy na Netflix: Jak najít a sledovat skryté filmy a seriály?
Tajné kódy na Netflix: Jak najít a sledovat skryté filmy a seriály?