Morální otázky jsou klíčovou součástí celé diskuze a chytrých automobilech. Pokud necháme vůz autonomně řídit, může se stát, že se dostane do situace, kdy bude muset ohrozit lidský život. To však s sebou přináší množství rozporuplných morálních dilemat.
Na etiku autonomních vozů se zaměřili vědci z MIT a pomocí rozsáhlého průzkumu zjišťovali, jak se k etické otázce staví lidé po celém světě.
Odpověď docela překvapí: rozdíly nejsou tak velké.
Trolley problem: neřešitelné dilema autonomních aut
Celosvětový průzkum má nevídaný rozsah, z 200 zemí odpovědělo výzkumníkům MIT přes 2 miliony občanů. Dotazník se zabýval klasickým neřešitelným etickým rébusem, tzv. „Trolley Problem“ neboli v češtině tramvajovým dilematem. Jeho mírně upravená podoba je stále stejně děsivá.
Premisa je jednoduchá: srážka vozidla je jasná a nevyhnutelná a auto bez řidiče si musí vybrat, koho zraní nebo přímo zabije – nezmění svou trasu a srazí skupinu lidí na přechodu, nebo raději zatočí a přejede menší počet kolemjdoucích na chodníku?
Přestože v průzkumu se mimo jiné vyskytla tato varianta tramvajového dilematu, lehce lze vymyslet i jiné. Pokud si musí vůz vybrat mezi přejetím chodce na přechodu nebo naražením do stromu ve vysoké rychlosti (a tedy velmi pravděpodobné smrti cestujícího), co z toho je lepší? Lze morálně ospravedlnit přejetí dítěte, pokud se tím zachrání několik životů dospělých osob?
Uzdu kreativitě popustili i tvůrci průzkumu z MIT, tramvajových dilemat představili hned několik skrze aplikaci Moral Machine.
Ano, jde o teoretické otázky – jenže jde zároveň o problémy, na něž musíme znát odpověď, než se kolem nás začnou auta bez řidičů objevovat. Lidský řidič má v tomto případě o něco jednodušší postavení; v kritické situaci reaguje intuitivně, etika tu příliš roli nehraje, není čas přemýšlet nad řešením. Stroj se rozhoduje v řádu méně než milisekund: ví přesně, co dělá.
Vítězí počet lidí a jejich věk
Studie MIT přišla se zajímavými výsledky. Celkově se morální zásady – vcelku logicky – po světě liší, byť spíše v drobnostech. Tři jevy jsou prevalentní téměř všude a naznačují, jakým směrem se zřejmě bude vývoj ubírat.
- Život člověka má přednost nad životem jiných tvorů.
- Čím vyšší zachráněný počet životů, tím lépe – má přednost nad nižším počtem.
- Je lépe zachránit život mladého člověka než starého.
Chytré autonomní vozy budou zabíjet; s největší pravděpodobností to tak bohužel skončí. Pokud budou vývojáři i uživatelé zodpovědní, tak sice samořiditelná auta způsobí mnohem méně smrtelných nehod než lidští řidiči, ale chybám – minimálně zpočátku – se lze 100% vyhnout jen velmi těžko.
Stanovit základní etické mezníky je nutné – vzhledem k roztříštěnosti současného trhu je však možné, že o tom nakonec budou rozhodovat samy automobilky, bez větší standardizace.
