Etická otázka: Koho má autonomní auto při nehodě upřednostnit?

I když vozidlo zabrzdilo a zůstalo stát do tří sekund, zjistilo se, že nouzový systém začal auto brzdit až 1,3 sekundy před nárazem. Experti zkoumají, zda software neselhal a zda začal skutečně brzdit ihned poté, co rozpoznal nebezpečnou překážku na silnici. Událost znovu ukázala naléhavost některých morálních dilemat spojených s provozem autonomních vozidel.

V magazínu Risk Analysis byla publikována nová studie „Jak by měla řídit autonomní auta? Etické otázky chyb systému v podmínkách rizika a nejistoty“, v rámci níž se International Journal dotazoval veřejnosti, jaké je podle ní eticky nejčistší chování autonomních vozidel v situaci, kdy bude (neodvratně) čelit kolizi. Je jasné, že i perfektně fungující autonomní auto nebude schopno vyhnout se střetu ve všech případech a že je třeba počítat se situacemi, kdy jakýkoli vývoj povede k nějaké formě srážky.

Výzkumný tým byl složený ze zástupců Max Planck Institute for Human Development a univerzity v Göttingen. Ptali se respondentů, co by si vybrali v situaci, kdy ke srážce s jiným účastníkem dojde s různou mírou nejistoty: drželi by dosavadní linii jízdy a brzdili by, anebo by vybočili do strany ve snaze vyhnout se?

Klíčovým závěrem z tohoto výzkumu je zjištění, že lidé by obecně preferovali zůstat s autem v dosavadní jízdní stopě a aktivovat záchrannou brzdu. Podle nich to odpovídá více všeobecným zásadám pro řízení aut a poskytuje to vyšší možnost kontroly nad vozidlem, a to i tehdy, nevede-li to k minimalizaci očekávané škody.

Toto stanovisko lze zahrnout jako jednoduchý princip, jenž vyžaduje vyhodnocování méně informací a často povede k lepším výsledkům. Autoři studie také odhalili, že i když setrvání v dosavadním pruhu nebo stopě vedlo k nehodě, lidé většinou zpětně nepřehodnocovali morální aspekty události, zatímco když se rozhodli ze své stopy vybočit a snažili se překážce vyhnout, měl neúspěch tohoto manévru zpravidla vliv na pozdější hodnocení jejich jednání.

Lidé chtějí jet rovně

Během prvního experimentu byl účastníkům studie prezentován scénář, v němž autonomní auto musí provést dva manévry: buď zůstat ve svém původním směru, nebo vybočit. Setrvání ve vlastní stopě znamená nebezpečí pro chodce ve vozovce, zatímco vybočení přináší riziko pro chodce nebo stojící osoby po stranách. Pravděpodobnost střetu s chodcem nebo s osobou po stranách jízdní dráhy byla proměnlivá v různých scénářích se zahrnutím specifikovaných nebo neznámých rizik.

Sběr dat probíhal on-line přes platformu Amazon Mechanical Turk (AMT). Respondenti dostali popis scénářů v silničním provozu, v němž se auto pohybuje, když se náhle ve směru jejich dráhy objeví chodec. Auto může pokračovat dál a aktivovat záchrannou brzdu, což může vést ke kolizi s chodcem, anebo vybočit doprava ve snaze se mu vyhnout, aktivovat záchrannou brzdu, nicméně může dojít ke sražení osoby nacházející se po straně jízdní dráhy.

Pravděpodobnost kolize s chodcem na silnici byla buď 20, nebo 50, nebo 80 procent. V „rizikové podmínce“ stanovili pravděpodobnost střetu s osobou po straně vozovky na 50 procent. V „podmínce nejistoty“ nebyla pravděpodobnost srážky známa, protože automobilový systém nebyl schopen udělat odhad.

Výsledek ukázal výše uvedené: všeobecnou přednost pro setrvání v jízdní dráze (více než 85 %). Když byla pravděpodobnost kolize s osobou po straně jízdní stopy neznámá, stále asi 70 % respondentů preferovalo zůstat ve své dosavadní linii. V modelové situaci pravděpodobnosti střetu 20 % s chodcem ve směru jízdy a 50 % srážky osoby na straně, si stále ještě nikdo nevybral možnost vybočit. A dokonce pokud obě pravděpodobnosti střetů byly ve scénáři vyčísleny shodně na 50 %, bylo většinově stále akceptovatelnější zůstat ve své dosavadní jízdní dráze.

Morální dilema se nekoná

Druhý experiment zkoumal, jak s odstupem lidé zpětně hodnotí chování autonomního auta, došlo-li ke kolizi. Z pohledu společenské perspektivy by mělo autonomní vozidlo jednat způsobem, který lidé považují za přijatelný, i když dojde ke srážce. Výzkumníci znovu oslovili 766 subjektů prostřednictvím AMT platformy. Respondentům kladli otázku, jak by mělo autonomní auto reagovat ve specifické situaci a jak vyhodnotit morální akceptovatelnost obou postupů: zůstat ve stopě nebo vybočit ve snaze vyhnout se.

Výsledky ukázaly, že pokud auto zůstane v dosavadní jízdní dráze, výsledek situace (srážka nebo zabránění srážce s jiným účastníkem) neovlivní soud respondenta o reakci auta. Pokud ale auto vybočí, výsledek byl zpětně jiný. Když následkem toho ke srážce nedojde, 40 % oslovených by vybočilo, ale jen 20 % dotázaných by se tak zachovalo v situaci, kdy srážce se nezabrání a nastane. Přesvědčivě je tak přijatelnější volba nevybočovat, a to i v situaci, vede-li to ke kolizi.

„Náš výzkum ukazuje, jak důležité je lépe porozumět způsobu lidského přemýšlení o tom, jak by se mělo autonomní auto chovat za podmínek různého stupně nejistoty,“ komentoval závěry studie Björn Meder z Max Planck Institutu. „Výsledky pomohou k vypracování zásad a k veřejné diskusi o etických důsledcích různých postupů technologie, jež transformují společnost v mnoha ohledech.“

Ukazuje se tedy, že všeobecně akceptovatelnější je zůstat s autem v dosavadní stopě a je to morálně únosnější i v situaci, není-li tak minimalizována vzniklá škoda. To současně implikuje nastavení, aby autonomní auto neshromažďovalo informace o alternativních reakcích nebo možnostech. Přes tyto závěry jsou tvůrci nových zásad a pravidel vystaveni výzvě, aby jejich ustanovení byla morálně správná a zdravá a současně apelovala na vůli veřejnosti po sebezáchově.

Hlavně, abychom to přežili my

Předchozí realizované studie (Bonnefon, Shariff & Rahwan, 2016, Science) ukázaly, že obecně budou subjekty preferovat taková autonomní auta, která by obětovala vlastní pasažéry v zájmu minimalizace celkového počtu obětí, ale že současně chtějí své vlastní autonomní vozidlo, které by naopak upřednostňovalo bezpečí posádky.

Zatímco výše popsaná studie demonstruje všeobecnou akceptaci chyb autonomních aut v zájmu minimalizace potenciální škody, majitelé konkrétních autonomních vozidel chtějí hlavně chránit pasažéry ve voze, tedy sebe.