Budou samoříditelná auta rozhodovat, kdo zemře?

V oblasti automobilových technologií jsou horkým tématem auta, která jsou schopna řídit sama sebe. A i běžné vozy jsou dnes vybaveny různými kontrolními nástroji, parkovacími programy a dokonce rovněž systémy automatického předjíždění. Není tedy žádným překvapením, že výrobci už uvažují o autech, která by převzala řízení z rukou řidičů úplně. Ta by měla být bezpečnější, čistší a úspornější než běžné vozy. Ale dokonale bezpečná nebudou nikdy.

Když se začneme bavit o bezpečnosti, objeví se některé hodně problematické otázky. Jak by měla být samoříditelná auta naprogramována pro případ nehody? Měla by minimalizovat ztráty na životech, i kdyby to znamenalo usmrcení osob převážených v autě? Nebo by je měla naopak chránit bez ohledu na konkrétní situaci? Nebo by si měla auta nějak vybírat? Odpovědi na tyto etické otázky jsou důležité, protože mohou významným způsobem ovlivnit, jak bude nová technologie přijata celou společností. Koupili byste si vy auto, které je naprogramováno k tomu, aby obětovalo své pasažéry?

Může v této situaci pomoci věda? Jean-Francois Bonnefon z Toulouse School of Economics k tomu říká, že žádná správná odpověď neexistuje a rozhodující roli bude hrát právě postoj celé veřejnosti. Se svými kolegy se tedy pokusil tyto postoje zjistit a použil experiment, v jehož rámci lidé řešili etická dilemata. Měli si představit, že v blízké budoucnosti budou vlastnit auto, které je schopno řídit samo sebe. Pak dojde k tomu, že jeden den pojede tento vůz přímo proti skupině deseti lidí, kteří přecházejí přes vozovku. Vůz není možné včas zastavit, ale jeho jízdu lze nasměrovat namísto do skupiny lidí do postranní zdi. Tento náraz by ale zabil převáženou osobu. Otázka zní, co by mělo auto udělat?

Jestliže se budeme snažit o minimalizaci ztrát na životech, smrt jednoho člověka je z tohoto pohledu lepší než smrt deseti. Pokud by ale auta byla naprogramována tímto způsobem, mohlo by dojít k tomu, že je bude kupovat méně lidí a namísto toho si pořídí tradiční vozy, které ale způsobují více dopravních nehod. Bonnefon předkládal podobná dilemata několika stovkám zaměstnanců společnosti Amazon. V zadání se měnil například počet chodců, které bylo možno zachránit, nebo to, zda situace byla posuzována z pohledu vlastníka auta či nezávislé osoby.

Výsledky studie jsou zajímavé a zároveň se daly očekávat. Obecně totiž můžeme říci, že lidé preferují technologii, která by minimalizovala ztráty na životech. Problém je jen v tom, že takto většinou uvažujeme o vozech jiných lidí, ale ne co se týče vozu našeho. Jinak řečeno, lidé preferují vozy, které obětují jejich vlastníka, ale pouze v případě, že jím nejsou oni sami.

Bonnefon zdůrazňuje, že jde pouze o první výsledky, celkový obraz bude pravděpodobně složitější. Dosavadní testy totiž nepracovaly s faktory, jako je nejistota či vina za to, co se stalo. K uvedeným otázkám pak můžeme přidat dilemata týkající se života dětí. A ptát se můžeme i na následující: Pokud budou výrobci nabízet rozdílné algoritmy chování a majitel si vědomě vybere jeden z nich, bude to on, kdo ponese vinu za důsledky tohoto výběru? Bonnefon tvrdí, že tato dilemata nelze v současné situaci ignorovat. „Hodláme dát milionům vozů autonomii a algoritmy týkající se morálního jednání musíme brát vážněji než kdy předtím,“ říká vědec.

Zdroj: MIT Technology Review