Auta bez řidiče se blíží na naše silnice. Jejich příchod plánují jak „nové“ automobilky (jako Google, Tesla a zřejmě i Apple), tak i tradiční společnosti (ty ani nemá smysl vyjmenovávat, experimentují s nimi prakticky všechny velké firmy). Celkově se zdá velmi pravděpodobné, že změna se v tomto případě odehraje mnohem rychleji, než jsme si ještě před několika lety mysleli. Samozřejmě auta bez řidiče určitě neovládnou silnice hned. Nepochybně bude nějakou dobu trvat, než se stávající vozový park obmění, navíc mohou celou změnu držet i problémy jiné než čistě technické. Auto plně ovládané „umělou inteligencí“ (do uvozovek dáváme, protože nejde o obecnou inteligenci) s sebou přináší i řadu otázek rázu morálního a právního. Tou nejzákladnější zatím je: kdo může za to, když auto nabourá? A konkrétněji: jaké etické rozhodování bychom měli robotickým autům vštípit při jejich výrobě? Obecně se má za to – a dosavadní testy to potvrzují – že robotická auta výrazně sníží počet nehod na silnicích, a dosavadní veřejně dostupné informace se tento předpoklad zdají potvrzovat. V kalifornských ulicích se například vozový park Google rozšiřuje v posledních letech poměrně velkým tempem a na tamních ulicích už experimentální auta můžete potkat prakticky každý den. Dostali už se do řádově desítek drobných střetů a kolizí, ale za všechny – až na jednu – mohli jiní řidiči na silnici. (V případě té jedné výjimky došlo ke kolizi s autobusem, když se auto rozjíždělo od krajnice a v nízké rychlosti do něj ťuklo. Domnívalo se, že řidič autobusu ho pustí, což se evidentně nestalo.) Není těžké pochopit, proč si počítače vedou za volantem lépe než my: lidé špatně odhadují vzdálenost, usínají za volantem, řídí opilí a zfetovaní, zmatkují. Počítač je ale zcela racionální i v situaci, kdy lidský řidič reaguje zcela instinktivně. Před autem je z ničeho nic člověk, pokud se mu vyhnete ohrožujete svůj vlastní život a život svých pasažérů. Nemáte šanci domyslet během půl sekundy všechny etické aspekty svého rozhodnutí. „I kdyby se jednalo o naprosto neobvyklé situace, programátor stejně musí naprogramovat, jak se v takové situaci auto zachová,“ píše Jean-François Bonnefon a jeho kolegové v článku, který publikoval prestižní časopis Science. Jinými slovy řečeno, v každém okamžiku, kdy se povezete samořídicím autem, bude někdo rozhodovat – či přesněji už rozhodl – za vás. Bonnefon s kolegy se rozhodli zjistit, jak na takovou situaci reagují potenciální kupci a majitelé takových vozů. Co lidé očekávají od autonomních aut v kritických situacích, kdy je téměř jisté, že někdo zemře. Obecně se rozlišují dva hlavní principy, podle kterých se lze v takovém případě rozhodnout: „utilitární“ princip většího dobra. Podle něj by měla být zvolena možnost, která vede k menšímu utrpení, zjednodušeně tedy ohrožení menšího počtu lidí. Tímto směrem uvažoval Asimov, když navrhl slavné tři zákony robotiky. Druhý přístup je „sobecký“ princip ochrany sebe sama. Vychází z lidského pudu sebezáchovy a říká, že každý se snaží především zachránit sebe, a teprve potom se může ohlížet na ostatní. Výzkumníci předložili různé scénáře v 6 on-line studiích celkem 1928 účastníkům. Výsledky lze shrnout do jednoduchého a nepříliš překvapivého závěru: „Lidé schvalovali naprogramování samořídicích automobilů tak, aby automobil obětoval svého pasažéra, pokud tím může zachránit větší množství lidí. Účastníci by také chtěli, aby si takové auto kupovali ostatní lidé. Oni sami pro sebe by ale preferovali, kdyby jejich samořídicí auto chránilo v kritickém okamžiku jejich život, nikoli životy ostatních.“ Co se prodává? Na tom, že lidé chtějí pro sebe něco jiného, než pro ostatní, není nakonec nic nového. Každý by chtěl, aby ostatní stáli poslušně ve frontě (dodržovali etickou normu), nicméně skoro každý by uvítal, pokud by mohl dlouhou frontu předběhnout (porušit etickou normu). Etika zná tento problém jako princip užitečnosti pro celek. Bonnefon a jeho kolegové ale ukázali, že v případě samořídicích aut může tato přirozená lidská preference vést k zajímavému pragmatickému řešení. Je možné, domnívají se na základě výzkumu vědci, že lidé si nebudou chtít kupovat auta, která by neměla za úkol jejich ochranu. Zatím jsme totiž zvyklí na to, že auto chrání především své pasažéry: bezpečnostní pásy, airbagy, deformační zóny, to vše má zvýšit bezpečnost lidí uvnitř auta. Zaplatit za auto, které by v případě volby zvolilo „morální variantu“ i na úkor svého majitele, to se řadě lidí příčí. Auto, které by za každou cenu chránilo majitele, mělo 50 bodů oblíbenosti (medián hodnocení na škále 1 až 100), zatímco u auta, které by bylo naprogramováno „eticky“, klesla jeho oblíbenost na 19 bodů. Jinými slovy, přestože účastníci souhlasili, že etické auto je pro společnost lepší, raději by si koupili auto, které je bude jako tank chránit „hlava nehlava“. „Na světě je řada příkladů, kdy všichni mají pokušení vézt se na obětavosti ostatních,“ připomínají autoři studie. „Obvyklým řešením je regulace, která vynutí chování, jež vede k obecně prospěšnému výsledku.“ Ale jeden z 6 průzkumů, který vědci provedli, ukázal, že vynucení „etického algoritmu“ by mohlo znatelně snížit atraktivitu takových aut, a tím i zpomalit jejich prodej. Méně prodaných samořídicích aut by tak paradoxně znamenalo, že regulace, která měla zachránit více životů, jich tak nakonec více zmařila. Vědci odhadují, že samořídicí auta zachrání mnohem více životů tím, že nahradí řidiče. Naprosto výjimečné situace, kdy auto musí volit mezi tím, koho zachrání, mají na celková čísla pramalý vliv. Ale naprogramovat auta ve stylu sebeobětavých Mirků Dušínů by znamenalo snížit jejich prodej, a tím zvýšit nehodovost oproti stavu, kdy by více lidí koupilo samořídicí (byť „sobecká“) auta. Podobných paradoxů bude ve světě, kde počítače rozhodují, rozhodně více. „Najít způsob, jak naprogramovat etické samostatné stroje, je jedna z nejtrnitějších výzev ve zkoumání umělé inteligence,“ domnívají se vědci. „Naším výzkumem jsme chtěli ukázat na jeden ze způsobů, jak k této výzvě přistoupit a jak změřit očekávání lidí v této oblasti.“
