Představte si situaci, která by ještě před deseti lety patřila výhradně do světa sci-fi: automobil jedoucí po dálnici se ve zlomku sekundy ocitne před nevyhnutelnou srážkou. Brzdy nestačí. Algoritmus musí rozhodnout — a rozhodne dříve, než řidič stačí mrknout. Otázka zní: podle jakých pravidel?
Autonomní a poloautonomní vozidla přinášejí do dopravy novou dimenzi odpovědnosti. Nejde jen o technickou spolehlivost senzorů, přesnost LiDARu ani výpočetní výkon palubních počítačů. Jde o něco hlubšího a znepokojivějšího: o hodnoty zakódované do rozhodovacích algoritmů. O etiku zapsanou v řádcích kódu, kterou nikdo z cestujících nečetl a ke které nikdo nedal explicitní souhlas.
Slavný myšlenkový experiment — tramvajové dilema (trolley problem) — dostal v éře autonomní mobility zcela nový, praktický rozměr. Výzkum MIT v rámci projektu Moral Machine ukázal, že lidé z různých kultur rozhodují v krizových scénářích překvapivě odlišně. Přesto dnes globální automobilky implementují jednotné algoritmy bez ohledu na kulturní, právní či etické rozdíly jednotlivých trhů.
Kdo tedy nese odpovědnost? Vývojář, který napsal kód? Výrobce, který ho schválil? Regulátor, který ho certifikoval? Nebo majitel vozidla, jenž podepsal licenční podmínky o sto stranách, aniž je četl?
Evropská unie se tímto tématem zabývá v rámci AI Actu i revize směrnice o odpovědnosti za výrobky. Jde o správný krok — ale legislativa vždy pokulhává za technologií. Zatímco regulátoři diskutují, algoritmy již rozhodují.
Na jedné straně technologie zachraňují životy. Na straně druhé ale rovněž mohou rozhodovat o smrti. Například v situaci, kdy už nelze žádné kolizi zabránit a musí se rozhodnout, zda ohrozí životy vně, nebo uvnitř vozu.
Jako technická komunita máme povinnost tuto debatu neponechat právníkům, filozofům, případně lékařům. Transparentnost rozhodovacích modelů, auditovatelnost algoritmů a zapojení veřejnosti do etických standardů — to jsou výzvy, které patří i na stůl inženýrů.
Protože kód není neutrální. Nikdy nebyl.
