Koho zabije samoriadiace auto? Stroj, zachráň čo najviac ľudí, ale hlavne zachráň mňa!

Ak nastane situácia, že autonómny systém auta si musí rýchlo vybrať, koho obetovať v prípade hroziacej nehody, ako má reagovať? Obetovať cestujúcich, aby sme zachránili chodcov? V prípade potreby zabiť chodca, aby ste ušetrili napríklad štvorčlennú rodinu cestujúcu v aute? Alebo by sa možno mal vždy najprv chrániť?

Zatiaľ čo len v Kalifornii už viac ako šesťdesiat spoločností získalo osobné testovacie povolenia, je ťažké povedať, že toto odvetvie je pripravené čeliť etickým dilemám. Momentálne bojuje so základnejšími problémami – prevádzkou a navigačnou efektívnosťou systémov a jednoduchým vyhýbaním sa kolíziám a nepredvídaným udalostiam. V situáciách, ako je nedávna vražda chodca v Arizone, alebo následné zrážky (1), to bolo doteraz len o systémových zlyhaniach, a nie o nejakom „etickom výbere“ auta.

Zachráňte bohatých a mladých

Otázky prijímania takýchto rozhodnutí nie sú abstraktnými problémami. Každý skúsený vodič to môže potvrdiť. Minulý rok výskumníci z MIT Media Lab analyzovali viac ako štyridsať miliónov odpovedí od respondentov z celého sveta, ktoré zozbierali v rámci výskumu spusteného v roku 2014. Systém hlasovania, ktorý nazývajú „Etický stroj“, ukázal, že na rôznych miestach v okolí vo svete, na podobné otázky sa kladú rôzne odpovede.

Najvšeobecnejšie závery sú predvídateľné. V extrémnych situáciách ľudia uprednostňujú záchranu ľudí pred starostlivosťou o zvieratá s cieľom zachrániť čo najviac životov a bývajú mladší ako starší ľudia (2). Existujú aj určité, ale menej zrejmé preferencie, pokiaľ ide o záchranu žien pred mužmi, ľudí s vyšším postavením pred chudobnejšími a chodcov pred cestujúcimi v aute..

2. Koho má auto zachraňovať?

Keďže demografické dotazníky vyplnilo takmer pol milióna respondentov, bolo možné korelovať ich preferencie s vekom, pohlavím a náboženským presvedčením. Vedci dospeli k záveru, že tieto rozdiely „výrazne neovplyvnili“ rozhodnutia ľudí, zaznamenali však určité kultúrne vplyvy. Napríklad Francúzi mali tendenciu vážiť rozhodnutia na základe odhadovaného počtu úmrtí, zatiaľ čo v Japonsku sa kládol najmenší dôraz. V krajine vychádzajúceho slnka si však život starších ľudí vážia oveľa viac ako na Západe.

„Predtým, ako umožníme našim autám robiť vlastné etické rozhodnutia, musíme o tom viesť globálnu diskusiu. Keď sa spoločnosti pracujúce na autonómnych systémoch dozvedia o našich preferenciách, potom na nich vyvinú etické algoritmy v strojoch a politici môžu začať zavádzať adekvátne zákonné ustanovenia, “napísali vedci v októbri 2018 v Nature.

Jeden z výskumníkov zapojených do experimentu Moral Machine, Jean-Francois Bonnefont, zistil, že uprednostňovanie záchrany ľudí s vyšším postavením (napríklad vedúcich pracovníkov pred bezdomovcami) je alarmujúce. Podľa jeho názoru s tým veľmi súvisí miera ekonomickej nerovnosti v danej krajine. Tam, kde boli nerovnosti väčšie, sa dávalo prednosť obetovaniu chudobných a bezdomovcov.

Jedna z predchádzajúcich štúdií ukázala najmä to, že autonómne auto by malo podľa opýtaných ochrániť čo najviac ľudí, aj keby to znamenalo stratu pasažierov. Respondenti však zároveň uviedli, že takto naprogramované auto by si nekúpili. Vedci to vysvetlili ľuďom síce pripadá etickejšie zachraňovať viac ľudí, no zároveň sa zaujímajú o seba, čo by mohlo byť signálom pre výrobcov, že zákazníci sa budú zdráhať kupovať autá vybavené altruistickými systémami.. Pred časom sa zástupcovia spoločnosti Mercedes-Benz vyjadrili, že ak by ich systém zachránil len jedného človeka, vybrali by si vodiča, nie chodca. Vlna protestu verejnosti prinútila spoločnosť stiahnuť svoje vyhlásenie. Výskum však jasne ukazuje, že v tomto svätom rozhorčení bolo veľa pokrytectva.

V niektorých krajinách sa to už deje. prvé pokusy o právnu reguláciu v teréne. Nemecko schválilo zákon, podľa ktorého sa autá bez vodiča musia za každú cenu vyhýbať zraneniu alebo smrti. Zákon tiež uvádza, že algoritmy sa nikdy nemôžu rozhodovať na základe charakteristík, ako je vek, pohlavie, zdravie alebo chodci.

Audi preberá zodpovednosť

Konštruktér nie je schopný predvídať všetky dôsledky prevádzky auta. Realita môže vždy poskytnúť kombináciu premenných, ktoré neboli nikdy predtým testované. To podkopáva našu vieru v možnosť „etického naprogramovania“ stroja vôbec. Zdá sa nám, že v situáciách, keď dôjde k chybe a dôjde k tragédii „vinou auta“, by mal zodpovednosť niesť výrobca a vývojár systému.

Možno je táto úvaha správna, ale možno nie preto, že by bola nesprávna. Skôr preto, že bol povolený pohyb, ktorý nebol na 2019 % bez možnosti ho uskutočniť. Zdá sa, že to je dôvod a spoločná zodpovednosť sa nevyhýba ani spoločnosti, ktorá nedávno oznámila, že prevezme zodpovednosť za nehody týkajúce sa 8-ročného A3, pričom v ňom použije automatický systém Traffic Jam Pilot (XNUMX).

3. Rozhranie Audi Traffic Jam Pilot

Na druhej strane sú milióny ľudí, ktorí jazdia na autách a tiež robia chyby. Prečo by teda mali byť v tomto smere diskriminované stroje, ktoré štatisticky robia oveľa menej chýb ako ľudia, o čom svedčia početné chyby?

Ak si niekto myslí, že dilemy etiky a zodpovednosti vo svete autonómnych vozidiel sú jednoduché, myslite ďalej...