Koga će ubiti samovozeći automobil? Stroj, spasi što više ljudi, ali prije svega spasi mene!

Ako se dogodi situacija u kojoj autonomni sustav automobila mora brzo izabrati koga će žrtvovati u slučaju neposredne nesreće, kako bi trebao reagirati? Žrtvovanje putnika da bi se spasili pješaci? Ako je potrebno, ubiti pješaka da poštedi, na primjer, četveročlanu obitelj koja putuje automobilom? Ili bi se možda uvijek trebao prvo zaštititi?

Dok je više od šezdeset tvrtki već dobilo dozvole za osobno testiranje samo u Kaliforniji, teško je reći da je industrija spremna suočiti se s etičkim dilemama. Trenutačno se bori s osnovnijim problemima - radom i navigacijskom učinkovitošću sustava te jednostavno izbjegavanjem sudara i nepredviđenih događaja. U situacijama poput nedavnog ubojstva pješaka u Arizoni ili kasnijih nesreća (1), dosad se radilo samo o kvarovima sustava, a ne o nekakvom "etičkom izboru" automobila.

Spasite bogate i mlade

Problemi donošenja ovakvih odluka nisu apstraktni problemi. Svaki iskusni vozač to može potvrditi. Prošle su godine istraživači iz MIT Media Laba analizirali više od četrdeset milijuna odgovora ispitanika iz cijelog svijeta koji su prikupljeni tijekom istraživanja pokrenutog 2014. Sustav anketiranja koji nazivaju "Etički stroj", pokazao je da na raznim mjestima diljem svijeta svijetu, na slična pitanja postavljaju se različiti odgovori.

Najopćenitiji zaključci su predvidljivi. U ekstremnim situacijama ljudi više vole spašavati ljude nego brinuti se za životinje, s ciljem spašavanja što više života, te su skloniji biti mlađi od starijih (2). Postoje i neke, ali manje očite, preferencije kada je u pitanju spašavanje žena u odnosu na muškarce, ljudi višeg statusa u odnosu na siromašnije ljude i pješaka u odnosu na putnike u automobilu..

2. Koga treba auto spasiti?

Budući da je gotovo pola milijuna ispitanika ispunilo demografske upitnike, bilo je moguće povezati njihove sklonosti s dobi, spolom i vjerskim uvjerenjima. Istraživači su zaključili da te razlike nisu "značajno utjecale" na odluke ljudi, ali su primijetili neke kulturne utjecaje. Francuzi su, primjerice, težili vaganju odluka na temelju procijenjenog broja smrtnih slučajeva, dok je u Japanu naglasak bio najmanji. Međutim, u Zemlji izlazećeg sunca život starijih se cijeni puno više nego na Zapadu.

“Prije nego što dopustimo našim automobilima da donose vlastite etičke odluke, moramo voditi globalnu raspravu o tome. Kada tvrtke koje rade na autonomnim sustavima saznaju za naše preferencije, tada će razviti etičke algoritme u strojevima koji se temelje na njima, a političari mogu početi uvoditi adekvatne zakonske odredbe”, napisali su znanstvenici u listopadu 2018. u Natureu.

Jedan od istraživača uključenih u eksperiment Moralni stroj, Jean-Francois Bonnefont, smatra da je sklonost spašavanju ljudi višeg statusa (kao što su direktori nad beskućnicima) alarmantna. Po njegovom mišljenju, to je uvelike povezano s razinu ekonomske nejednakosti u određenoj zemlji. Tamo gdje su nejednakosti bile veće, prednost se davala žrtvovanju siromašnih i beskućnika.

Jedna od prethodnih studija pokazala je, naime, da bi, prema mišljenju ispitanika, autonomni automobil trebao zaštititi što više ljudi, čak i ako to znači gubitak putnika. U isto vrijeme, međutim, ispitanici su izjavili da ne bi kupili ovako programiran automobil. Istraživači su to objasnili dok ljudi smatraju da je etičnije spasiti više ljudi, oni su također zainteresirani za sebe, što bi mogao biti signal proizvođačima da će kupci nevoljko kupovati automobile opremljene altruističkim sustavima.. Prije nekog vremena predstavnici tvrtke Mercedes-Benz izjavili su da kada bi njihov sustav spasio samo jednu osobu, birali bi vozača, a ne pješaka. Val javnog prosvjeda prisilio je tvrtku da povuče svoju izjavu. Ali istraživanje jasno pokazuje da je u ovom svetom gnjevu bilo mnogo licemjerja.

To se već događa u nekim zemljama. prvi pokušaji pravne regulative u polju. Njemačka je donijela zakon koji zahtijeva da automobili bez vozača pod svaku cijenu izbjegnu ozljede ili smrt. Zakon također navodi da algoritmi nikada ne mogu donositi odluke na temelju karakteristika kao što su dob, spol, zdravlje ili pješaci.

Audi preuzima kontrolu

Dizajner nije u stanju predvidjeti sve posljedice rada automobila. Stvarnost uvijek može pružiti kombinaciju varijabli koje nikada prije nisu bile ispitane. To potkopava našu vjeru u mogućnost "etičkog programiranja" stroja uopće. Čini nam se da bi u situacijama kada dođe do pogreške i tragedije “zbog automobila” odgovornost trebao snositi proizvođač i programer sustava.

Možda je ovo razmišljanje točno, ali možda ne zato što je bilo pogrešno. Umjesto toga, jer je bilo dopušteno kretanje koje nije bilo 2019% oslobođeno mogućnosti da ga se napravi. Čini se da je to razlog, a tvrtka ne bježi od zajedničke odgovornosti, koja je nedavno objavila da će preuzeti odgovornost za nesreće u kojima je sudjelovao 8-godišnji A3 dok je u njemu koristio automatski sustav Traffic Jam Pilot (XNUMX).

3. Sučelje Audi Traffic Jam Pilot

S druge strane, postoje milijuni ljudi koji voze automobile i također griješe. Pa zašto bi onda strojevi, koji statistički griješe mnogo manje od ljudi, o čemu svjedoče brojne pogreške, bili diskriminirani u tom pogledu?

Ako netko misli da su dileme etike i odgovornosti u svijetu autonomnih vozila jednostavne, neka razmisli...