Valget mellem liv og død
Etiske dilemmaer bag førerløse biler.
Udviklingen inden for kunstig intelligens i biler er de seneste år gået ekstremt hurtigt. Flere og flere bilproducenter har fået interesse inden for feltet, efter at firmaer som Google og Tesla har vist, at der kan være store økonomiske muligheder ved at være forrest i kapløbet om at få de førerløse biler ud på vejene. Den accelererede udvikling inden for kunstig intelligens har medført en række etiske dilemmaer om, hvordan førerløse biler skal reagere på forskellige situationer i trafikken, hvor tragiske ulykker måske er uundgåelige. Selvom ulykker vil være sjældne, er det uundgåeligt med situationer, hvor førerløse biler vil blive tvunget til at skulle foretage valg, der kan have fatale konsekvenser for enten passageren af den førerløse bil eller andre mennesker i trafikken. Det er netop her, problemstillingen ligger. Skal førerløse biler beskytte passagerer i bilen uanset konsekvenserne, eller skal bilen forsøge at redde så mange liv som muligt og derved måske skade eller dræbe passagererne? Denne etiske problemstilling vil man kunne diskutere i uendelighed, men fakta er, at førerløse biler generelt er meget sikrere end normale biler. Der kan derfor argumenteres for, at det vil være etisk uansvarligt at udskyde lanceringen af førerløse biler, bare fordi bilen i meget få situationer vil blive nødt til at træffe nogle valg, der etisk set kan sættes spørgsmålstegn ved.
En måde at forsøge at besvare disse etisk svære spørgsmål, er at spørge en stor del af befolkningen, og simpelthen finde ud af hvordan almindelige mennesker ville reagere på et givent scenarie, hvor den førerløse bil enten kan redde passagererne eller en til flere fodgængere eller andre trafikanter. Denne type problemstilling kaldes inden for etikken et Trolley-problem.
Trolley-Problemet er et etisk tankeeksperiment der for første gang blev formuleret i 1967 af en britisk filosof:
Forestil dig, at du er føreren af en løbsk sporvogn, der farer ned ad sporene mod 5 arbejdsmænd, der ikke kan nå et flytte sig.
For at forhindre deres død, er din eneste mulighed at styre sporvognen over på et sidespor, men det valg vil dræbe 1 arbejdsmand på sidesporet.
Hvad gør du?
Søren Riis, der er lektor i filosofi ved Institut for Kultur og Identitet på Roskilde Universitet, har set nærmere på netop sådan en rundspørge, lavet af franske og amerikanske forskere. Resultatet af rundspørgen konkluderede, at de fleste mennesker (op til tre fjerdedele) ville redde den største gruppe mennesker — altså redde flest liv — selv hvis det betød, at bilen blev nødt til at ofre sine passagerer. Her mener Søren Riis dog, at der er forskel på, hvad personerne i undersøgelsen svarer, og om de rent faktisk lever op til det. »Men spørgsmålet er, om du selv ville gå ned og købe en bil, der har en funktion indbygget, hvor teknologien, som du betaler for i dyre domme, i værste fald slår dig ihjel med vilje. Den kunne redde dig, men den slår dig ihjel til fordel for andre,« kommenterer Søren Riis. Søren Riis påpeger, at de algoritmer, der bliver programmeret ind i bilens kunstige intelligens skal være fornuftige. Det vil for eksempel være absurd at dræbe bilens passagerer, hvis situationen skabes af at en anden trafikant bryder loven. Han mener desuden, at man hovedsageligt skal se på det positive, som de førerløse biler bringer, nemlig den relative sikkerhed, da Trolley-problemet højst sandsynligt meget sjældent vil opstå i praksis.
Adriano Alessandrini, der har en Ph.d. i Transportational Engineering ved Firenze Universitet, har et andet syn på problemstillingen. Han mener, at vi ikke kan, og ikke bør, tage stilling til et så etisk udfordrende dilemma, og derfor i stedet skal undgå det helt.
Alessandrini leder et projekt med en lidt anden form for førerløse biler. Disse biler kører fra en destination til en anden ved hjælp af en forudbestemt rute. Det vil sige, at bilen ikke vil ændre på ruten, skifte bane eller andet, men at den altså udelukkende følger en rute og kun bremser op, hvis det er nødvendigt. Det smarte ved disse simplere førerløse biler er, at de i færre situationer vil blive stillet over for de etiske dilemmaer, som præger de andre biler, da løsningen på alle de situationer, der kræver en hurtig reaktion, vil være at bremse og vente på, at der igen er fri bane til at køre. Da Alessandrini selv har en økonomisk interesse i at fremme denne type førerløse biler, kan hans mening således være forudindtaget.
Bryant Walker-Smith, assisterende professor ved University of South Carolina, er af den fuldkommen modsatte holdning. Han studerer de juridiske og sociale implikationer, som førerløse biler kan medføre, og er af den overbevisning, at de etiske dilemmaer, der følger med de førerløse biler, blot skal løses, som så mange etiske problemer ved biler er blevet det før i tiden. »If you look at airbags, for example, inherent in that technology is the assumption that you’re going to save a lot of lives, and only kill a few,« siger Walker-Smith. Fokus skal altså her være at redde så mange liv som muligt, selvom det sandsynligvis vil medføre tab af liv i meget få situationer. Disse tabte liv skal dog ses i forhold til de liv, som teknologien vil redde, og på den måde altså kunne forsvares.
Man kan sammenfatte disse forskellige synspunkter således:
- Red flest mennesker — selv hvis det betyder, at bilen skal ofre sine passagerer.
- Reducér betydningen af det etiske dilemma ved at simplificere de førerløse biler.
- Ignorer til dels det etiske dilemma, og fokuser på fordele frem for ulemper.
Etiske dilemmaer opstår, når det ikke er entydigt hvordan vi skal handle. I denne situation vil konsekvensen af ligegyldigt hvilket valg medføre tab af liv, det vil sige at man nærmest gør sig til Gud, ved at beslutte hvilket valg der skal tages og derved hvilke liv, der skal gå tabt. Dette er hvad der sker ved det første synspunkt. Nogle få mennesker, her bilproducenterne samt politikere, gør sig til herre over hvilke kriterier, der skal opsættes i forhold til hvilke mennesker, der i en given situation får lov til at leve, og hvilke der ikke gør. Det kan derfor være problematisk at få opbakning til teknologien i den brede befolkning, da hvert enkelt individ ikke får lov til direkte at tage den etiske beslutning, og dette fremprovokerer andre etiske dilemmaer, såsom spørgsmålet om børns liv er mere værd end ældres liv? Herudover kommer der selvfølgelig også spørgsmålet om skyld. Hvem skal retsforfølges hvis der sker ulykker? Ejeren af bilen? Bilproducenten? Politikkerne der gjorde det lovligt at ”spille Gud”?
Det andet synspunkt forsøger til dels at reducere rollen som Gud, og beslutningen mellem rigtigt og forkert, ved ikke at lade Trolley-problemet opstå. Det etiske problem ved de førerløse biler fjernes, men medfører så blot at der opstår andre problemer. De førerløse biler vil kunne fungere f.eks. ligesom førerløse tog og metro gør det i dag. Kendetegnet ved dette er, at det er allerede kendt og anvendt teknologi, og at det derfor ikke vil føre til forskning i ny teknologi inden for førerløse biler, da forskere så igen vil stå over for Trolley-problemet, og altså ikke have nogen som helst chance for at blive succesfuld på markedsniveau, da alternativer der betegnes som ”gode nok” allerede er etableret.
Det sidste synpunkt går ud på, at intet på forhånd er determineret, og at bilen er programmeret til at tage et tilfældigt valg. Dette fjerner de etiske problemer fuldstændig, da ingen kan vide hvad udfaldet på en given situation vil være. Det vil også betyde, at den nye teknologi vil kunne komme på markedet langt hurtigere, da der ikke skal tages stilling til etiske spørgsmål. Yderligere vil der også være en større interesse i at forske i netop førerløse biler, så de måske en dag kan være fuldstændig sikre og altså ikke være tvunget til at tage svære etiske valg, da problemer som Trolley-problemet aldrig vil opstå. Ulempen ved dette synspunkt er dog at der vil være risiko for at man vil miste flere liv, og at man ikke kan vide, om den bil man har købt kan tage et valg, der kan have fatale konsekvenser for en selv.
Den teknologiske udvikling, der i øjeblikket ses inden for bilindustrien, hvor kunstig intelligens overtager menneskelige funktioner, kan over tid sprede sig til andre brancher, og der vil også her kunne optræde etiske dilemmaer, som der skal tages stilling til. Et eksempel er diskussionen om hvorvidt, robotter skal kunne foretage kirurgiske indgreb i stedet for læger. Fordelen vil være, at man vil kunne lave meget præcise kirurgiske indgreb med en høj grad af sterilitet, som vil forhindre betændelse og andre men. Her kommer spørgsmålet om liv og død dog op igen. Hvis noget går galt, hvordan skal robotten så agere? Og hvem har ansvaret, hvis noget uforudset sker? Det er den type etiske dilemmaer, vi skal være klar til at diskutere og tage stilling til nu og i den nærmeste fremtid.
