De morele dilemma’s van een ventilator
De rol van algoritmes in ons leven wordt steeds prominenter. Ze bepalen welke zoekresultaten we te zien krijgen, welke Uber-chauffeur je van punt A naar punt B brengt en straks maken militaire algoritmen beslissingen over leven en dood. Maar valt ethiek te programmeren? Geen gekke vraag nu al onze apparaten online gaan en ‘slim’ worden. Het Ethical Things project verkent dit dilemma. Onder andere met een ventilator.
De Ethical Fan is het uithangbord van het Ethical Things project. Deze ventilator beslist zelf wie hij verkoeling brengt. Die keuze maakt de ventilator op basis van een dataprofiel van de aanwezigen in de kamer. Het morele kompas wordt aan de hand van vier variabelen bepaald:
- Religie (Christen, Moslim, Boeddhist, Hindoe, Atheist of alle vier)
- Opleiding (Geen, Gemiddeld, Hoog, PhD of alle vier)
- Leeftijd (0–20, 20–40, 40+ of alle vier)
- Geslacht (man, vrouw of beide)
De ventilator beslist vervolgens wie hij zal voorzien van gekoelde lucht via een beslissingsschema dat gemodelleerd is naar gedragsstudies naar bovengenoemde demografieën. Dat schema ziet er zo uit:
Wanneer de ventilator niet zelf tot een beslissing kan komen, crowdsourced hij het antwoord via de Mechanical Turk-service van Amazon. Dit is een website waar gebruikers kleine taken uitvoeren en betaald worden via microtransacties. De ventilator gaat via de dienst op zoek naar een gebruiker met demografische eigenschappen die overeenkomen met de ingestelde variabelen en vraagt vervolgens om instructies.
De kwestie omtrent de automatisering van moraliteit steekt vooral de kop op in extreme voorbeelden van leven of dood. Er zullen echter steeds meer van ons oude ‘domme’ apparaten worden aangesloten op het internet om ze ‘smart’ te maken. Daarmee gaat het niet alleen meer om leven of dood, maar ook of een slimme koffiemachine s’avonds nog koffie schenkt aan zijn eigenaar wanneer uit smartphone data blijkt dat hij of zij te weinig slaapt.
Algoritmen maken keuzen op basis van zekerheden voltrokken uit data. Alleen hoe worden die zekerheden gedefinieerd en door wie? Zeker als het om ethiek en moraliteit gaat, waar zekerheden vaak subjectief en cultuurgebonden zijn. Wie heeft er dus recht op verkoeling? Is dat de atheïst van middelbare leeftijd met een PhD of de onopgeleide, jonge, vrouwelijke Boeddhist?
