De ethische auto

Zelfrijdende voertuigen zijn hip. Tesla is voorloper van een horde fabrikanten die ons een ideaal toekomstbeeld voorschotelen: auto’s die het vervoer slimmer én veiliger maken, die in alle situaties de juiste beslissing nemen en dat beter kunnen dan de mens. Maar autorijden is natuurlijk meer dan een verzameling keuzes tussen A en B. Kunnen we onze heilige koeien vertrouwen om ook juiste morele beslissingen voor ons te nemen?

Het antwoord daarop wordt in belangrijke mate bepaald door de instructies die we onze computer geven. In zijn Foundationtrilogie formuleert de Russische sciencefictionauteur Isaac Asimov drie wetten over het gedrag van robots die later het fundament zullen vormen voor het moderne denken over ethiek en computers. De belangrijkste stelregel: “Robots mogen geen schade toebrengen aan de mensheid.”

Vorig jaar stelde MIT-onderzoeker Iyad Rahwan aan autokopers de volgende vraag: zouden zij een voertuig zouden willen hebben dat in een leven-of- doodsituatie kiest voor een publiek belang door zoveel mogelijk mensen te sparen, of toch een die het welzijn van de bestuurder laat prevaleren, al is dat ten koste van anderen? Deze beslissing is een hedendaagse versie van het trollyprobleem waarmee filosofe Philippa Foot in de jaren ‘80 leken een moreel dilemma voorlegde: een groep tramreizigers kan alleen gered worden wanneer je een zware man naast je van een brug voor het rijstel gooit. Doe je het? Het vraagstuk plaatst auto-ontwerpers voor moeilijke beslissingen: onder welke omstandigheden is het moreel gerechtvaardigd om de rechten van een individu op te offeren om het lot van meerdere anderen te sparen?

De deelnemers aan het MIT-onderzoek kozen overwegend voor een auto die het maatschappelijke voordeel laat gelden boven het individuele lot. Wanneer anderen vaker kiezen voor auto’s met een voorkeur voor het belang van de bestuurder, dan neemt dat enthousiasme af en zullen meer mensen kiezen voor zichzelf. Op die manier zal de algehele verkeersveiligheid afnemen. De vraag of we onze zelfrijdende auto kunnen vertrouwen, hangt kortom niet alleen af van de mogelijkheid om computers beslissingen te laten nemen, maar vooral ook van onze collectieve bereidheid te kiezen voor de veiligheid van anderen.