Veel discussie en ethische gedachten over zelfrijdende auto's hebben zich gericht op tragische dilemma's, zoals hypothesen waarin een auto moet beslissen of hij over een groep schoolkinderen moet rennen of van een klif wil vallen, waarbij zijn eigen inzittenden worden gedood. Maar dat soort situaties zijn extreme gevallen.
Zoals de meest recente crash - waarbij een zelfrijdende auto een voetganger in Tempe, Arizona doodde - aantoont, zijn de alledaagse, alledaagse situaties bij elke zebrapad, bocht en kruispunt veel moeilijker en bredere ethische dilemma's.
Ethiek van uitersten
Als filosoof die met ingenieurs werkte in Stanford's Centre for Automotive Research, was ik aanvankelijk verrast dat we onze laboratoriumbijeenkomsten spraken over wat ik dacht dat een gemakkelijke vraag was: hoe moet een zelfrijdende auto een zebrapad naderen?
Mijn veronderstelling was geweest dat we zouden nadenken over hoe een auto zou moeten beslissen tussen het leven van zijn passagiers en dat van voetgangers. Ik wist hoe ik aan dergelijke dilemma's moest denken, omdat deze crashscenario's lijken op een beroemde filosofische hersenkraker, het "trolley-probleem" genoemd. Stel je voor dat een weggelopen trolley over de rails slingert en waarschijnlijk een groep van vijf of een enkele persoon raakt - zou je een doden om vijf te redden?
Tegenwoordig betwijfelen veel filosofen echter dat het onderzoeken van dergelijke vragen een vruchtbare onderzoeksroute is. Barbara Fried, een collega van Stanford, heeft bijvoorbeeld betoogd dat tragische dilemma's ervoor zorgen dat mensen geloven dat ethische dilemma's zich meestal voordoen in extreme en nare omstandigheden.
Ethische dilemma's zijn zelfs alomtegenwoordig. Alledaagse situaties zijn verrassend rommelig en complex, vaak op subtiele manieren. Bijvoorbeeld: moet uw stad geld uitgeven aan een diabetespreventieprogramma of aan meer maatschappelijk werkers? Moet uw plaatselijke ministerie van volksgezondheid een andere inspecteur inhuren voor de normen voor restauranthygiëne of doorgaan met een programma met gratis naalden en injectievoorraden?
Deze vragen zijn uiterst moeilijk te beantwoorden vanwege onzekerheden over de gevolgen - zoals wie er gevolgen van ondervindt en in welke mate. De oplossingen die filosofen hebben voorgesteld voor extreme en wanhopige situaties zijn hier weinig nuttig.
Het probleem is vergelijkbaar met zelfrijdende auto's. Het doordenken van extreme situaties en crashscenario's kan niet helpen bij het beantwoorden van vragen die zich voordoen in alledaagse situaties.
Een uitdaging op zebrapaden
Men zou zich kunnen afvragen wat zo moeilijk kan zijn aan alledaagse verkeerssituaties zoals het naderen van een zebrapad, het rijden door een kruispunt of het maken van een bocht naar links. Zelfs als het zicht op het zebrapad beperkt is en het soms moeilijk te zeggen is of een voetganger in de buurt daadwerkelijk de straat wil oversteken, gaan bestuurders hier dagelijks mee om.
Maar voor zelfrijdende auto's vormen dergelijke alledaagse situaties een uitdaging op twee manieren.
Gemakkelijk voor mensen betekent vaak moeilijk voor computers. (XKCD, CC BY-SA) Ten eerste is er het feit dat wat gemakkelijk is voor mensen vaak moeilijk is voor machines. Of het nu gaat om gezichten herkennen of fietsen, we zijn goed in waarneming en mechanische taken, omdat evolutie deze vaardigheden voor ons heeft opgebouwd. Dat maakt deze vaardigheden echter moeilijk te onderwijzen of te engineeren. Dit staat bekend als 'de Paradox van Moravec'.
Ten tweede, in een toekomst waarin alle auto's zelfrijdende auto's zijn, zouden kleine veranderingen in rijgedrag een groot verschil maken. Beslissingen van ingenieurs vandaag zullen met andere woorden niet bepalen hoe een auto rijdt, maar hoe alle auto's rijden. Algoritmen worden beleid.
Ingenieurs leren computers gezichten en objecten te herkennen met behulp van methoden voor machinaal leren. Ze kunnen machine learning ook gebruiken om zelfrijdende auto's te helpen imiteren hoe mensen rijden. Maar dit is geen oplossing: het lost niet het probleem op dat veelomvattende beslissingen over veiligheid en mobiliteit worden genomen door ingenieurs.
Bovendien mogen zelfrijdende auto's niet zoals mensen rijden. Mensen zijn eigenlijk geen erg goede chauffeurs. En ze rijden op ethisch verontrustende manieren en beslissen of ze zich overgeven aan zebrapaden, op basis van leeftijd, ras en inkomen van voetgangers. Onderzoekers in Portland hebben bijvoorbeeld ontdekt dat zwarte voetgangers twee keer zoveel auto's passeren en een derde langer moesten wachten dan blanke voetgangers voordat ze kunnen oversteken.
Zelfrijdende auto's moeten veiliger en eerlijker rijden dan mensen.
Mondaine ethiek
De ethische problemen worden dieper wanneer je aandacht besteedt aan de belangenconflicten die aan de oppervlakte komen in alledaagse situaties zoals zebrapaden, bochten en kruispunten.
Het ontwerp van zelfrijdende auto's moet bijvoorbeeld de veiligheid van anderen - voetgangers of fietsers - in evenwicht brengen met de belangen van de passagiers van auto's. Zodra een auto sneller gaat dan loopsnelheid, kan hij niet voorkomen dat hij een kind tegenkomt dat in de laatste seconde de weg op kan rennen. Maar het looptempo is natuurlijk veel te langzaam. Iedereen moet op plaatsen komen. Dus hoe moeten ingenieurs een evenwicht vinden tussen veiligheid en mobiliteit? En welke snelheid is veilig genoeg?
Er zijn ook andere ethische vragen. Ingenieurs moeten een afweging maken tussen mobiliteit en milieueffecten. Wanneer ze in alle auto's in het land worden toegepast, kunnen kleine veranderingen in computergestuurde versnelling, bochten en remmen enorme gevolgen hebben voor het energieverbruik en de uitstoot van vervuiling. Hoe moeten ingenieurs reisefficiëntie inruilen tegen milieu-impact?
Wat moet de toekomst van het verkeer zijn?
Alledaagse situaties vormen nieuwe technische en ethische problemen, maar leiden er ook toe dat mensen de basisaannames van het verkeerssysteem in twijfel trekken.
Voor mezelf begon ik me af te vragen of we überhaupt plaatsen nodig hebben die 'zebrapaden' worden genoemd? Zelfrijdende auto's kunnen het immers veilig maken om overal een weg over te steken.
En het zijn niet alleen zebrapaden die overbodig worden. Verkeerslichten op kruispunten behoren ook tot het verleden. Mensen hebben verkeerslichten nodig om ervoor te zorgen dat iedereen het kruispunt kan oversteken zonder crashes en chaos. Maar zelfrijdende auto's zouden onderling soepel kunnen coördineren.
De grotere vraag hier is deze: gezien het feit dat zelfrijdende auto's beter zijn dan menselijke bestuurders, waarom zouden de auto's dan onderworpen moeten zijn aan regels die zijn ontworpen voor menselijke feilbaarheid en menselijke fouten? En om dit gedachte-experiment uit te breiden, overweeg ook de meer algemene vraag: als we als samenleving ons verkeerssysteem helemaal opnieuw zouden kunnen ontwerpen, hoe zouden we dan willen dat het eruit zou zien?
Omdat deze moeilijke vragen iedereen in een stad of in een samenleving aangaan, vereisen ze dat een stad of samenleving overeenstemming bereikt over antwoorden. Dat betekent een evenwicht vinden tussen concurrerende belangen op een manier die voor iedereen werkt - of mensen nu alleen aan zebrapaden denken of aan het verkeerssysteem als geheel.
Met zelfrijdende auto's kunnen maatschappijen hun verkeerssystemen opnieuw ontwerpen. Van het zebrapad tot het algemene verkeersontwerp - het zijn alledaagse situaties die echt moeilijke vragen oproepen. Extreme situaties zijn een afleiding.
Het probleem met de trolley geeft geen antwoord op deze moeilijke vragen.
Dit artikel is oorspronkelijk gepubliceerd op The Conversation.
Johannes Himmelreich, interdisciplinaire ethiek fellow, Stanford University McCoy Family Center for Ethics in Society
