In de nasleep van auto- en vrachtwagenaanvallen over de hele wereld, het meest recent in New York City, proberen steden zich in te spannen om drukke voetgangersgebieden en populaire evenementen te beschermen. Het is uiterst moeilijk om te voorkomen dat voertuigen als wapens worden gebruikt, maar technologie kan helpen.
Op dit moment proberen steden te bepalen waar en hoe ze beelden, spijkerstripnetten en andere barrières kunnen plaatsen om de menigte te beschermen. Politieafdelingen proberen betere inlichtingen vooraf te verzamelen over mogelijke bedreigingen en trainen officieren om te reageren - terwijl gewone mensen advies vragen voor overlevende voertuigaanvallen.
Deze oplossingen zijn niet genoeg: het is onpraktisch om overal fysieke barrières op te werpen, en het is vrijwel onmogelijk om te voorkomen dat potentiële aanvallers een voertuig krijgen. Als onderzoeker van technologieën voor zelfrijdende voertuigen zie ik dat er al potentiële oplossingen bestaan die tegenwoordig in veel voertuigen op de weg zijn ingebouwd. Er zijn echter ethische vragen die moeten worden afgewogen over wie het voertuig moet besturen - de bestuurder achter het stuur of het computersysteem dat potentieel gevaar in de acties van de mens waarneemt.
Een geautomatiseerde oplossing
Ongeveer driekwart van de auto's en vrachtwagens die in 2017 door Consumer Reports zijn onderzocht, hebben een voorwaartse botsingdetectie als standaard- of optionele functie. Deze voertuigen kunnen obstakels detecteren - inclusief voetgangers - en deze stoppen of vermijden. Tegen 2022 is noodremming vereist voor alle voertuigen die in de VS worden verkocht
Veiligheidsvoorzieningen in de hedendaagse auto's zijn onder andere rijstrookwaarschuwingen, adaptieve cruisecontrol en verschillende soorten botsingen vermijden. Al deze systemen maken gebruik van meerdere sensoren, zoals radars en camera's, die volgen wat er rondom de auto gebeurt. Meestal rennen ze passief, communiceren ze niet met de bestuurder en nemen ze geen controle over de auto. Maar wanneer bepaalde gebeurtenissen plaatsvinden - zoals het naderen van een voetganger of een obstakel - komen deze systemen tot leven.
Waarschuwingssystemen kunnen geluid maken en een bestuurder waarschuwen dat de auto zijn rijstrook verlaat, in tegenliggers of misschien van de weg af. Ze kunnen zelfs de auto besturen en de snelheid aanpassen om een veilige afstand tot de voorligger te behouden. En systemen voor het voorkomen van botsingen hebben verschillende mogelijkheden, waaronder hoorbare waarschuwingen waarvoor de bestuurder moet reageren, automatisch noodremmen en zelfs het besturen van de auto.
Bestaande systemen kunnen het gevaar identificeren en aangeven of het richting de auto gaat (of dat de auto er naartoe gaat). Het verbeteren van deze systemen kan helpen om verschillende rijgedragingen te voorkomen die vaak worden gebruikt tijdens aanvallen, maar niet bij veilige operaties van een voertuig.
Botsingen voorkomen
Een typische bestuurder probeert obstakels en vooral voetgangers te vermijden. Een bestuurder die een auto als wapen gebruikt, doet het tegenovergestelde en richt zich op mensen. Typische systemen om botsingen te voorkomen, hebben de neiging dit aan te pakken door de bestuurder te waarschuwen en dan pas op het laatste moment de controle over te nemen en de remmen in te schakelen.
Iemand die een voertuigaanval plant, kan proberen de elektronica die bij die systemen hoort, uit te schakelen. Het is moeilijk om zich te verdedigen tegen fysieke wijzigingen in de veiligheidsuitrusting van een auto, maar fabrikanten kunnen voorkomen dat auto's starten of de snelheid en afstand die ze kunnen afleggen beperken als het voertuig manipuleert.
Op dit moment is het voor een kwaadwillende bestuurder echter relatief eenvoudig om veiligheidsvoorzieningen te negeren: veel voertuigen gaan ervan uit dat als de bestuurder de auto actief bestuurt of de rem- en gaspedalen gebruikt, de auto goed wordt bestuurd. In die situaties treden de veiligheidssystemen helemaal niet in werking.
Deze sensoren en systemen kunnen identificeren wat hen te wachten staat, waardoor betere beslissingen kunnen worden genomen. Om voetgangers tegen voertuigaanvallen te beschermen, kan het systeem worden geprogrammeerd om de bestuurder te onderdrukken wanneer mensen in de weg staan. De bestaande technologie zou dit kunnen doen, maar wordt momenteel niet op die manier gebruikt.
Het is nog steeds mogelijk om een situatie voor te stellen waarin de auto moeite zou hebben om veiligheidsregels op te leggen. Een kwaadwillende bestuurder kan bijvoorbeeld zo snel naar een menigte of een individuele persoon accelereren dat de remmen van de auto dit niet op tijd konden stoppen. Een systeem dat specifiek is ontworpen om aanvallen van bestuurders te stoppen, kan worden geprogrammeerd om de voertuigsnelheid te beperken tot onder het vermogen om te remmen en te sturen, met name in gewone straten van de stad en wanneer voetgangers in de buurt zijn.
Een kwestie van controle
Dit stelt een moeilijke vraag: wanneer de auto en de bestuurder verschillende bedoelingen hebben, welke moeten dan uiteindelijk de controle hebben? Een systeem dat is ontworpen om voertuigaanvallen op drukte te voorkomen, kan voor bestuurders in parades problemen veroorzaken als het omstanders of andere marchers als gevaarlijk beschouwt. Het kan ook voorkomen dat een auto omringd door demonstranten of aanvallers ontsnapt. En militaire, politie- en noodhulpvoertuigen moeten vaak in of nabij drukte kunnen opereren.
Het vinden van de balans tussen machine en menselijke controle omvat meer dan openbaar beleid en bedrijfsplanning. Individuele autokopers kunnen ervoor kiezen om geen voertuigen te kopen die hun beslissingen teniet kunnen doen. Veel ontwikkelaars van kunstmatige intelligentie maken zich ook zorgen over storingen, met name in systemen die in de echte fysieke wereld werken en menselijke instructies kunnen vervangen.
Elk type computersysteem belast met de menselijke veiligheid wekt de angst om mensen onder controle te krijgen van zogenaamde "machineoverheersers". Verschillende scenario's - met name die voorbij het beperkte geval van een systeem dat voertuigaanvallen kan stoppen - kunnen verschillende voordelen hebben en nadelen op de lange termijn.
Dit artikel is oorspronkelijk gepubliceerd op The Conversation.
Jeremy Straub, universitair docent informatica, North Dakota State University
