“Je bent in een woestijn, wandelt door het zand, wanneer je ineens naar beneden kijkt en een schildpad ziet… Je reikt naar beneden en je draait de schildpad op zijn rug. De schildpad ligt op zijn rug, zijn buik bakt in de hete zon, slaat op zijn benen en probeert zichzelf om te draaien, maar dat kan niet. Niet zonder jouw hulp. Maar je helpt niet. '
gerelateerde inhoud
- Voltaire: Enlightenment Philosopher and Lottery Scammer
Misschien is niets emblematischer voor de dystopische film Blade Runner uit Ridley Scott uit 1982 dan de Voight-Kampff-test die wordt afgenomen door de titularis van de film, waaronder Harrison Ford als Rick Deckard. De reeks vragen in de fictieve test, zoals die hierboven, zijn ontworpen om mensen te scheiden van replicanten door een fysiologische reactie uit te lokken die op empathie wijst. Alleen echte mensen, geen replicanten, voelen die emotie. Deckard's opdracht is om te gaan met replicanten die bestellingen niet gehoorzamen. Hij en anderen gebruiken de test om te beslissen of ze de replicanten al dan niet met pensioen willen 'doden'.
Niet alleen vormen deze opstandige androïden een bedreiging voor de mens, maar in deze wereld hebben ze geen wettelijk recht op bescherming. Hoe kunnen ze, als ze niet als mensen worden beschouwd?
Het is zo een boeiend dilemma dat het verhaal zal doorgaan in het langverwachte vervolg Blade Runner: 2049. Een deel van de reden voor de blijvende populariteit van de originele film is de persoonlijke strijd van Deckard, een die op dezelfde manier speelt in films als Haar en shows als "Westworld" ”: Wie of wat telt als mens, vooral in een wereld van geavanceerde technologie?
En om het te begrijpen, moeten we ons wenden tot enkele zeer oude filosofen.
***
Voor de oude Grieken, machines gemaakt door goden of uitzonderlijk getalenteerde mensen vaak voor de gek gehouden mensen te geloven dat de androïden authentiek waren, schrijft Adrienne burgemeester in Aeon. Koning Nabis van Sparta bezat een robotversie van zijn vrouw, haar borst stiekem versierd met nagels. Hij gebruikte de machine om burgers te omhelzen die hem ongehoorzaam waren, hun vlees doorboord door de verborgen wapens. En in China zag een automaat uit de 10e eeuw voor Christus van uitvinder Yan Shi er zo menselijk uit, zingend en knipogend naar dames, dat de koning er woedend op werd. Toen hoorde hij de waarheid en verwonderde hij zich over een machine die zelfs mechanische orgels had. Zoals geleerde Nigel Wheale schrijft: 'In alle perioden zijn' menselijke dingen 'gedacht als entiteiten die het hedendaagse gevoel van menselijke waarde testen of definiëren.'
Dit alles wil zeggen dat bezorgdheid over hoe mensen van vlees en bloed te onderscheiden zijn van machines die er alleen maar menselijk uitzien (en beslissen of die machines een bedreiging vormen voor ons Homo sapiens) niet beperkt is tot de moderne tijd. We hebben ons altijd afgevraagd of alle mensen echt zijn wat ze lijken te zijn - dat is waarom verlichtingsfilosofen zoveel tijd besteedden aan het ontleden van de vraag wat een mens, mens maakt.
René Descartes, een 17e-eeuwse Franse filosoof die veel door Europa reisde, dacht diep na over de vraag wat ons menselijk maakte. Het is geen toeval dat zijn beroemdste citaat wordt herhaald door een van de replicanten in Blade Runner: "Ik denk, dus ik ben." En als dat allemaal niet genoeg bewijs is van zijn connectie met de film, overweeg dan de namen: Descartes en Deckard.
Zoals filosoof Andrew Norris opmerkt, vermoedde Descartes dat er ooit een behoefte zou kunnen zijn aan een test of iets menselijk of machine was. "Als er machines waren met afbeeldingen van ons lichaam en die onze acties konden imiteren voor zover dit moreel mogelijk is, dan zouden er nog twee zekerste tests blijven bestaan om te weten dat ze daarom niet echt mannen waren, " schreef Descartes. Dus creëerde hij zijn eigen tests, die vertrouwden op taalvaardigheid en flexibiliteit van gedrag.
Replicanten spreken en gedragen zich net als mensen, wat betekent dat ze de tests van Descartes zouden doorstaan. Maar er is nog een reden waarom Deckard moeite heeft om hun menselijkheid te weerleggen: replicanten hebben ook geïmplanteerde herinneringen. Voor de Engelse filosoof John Locke geeft een persoon een gevoel van eigenwaarde de continuïteit van zijn herinneringen. Het menselijk lichaam verandert met de tijd, maar herinneringen blijven en bieden een basis voor een stabiele identiteit. "Voor zover dit bewustzijn kan worden uitgebreid naar een eerdere actie of gedachte uit het verleden, zo ver bereikt de identiteit van die persoon, " schreef Locke.
Dus voor Blade Runner's Rachael, de meest geavanceerde replicant die ooit is ontwikkeld, maakt het niet uit dat ze misschien slechts een paar jaar oud is; haar herinneringen gaan veel verder terug en geven haar de indruk veel langer te hebben geleefd. Dat is wat Rachael zo'n tragische figuur maakt - 'haar' herinneringen behoren haar niet toe. Ze komen van de nicht van haar uitvinder.
"Dat is hartverscheurend, maar je kunt je voorstellen dat [de herinneringen] nog steeds speciaal voor haar zijn, zelfs nadat ze ontdekt dat ze niet echt van haar zijn", zegt Susan Schneider, professor filosofie aan de Universiteit van Connecticut en lid van de Ethiek en Technologie groep in Yale. “Het is alsof je erachter komt dat je de geüploade kopie bent, niet de persoon die de upload uitvoert. Maar je hebt nog steeds een speciale relatie met hen. Als een ouder. '
Maar het zijn niet alleen herinneringen of rationaliteit die een mens maken in Blade Runner. Het belangrijkste is volgens de Voight-Kampff-test empathie. Omdat we geen gedachten kunnen lezen of er fysiek bewijs van kunnen zien, hebben denkers zoals de Duitse filosoof Theodor Lipps beweerd dat we kunnen waarnemen dat anderen voelen en handelen zoals we doen door de kracht van empathie.
Harrison Ford als Rick Deckard beheert de Voight-Kampff-test in de originele Blade Runner. (Warner Bros.) "De Blade Runner moet, ironisch genoeg, de empathie van anderen testen - niet, hier, in de zin van Lipps, maar in die van hun gevoeligheid voor een nu omgekomen natuurlijke wereld bevolkt door niet-menselijke dieren, " schrijft Norris in zijn artikel op de filosofie van de film. Dit is waar de beroemde schildpad-gevangen-op-zijn-terug-in-de-woestijn-vraag vandaan komt.
"Emoties zelf zullen nooit een perfecte test van de mensheid zijn: sociopaten zijn immers ook mensen, " zei Deborah Knight, een professor in de filosofie aan Queen's University, per e-mail. “Maar emoties zijn meer dan niet-cognitieve reacties. Ze helpen ons om te oordelen over wat we moeten doen en wie we moeten zijn. "
Dit is vooral duidelijk in het geval van replicant Roy Batty, gespeeld door Rutger Hauer. Roy voelt mensachtige emoties en heeft ambities, maar krijgt geen menselijke levensduur, zei Knight. Roy is zich ervan bewust dat hij, net als de andere replicanten, is gebouwd om na slechts vier jaar te sterven, wat hem begrijpelijkerwijs woedend maakt.
Dus replicanten voelen misschien wel emoties, en ze hebben herinneringen. Maakt dat hen menselijk? Voor Schneider is een definitief antwoord niet per se van belang. De replicanten delen genoeg eigenschappen met mensen dat ze bescherming verdienen. “Het is een zeer sterke zaak om [een niet-mens] te behandelen met dezelfde wettelijke rechten die we een mens geven. We zouden [Rachel] geen mens noemen, maar misschien een persoon, 'zegt ze.
Voor Eric Schwitzgebel, professor filosofie aan de Universiteit van Californië in Riverside, is de conclusie nog dramatischer. "Als we op een dag robots met mensachtige cognitieve en emotionele capaciteiten maken, zijn we ze meer morele overweging verschuldigd dan we normaal gesproken verschuldigd zouden zijn aan anders vergelijkbare mensen", schrijft hij in Aeon. “We zullen hun makers en ontwerpers zijn geweest. We zijn dus rechtstreeks verantwoordelijk voor zowel hun bestaan als hun gelukkige of ongelukkige toestand. "
***
Blade Runner is slechts een film en mensen zijn er nog steeds niet in geslaagd replicanten te maken. Maar we hebben veel vooruitgang geboekt in kunstmatige intelligentie, van zelfrijdende auto's die leren zich aan te passen aan menselijke fouten tot neurale netwerken die ruzie maken om slimmer te worden. Daarom hebben de vragen van de film over de aard van de mensheid en hoe we androïden zouden kunnen behandelen voor Schneider belangrijke real-world implicaties.
“Een van de dingen die ik heb gedaan, is nadenken of het ooit iets als een AI zal voelen. Zal er ooit een Rachael zijn? ”Zegt Schneider, die Blade Runner gebruikt in haar klas over filosofie in sciencefiction. Dit jaar publiceerde Schneider een paper over de test die ze met astrofysicus Edwin Turner ontwikkelde om te ontdekken of een mechanisch wezen misschien bewust is. Net als de Voight-Kampff-test is deze gebaseerd op een reeks vragen, maar in plaats van de aanwezigheid van empathie te eisen - gevoelens gericht op een ander - kijkt het naar gevoelens over het zijn van een zelf. De test, de AI Consciousness Test genoemd, wordt momenteel gepatenteerd bij Princeton.
De test verschilt van de meer bekende Turing-test, ontwikkeld door wiskundige Alan Turing in 1951. In deze eerdere test zou een rechter een digitaal gesprek aangaan met de deelnemer (zoals wat je vandaag zou ervaren in chatrooms), vragen stellen om te onderscheiden of de respondent een mens was of een machine. Maar zoals Schneider in haar artikel opmerkt, kunnen wetenschappers programma's ontwikkelen die de Turing-test doorstaan, maar geen bewuste wezens zijn. De Turing-test is geïnteresseerd in het beoordelen van de waarheidsgetrouwheid tussen de reactie van een machine en de reactie van een mens, niet met begrip of de machine bewust is of niet. Net als de Voight-Kampff-test gaat Schneider's AI-bewustzijnstest over proberen te begrijpen wat er in de machine gebeurt.
Dit soort werk is dringend, zegt ze, omdat de mensheid niet ethisch voorbereid is om de gevolgen van het creëren van een bewust leven te verwerken. Wat het beoordelen van onze creaties nog moeilijker maakt, is de menselijke afhankelijkheid van antropomorfisme om aan te geven wat moet gelden als een wezen dat morele overweging verdient. "Sommige [robots] zien er menselijk uit, of ze zijn schattig en donzig, dus we denken aan onze katten en honden, " zegt Schneider. “Het doet ons geloven dat ze zich voelen. We zijn heel goedgelovig. Het kan blijken dat alleen biologische systemen bewust kunnen zijn, of dat de slimste AI's de bewuste zijn, die dingen die er niet menselijk uitzien. '
Het is belangrijk voor wetenschappers om met filosofen te overleggen - wat velen al doen, zegt Schneider - maar ook voor leden van het publiek om na te denken over de gevolgen van dit soort technologie. En, voegt ze eraan toe, niet alle filosofen zijn het eens over de aard van bewustzijn, dus er zijn geen gemakkelijke antwoorden.
Misschien zullen Hollywood-films zoals Blade Runner: 2049 ons een stap dichter bij het aangaan van die gesprekken brengen. Maar als dat niet het geval is, moeten we het ethische moeras zelf betreden. Vroeger, in plaats van later - of we zullen eindigen met een probleem zoals de replicanten en geen idee hoe te reageren.
