Vorig jaar creëerde Facebook twee chatbots en vroeg hen om met elkaar te praten en hun onderhandelingsvaardigheden te oefenen. De bots, zo bleek, waren behoorlijk goed in onderhandelen - maar ze deden het met hun eigen verzonnen taal die voor mensen onbegrijpelijk was.
gerelateerde inhoud
- Deze kunstenaar woont in de clandestiene wereld van geclassificeerde geheimen en bewaking
Dit is waar de wereld naartoe gaat. Computers creëren inhoud voor elkaar, niet voor ons. Foto's worden gemaakt door computers, zodat andere computers deze kunnen bekijken en interpreteren. Het gebeurt allemaal stil, vaak zonder onze medeweten of toestemming.
Dus leren hoe te zien als een computer - deze machine-tot-machine communicatie zichtbaar maken - is misschien wel de belangrijkste vaardigheid van de 21ste eeuw.
Op 25 oktober 2018 speelde Kronos Quartet - David Harrington, John Sherba, Hank Dutt en Sunny Yang - een concert in het Smithsonian American Art Museum. Ze werden bekeken door 400 mensen en een dozijn kunstmatige intelligentie-algoritmen, de laatste met dank aan Trevor Paglen, de kunstenaar achter de tentoonstelling "Sites Unseen", die momenteel in het museum te zien is.
Terwijl de muzikanten speelden, liet een scherm boven hen mensen zien wat de computers zagen.
Terwijl Kronos zich een weg baant door een treurig stuk oorspronkelijk uit het Ottomaanse Rijk, detecteerden overheadalgoritmen op het scherm de gezichten van de muzikanten, waarbij ze lippen, ogen en neus voor elke persoon schetsten (en af en toe "spookgezichten" zagen waar er geen waren - vaak in Kronos-oprichter Harrington's zwabber van haar). Naarmate de algoritmen geavanceerder werden, vervaagde de videofeed totdat alleen neonlijnen op een zwarte achtergrond overbleven. Eindelijk vervaagden de omtrekken van het gezicht totdat een abstracte opstelling van lijnen - vermoedelijk de hele computer nodig had om 'gezicht' te begrijpen, maar volledig onbegrijpelijk voor mensen - alles was wat overbleef.
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos Quartet Het East Coast-debuut van de voorstelling 'Sight Machine', net als Paglen's andere werk, vroeg kijkers en luisteraars om te leren hoe te zien zoals computers doen, en om de menselijke relatie met technologie opnieuw te onderzoeken - de telefoons in onze zakken en de ogen in de lucht en alles daartussenin.
Het is 2018, en het idee dat mobiele telefoons ons in de gaten houden, voelt niet langer als een samenzweringstheorie van een blogger met blikjes op hoed. Google werd eerder dit jaar betrapt op het volgen van de locaties van Android-telefoongebruikers, zelfs als gebruikers de functie hadden uitgeschakeld. Veel mensen zijn ervan overtuigd dat onze telefoons naar ons luisteren om advertenties beter weer te geven - Facebook en andere bedrijven ontkennen deze kosten, hoewel het technisch en juridisch mogelijk is om dit te doen. Techjournalisten Alex Goldman en PJ Vogt hebben hetzelfde onderzocht en gevonden: er is geen reden waarom onze telefoons niet zouden luisteren, maar aan de andere kant kunnen adverteerders via andere methoden voldoende informatie over ons verzamelen die ze gewoon niet hoeven te gebruiken .
In deze context werd "Sight Machine" uitgevoerd. De tientallen camera's die Kronos Quartet keken, stuurden live video van de voorstelling naar een rek met computers, die gebruik maken van standaard kunstmatige intelligentie-algoritmen om de griezelige visuals te creëren. De algoritmen zijn dezelfde die in onze telefoons worden gebruikt om ons te helpen betere selfies te maken, die door zelfrijdende auto's worden gebruikt om obstakels te vermijden en die worden gebruikt door wetshandhavers en wapenbegeleiding. Dus hoewel de resultaten op het scherm soms mooi of zelfs grappig waren, was er een onderstroom van horror.
"Wat me verbaast met dit specifieke werk is, hij laat ons iets zien dat is - en dit geldt voor al zijn werk - hij laat ons iets zien dat verontrustend is en hij doet het met behulp van trucs", zegt John Jacob, conservator van het museum voor fotografie, die 'Sites Unseen' organiseerde.
"Het is een opzettelijke truc, " zegt hij, "en het werkt."
Later hebben geavanceerde algoritmen voor gezichtsherkenning oordelen over de leden van Kronos en hun resultaten op een scherm weergegeven. "Dit is John [Sherba]. John is tussen de 24-40 jaar oud, " zei de computer. "Sunny [Yang] is 94, 4% vrouwelijk. Sunny is 80% boos en 10% neutraal."
"Een van de dingen die ik hoop dat de uitvoering laat zien, " zegt Paglen, "zijn enkele van de manieren waarop het soort waarneming van de computers niet neutraal is. Het is zeer bevooroordeeld. Met allerlei politieke en culturele veronderstellingen die niet neutraal. " Als het geslachtsclassificatiesysteem zegt dat Sunny Yang 94, 4 procent vrouwelijk is, dan betekent dit dat iemand 100 procent vrouwelijk is. "En wie besliste wat 100 procent vrouwelijk is? Is Barbie 100 procent vrouwelijk? En waarom is geslacht een binair getal?" Vraagt Paglen. "Dat te zien gebeuren op een moment dat de federale overheid letterlijk mensen met een queer-geslacht probeert uit te wissen, is aan de ene kant grappig, maar voor mij is het ook gruwelijk."
Een later algoritme liet de percentages achterwege en bewoog om eenvoudig objecten in de scène te identificeren. "Microfoon. Viool. Persoon. Kwal. Pruik." (De laatste twee zijn duidelijk fouten; het algoritme lijkt Hank Dutt te hebben verward voor een kwal en Harrington's echte haar voor een toupetje.) Toen werden de classificaties complexer. "Sunny houdt een schaar vast, " zei de machine terwijl het licht van haar cellosnaren glinsterde. "John houdt een mes vast." Wat zou er gebeuren als de classificeerder deze - onjuiste - informatie aan de politie zou geven, we zullen het nooit weten.
De meeste eindgebruikers van AI-platforms - die geen artiesten zijn - zouden kunnen beweren dat deze systemen hun eigen vooroordelen kunnen hebben, maar altijd een laatste sign-off ontvangen door een mens. Een door Amazon gemaakt algoritme, Rekognition, dat het bedrijf verkoopt aan wetshandhavers en mogelijk ICE, heeft 28 leden van het Congres verkeerd geïdentificeerd als mensen die zijn beschuldigd van een misdrijf door hun gezichten te vergelijken met mugshots in een openbaar beschikbare database. Destijds betoogde Amazon dat de ACLU, die het systeem gebruikte om de wedstrijden te maken, Rekognition onjuist had gebruikt. Het bedrijf zei dat de standaardinstelling van het systeem voor wedstrijden, een "betrouwbaarheidsdrempel" genoemd, slechts 80 procent is. (Met andere woorden, het algoritme was slechts 80 procent zeker dat Rep. John Lewis een crimineel was.) Een woordvoerder van Amazon zei dat het politieafdelingen aanbeveelt een betrouwbaarheidsdrempel van 95 procent te gebruiken, en dat "Amazon-herkenning bijna uitsluitend wordt gebruikt om te helpen beperk het veld en laat mensen snel hun opties beoordelen en overwegen met behulp van hun oordeel. ”Computers communiceren mogelijk met elkaar, maar - voor nu - vragen ze nog steeds mensen om de laatste beslissing te nemen.
De muziek, gekozen door Paglen met input van Kronos, heeft ook iets te zeggen over technologie. Eén stuk, "Powerhouse, " van Raymond Scott, is "waarschijnlijk het meest beroemd omdat het in tekenfilms in fabrieksscènes wordt gebruikt", zegt Paglen. "Als je ooit een soort fabrieksmatige overproductie en gekke dingen ziet, is dit vaak de muziek die daarover spreekt. Voor mij is het een manier om over die bijna cartoonachtige industrialisatie na te denken en ze in een technologische context te plaatsen." Een ander stuk, "Different Trains" van Steve Reich, sloot de set. Kronos voert alleen het eerste deel uit, dat gaat over Reichs jeugd in de jaren dertig en veertig; Paglen zegt dat hij van mening is dat het stuk "een gevoel van uitbundigheid en vooruitgang viert dat de treinen faciliteren." *
Het werd gekoppeld aan afbeeldingen uit een openbare database genaamd ImageNet, die worden gebruikt om computers te leren wat dingen zijn. (Ook "trainingsgegevens" genoemd, dus ja, het is een beetje een woordspeling.) Het scherm flitste afbeeldingen onmogelijk snel, met voorbeelden van fruit, bloemen, vogels, hoeden, staande mensen, wandelende mensen, springende mensen en individuen zoals Arnold Schwarzenegger. Als je een computer wilde leren hoe je een persoon, zoals Schwarzenegger, of een huis of het concept 'diner' herkent, zou je beginnen met het tonen van een computer met deze duizenden foto's.
Er waren ook korte videoclips van mensen die zoenen, knuffelden, lachten en glimlachen. Misschien is een AI die op deze foto's is getraind welwillend, vriendelijk.
Maar "Different Trains" gaat niet alleen over optimisme; de latere bewegingen, die Kronos donderdag niet speelde maar door de eerste 'geïmpliceerd' worden, gaan over hoe de belofte van treinreizen werd toegeëigend om een instrument van de Holocaust te worden. Treinen, die technologische vooruitgang leken, werden de voertuigen waarin tienduizenden joden werden verplaatst naar vernietigingskampen. Wat een welwillende technologie leek, werd ondermijnd door kwaad.
"Het is als: 'Wat kan er misgaan?' Zegt Paglen. "We verzamelen alle informatie over alle mensen ter wereld."
En in feite, toen "Verschillende Treinen" eindigden, verschoof de focus. Het scherm toonde niet langer afbeeldingen van Kronos of de trainingsgegevens van ImageNet; in plaats daarvan toonde het een live videofeed van het publiek, omdat de algoritmen voor gezichtsherkenning de kenmerken van elke persoon uitkozen. Echt, zelfs als we denken dat we niet in de gaten worden gehouden, zijn we dat wel.
In een live videofeed van het publiek hebben de gezichtsherkenningsalgoritmen de kenmerken van elke persoon uitgezocht. (Bruce Guthrie) Om dit verhaal te melden, verliet ik mijn huis en liep naar het metrostation, waar ik een elektronische kaart scande die aan mijn naam was gekoppeld om door de tourniquet te gaan, en opnieuw toen ik de metro in het centrum verliet. In de stad passeerde ik een half dozijn beveiligingscamera's voordat ik het museum binnenkwam, waar ik er nog twee zag (een Smithsonian woordvoerder zegt dat het Smithsonian geen gezichtsherkenningstechnologie gebruikt; de DC-grootstedelijke politie zegt hetzelfde over zijn camera's).
Ik heb interviews opgenomen met mijn telefoon en de audio geüpload naar een transcriptieservice die AI gebruikt om erachter te komen wat ik en mijn proefpersonen zeggen en al dan niet op mij gerichte reclame richten op basis van de inhoud van de interviews. Ik stuurde e-mails met Gmail, die nog steeds alles "leest" wat ik verzend (hoewel niet langer om me advertenties te tonen).
Tijdens het rapportageproces, terwijl ik door de stad liep, kwam ik - ik verzin dit niet - de Google Street View-auto tegen. Tweemaal. Het is geen paranoia als ze echt naar je kijken, toch?
Dus wat blijft er over in deze wereld waar computers het zien doen en mogelijk oordelen over ons? "Sight Machine" dringt er bij ons op aan om te leren denken als een computer - maar het herinnert ons er ook aan dat sommige delen van ons vooralsnog volledig menselijk zijn.
Muziek, zegt Paglen, "is iets dat echt niet meetbaar is ... als je kijkt naar een computervisiesysteem dat in wezen artiesten ondervraagt, wijst het echt voor mij op die enorme kloof in percepties tussen de manier waarop we cultuur waarnemen en emotie en betekenis.. en alle manieren waarop die onzichtbaar zijn voor autonome systemen. "
Of zoals Harrington het zegt, je kunt muziek maken met een viool gemaakt van hout of een viool gemaakt op een 3D-printer. Je kunt een boog van koolstofvezel gebruiken of een boog van pernambuco-hout. Maar, zegt hij, de boog moet nog steeds over de touwtjes worden getrokken. De muziek "wordt kostbaarder omdat het handgemaakt is."
En voor nu is dat nog steeds iets dat alleen wij kunnen doen. De machines hebben ons misschien niet langer nodig. Maar als het gaat om het plechtige geluid van een strijkstok op een vioolsnaar, en de emotionele snaren die rukken aantekenen, hebben we de machines niet nodig.
'Trevor Paglen: Sites Unseen', gecureerd door John Jacob, gaat door tot 6 januari 2019 in het Smithsonian American Art Museum in Washington, DC. Het is gepland om te reizen naar het San Diego Museum voor Hedendaagse Kunst 21 februari-2 juni, 2019.
* Noot van de redactie, 2 november 2018: dit verhaal is bewerkt om de beoogde betekenis en het herkomstverhaal van de compositie "Different Trains" van Steve Reich te verduidelijken.
