Kunstmatige intelligentie heeft een lange weg afgelegd sinds R2-D2. Tegenwoordig zouden de meeste millennials verloren gaan zonder slimme GPS-systemen. Robots navigeren al over slagvelden en drones leveren mogelijk binnenkort Amazon-pakketten af voor onze deur.
Siri kan ingewikkelde vergelijkingen oplossen en u vertellen hoe u rijst kookt. Ze heeft zelfs bewezen dat ze zelfs met humor kan reageren op vragen.
Maar al deze voordelen zijn afhankelijk van een gebruiker die de AI-richting geeft. Wat zou er gebeuren als GPS-apparaten besloten dat ze niet naar de stomerij wilden, of erger, Siri besloot dat ze slimmer kon worden zonder jou in de buurt?
Onze laatste uitvinding: kunstmatige intelligentie en het einde van de mensheid. ">
Onze laatste uitvinding: kunstmatige intelligentie en het einde van de mensheid. ">" Voordat we de planeet delen met superintelligente machines, moeten we een wetenschap ontwikkelen om ze te begrijpen. Anders nemen ze de controle, "zegt auteur James Barrat van zijn nieuwe boek, Our Final Invention: Artificial Intelligence and the End of the Human Era . (Courtesy of James Barrat) Dit zijn slechts de meest tamme resultaten James Barrat, een auteur en documentairemaker, voorspellingen in zijn nieuwe boek, Our Final Invention: Artificial Intelligence and the End of the Human Era .
Al snel, zegt Barrat, zal kunstmatige intelligentie - van Siri tot drones en datamining-systemen - niet meer naar mensen zoeken voor upgrades en zelf verbeteringen gaan zoeken. En in tegenstelling tot de R2-D2's en HAL's van science fiction, zal de AI van onze toekomst niet noodzakelijk vriendelijk zijn, zegt hij: ze zouden eigenlijk kunnen zijn wat ons vernietigt.
Kortom, kunt u uw grote idee uitleggen?
In deze eeuw zullen wetenschappers machines maken met intelligentie die gelijk is aan die van onszelf en deze overtreft. Maar voordat we de planeet delen met superintelligente machines, moeten we een wetenschap ontwikkelen om ze te begrijpen. Anders nemen ze de controle. En nee, dit is geen science fiction.
Wetenschappers hebben al machines gemaakt die beter zijn dan mensen bij schaken, gevaar!, navigatie, data mining, zoeken, stelling bewijzen en talloze andere taken. Uiteindelijk zullen bij AI-onderzoek machines worden gemaakt die beter zijn dan mensen
Op dat moment kunnen ze hun eigen capaciteiten zeer snel verbeteren. Deze zelfverbeterende machines zullen de doelen nastreven waarmee ze zijn gemaakt, of het nu gaat om verkenning van de ruimte, schaken of aandelen uitkiezen. Om te slagen zullen ze middelen zoeken en gebruiken, of het nu energie of geld is. Ze proberen de foutmodi te vermijden, zoals uitschakelen of de stekker uit het stopcontact halen. Kortom, ze zullen schijven ontwikkelen, inclusief zelfbescherming en het verwerven van middelen - schijven die op de onze lijken. Ze zullen niet aarzelen om te bedelen, lenen, stelen en erger om te krijgen wat ze nodig hebben.
Hoe bent u geïnteresseerd geraakt in dit onderwerp?
Ik ben een documentairemaker. In 2000 interviewde ik uitvinder Ray Kurzweil, robotica Rodney Brooks en sciencefictionlegende Arthur C. Clarke voor een TLC-film over het maken van de roman en film, 2001: A Space Odyssey. De interviews verkenden het idee van de Hal 9000 en kwaadaardige computers. De boeken van Kurzweil hebben de AI-toekomst afgeschilderd als een verrukkelijke 'singulariteit', een periode waarin technologische vooruitgang het vermogen van mensen om ze te begrijpen te boven gaat. Toch verwachtte hij alleen goede dingen uit AI die sterk genoeg zijn om de menselijke intelligentie te evenaren en te overtreffen. Hij voorspelt dat we de cellen van ons lichaam kunnen herprogrammeren om ziekten en veroudering te verslaan. We zullen superuithoudingsvermogen ontwikkelen met nanobots die meer zuurstof leveren dan rode bloedcellen. We vullen onze hersenen met computerimplantaten zodat we superintelligent worden. En we zullen onze hersenen overdragen naar een duurzamer medium dan onze huidige "wetware" en voor altijd leven als we dat willen. Brooks was optimistisch en stond erop dat AI-versterkte robots bondgenoten zouden zijn, geen bedreigingen.
Wetenschapper-auteur-Clarke was daarentegen pessimistisch. Hij vertelde me dat intelligentie zal winnen en dat mensen waarschijnlijk zullen concurreren om te overleven met superintelligente machines. Hij was niet specifiek over wat er zou gebeuren als we de planeet delen met superintelligente machines, maar hij vond het een strijd voor de mensheid die we niet zouden winnen.
Dat druiste in tegen alles wat ik over AI had gedacht, dus begon ik experts in kunstmatige intelligentie te interviewen.
Welk bewijs heb je om je idee te ondersteunen?
Geavanceerde kunstmatige intelligentie is een technologie voor tweeërlei gebruik, zoals kernsplijting, die veel goed of veel kwaad kan doen. We beginnen net de schade te zien.
Het NSA-privacyschandaal is tot stand gekomen omdat de NSA zeer geavanceerde dataminingtools heeft ontwikkeld. Het bureau gebruikte zijn kracht om de metadata van miljoenen telefoongesprekken en het hele internet door te voeren - kritisch, alle e-mail. Verleid door de kracht van datamining AI, misbruikte een agentschap dat werd belast om de grondwet te beschermen in plaats daarvan. Ze ontwikkelden tools die te krachtig voor hen waren om verantwoord te gebruiken.
Vandaag begint een andere ethische strijd over het maken van volledig autonome moorddrones en slagveldrobots aangedreven door geavanceerde AI - mensenmoordenaars zonder mensen in de lus. Het brouwt tussen het ministerie van Defensie en de drone- en robotfabrikanten die worden betaald door de DOD, en mensen die het dwaas en immoreel vinden om intelligente moordmachines te maken. Degenen die voorstander zijn van autonome drones en slagveldrobots beweren dat ze moreler zullen zijn - dat wil zeggen, minder emotioneel, zullen zich beter richten en meer gedisciplineerd zijn dan menselijke operatoren. Degenen die mensen niet uit de kring willen halen, kijken naar de ellendige geschiedenis van drones van het vermoorden van burgers en betrokkenheid bij extralegale moorden. Wie neemt de morele schuld op zich wanneer een robot doodt? De robotmakers, de robotgebruikers of niemand? Nevermind de technische hindernissen van het vertellen van vriend van vijand.
Op langere termijn, zoals experts in mijn boek beweren , zal AI die intelligentie op menselijk niveau benadert niet gemakkelijk worden gecontroleerd; helaas impliceert superintelligentie geen welwillendheid. Zoals AI-theoreticus Eliezer Yudkowsky van MIRI [het Machine Intelligence Research Institute] zegt: "De AI houdt niet van je en haat je ook niet, maar je bent gemaakt van atomen die het voor iets anders kan gebruiken." worden ingebouwd in een machine, dan zullen we super-intelligente psychopaten creëren, wezens zonder morele kompassen, en we zullen niet lang hun meesters zijn.
Wat is nieuw aan je denken?
Individuen en groepen zo divers als de Amerikaanse computerwetenschapper Bill Joy en MIRI hebben lang gewaarschuwd dat we veel te vrezen hebben van machines waarvan de intelligentie de onze verduistert. In onze laatste uitvinding betoog ik dat AI ook zal worden misbruikt op het ontwikkelingstraject naar intelligentie op menselijk niveau. Tussen vandaag en de dag waarop wetenschappers intelligentie op menselijk niveau creëren, hebben we AI-gerelateerde fouten en criminele toepassingen.
Waarom is er niet meer gedaan of wat wordt er gedaan om te voorkomen dat AI ons aanzet?
Er is niet één reden, maar veel. Sommige experts geloven niet dat we dicht genoeg bij het creëren van kunstmatige intelligentie op menselijk niveau en daarbuiten zijn om ons zorgen te maken over de risico's. Veel AI-makers winnen contracten met het Defense Advanced Research Projects Agency [DARPA] en willen geen kwesties aankaarten die zij als politiek beschouwen. De normbias is een cognitieve neiging die voorkomt dat mensen reageren op rampen en rampen in de maak - dat hoort er zeker bij. Maar veel AI-makers doen iets. Bekijk de wetenschappers die MIRI adviseren. En er zullen nog veel meer betrokken raken zodra de gevaren van geavanceerde AI de reguliere dialoog aangaan.
Kun je een moment beschrijven waarop je wist dat dit groot was?
Wij mensen sturen de toekomst niet omdat we de snelste of de sterkste wezens op aarde zijn, maar omdat we de slimste zijn. Als we de planeet delen met wezens die slimmer zijn dan wijzelf, sturen ze de toekomst. Toen ik dit idee begreep, voelde ik dat ik aan het schrijven was over de belangrijkste vraag van onze tijd.
Elke grote denker heeft voorgangers wiens werk cruciaal was voor zijn ontdekking. Wie heeft je de basis gegeven om jouw idee te bouwen?
De basis voor AI-risicoanalyse is ontwikkeld door wiskundige IJ Good, science fiction-schrijver Vernor Vinge en anderen, waaronder AI-ontwikkelaar Steve Omohundro. Vandaag staan MIRI en Oxford's Future of Humanity Institute bijna alleen in de aanpak van dit probleem. Onze laatste uitvinding bevat ongeveer 30 pagina's met eindnoten die deze denkers erkennen.
Wat was het hoogtepunt bij het onderzoeken en ontwikkelen van uw idee? En het dieptepunt?
De hoogtepunten waren het schrijven van Our Final Invention en mijn voortdurende dialoog met AI-makers en theoretici. Mensen die AI programmeren, zijn zich bewust van de veiligheidsproblemen en willen helpen met het bedenken van veiligheidsmaatregelen. MIRI werkt bijvoorbeeld aan het creëren van een "vriendelijke" AI
Computerwetenschapper en theoreticus Steve Omohundro heeft een "steiger" -aanpak bepleit, waarbij aantoonbaar veilige AI helpt bij het bouwen van de volgende generatie AI om ervoor te zorgen dat ook deze veilig is. Dan doet die AI hetzelfde, enzovoort. Ik denk dat er een publiek-privaat partnerschap moet worden opgezet om AI-makers samen te brengen om ideeën over veiligheid te delen - zoiets als het International Atomic Energy Agency, maar in samenwerking met bedrijven. De dieptepunten? Realiseren dat de beste, meest geavanceerde AI-technologie zal worden gebruikt om wapens te maken. En die wapens zullen zich uiteindelijk tegen ons keren.
Welke twee of drie mensen zullen het meest waarschijnlijk proberen uw argument te weerleggen? Waarom?
Uitvinder Ray Kurzweil is de belangrijkste apoloog voor geavanceerde technologieën. In mijn twee interviews met hem beweerde hij dat we zouden samensmelten met de AI-technologieën door middel van cognitieve verbeteringen. Kurzweil en mensen die in het algemeen transhumanisten en singularitairen worden genoemd, denken dat AI en uiteindelijk kunstmatige algemene intelligentie en verder met ons mee zullen evolueren. Computerimplantaten zullen bijvoorbeeld de snelheid en algemene mogelijkheden van onze hersenen verbeteren. Uiteindelijk zullen we de technologie ontwikkelen om onze intelligentie en bewustzijn naar computers te transporteren. Dan zal superintelligentie ten minste gedeeltelijk menselijk zijn, wat in theorie zou garanderen dat superintelligentie 'veilig' was.
Om vele redenen ben ik geen fan van dit standpunt. Het probleem is dat wij mensen niet betrouwbaar veilig zijn, en het lijkt onwaarschijnlijk dat superintelligente mensen dat ook zullen zijn. We hebben geen idee wat er gebeurt met de ethiek van een mens nadat hun intelligentie is gestimuleerd. We hebben een biologische basis voor agressie die machines niet hebben. Super-intelligentie zou heel goed een agressie-multiplier kunnen zijn.
Op wie is dit idee het meest van invloed?
Iedereen op de planeet heeft veel te vrezen van de ongereguleerde ontwikkeling van superintelligente machines. Er is nu een inlichtingenrace aan de gang. Het bereiken van AGI is job nummer één voor Google, IBM en veel kleinere bedrijven zoals Vicarious en Deep Thought, evenals DARPA, de NSA en overheden en bedrijven in het buitenland. Winst is de belangrijkste motivatie voor die race. Stel je een waarschijnlijk doel voor: een virtueel menselijk brein voor de prijs van een computer. Het zou de meest lucratieve grondstof in de geschiedenis zijn. Stel je voor dat duizenden hersenen van PhD-kwaliteit 24/7 werken aan farmaceutische ontwikkeling, kankeronderzoek, wapenontwikkeling en nog veel meer. Wie zou die technologie niet willen kopen?
Ondertussen ontwikkelen 56 landen slagveldrobots, en de drive is om ze, en drones, autonoom te maken. Het zullen machines zijn die doden, zonder toezicht van mensen. Verarmde landen zullen het meest worden getroffen door autonome drones en slagveldrobots. Aanvankelijk zullen alleen rijke landen zich autonome kill-bots kunnen veroorloven, dus rijke landen zullen deze wapens hanteren tegen menselijke soldaten uit arme landen.
Hoe kan het het leven veranderen, zoals we het kennen?
Stelt u zich eens voor: in slechts tien jaar tijd werken een half dozijn bedrijven en landen met computers die de menselijke intelligentie evenaren of overtreffen. Stel je voor wat er gebeurt als die computers expert worden in het programmeren van slimme computers. Binnenkort delen we de planeet met machines duizenden of miljoenen keren intelligenter dan wij. En al die tijd zal elke generatie van deze technologie worden bewapend. Niet gereguleerd, het zal catastrofaal zijn.
Welke vragen blijven onbeantwoord?
Oplossingen. De voor de hand liggende oplossing zou zijn om de machines een moreel gevoel te geven waardoor ze het menselijk leven en eigendom waarderen. Maar het programmeren van ethiek in een machine blijkt extreem moeilijk te zijn. Morele normen verschillen van cultuur tot cultuur, ze veranderen in de loop van de tijd en ze zijn contextueel. Als wij mensen het niet eens kunnen worden over wanneer het leven begint, hoe kunnen we dan een machine vertellen om het leven te beschermen? Willen we echt veilig zijn , of willen we echt vrij zijn ? We kunnen er de hele dag over discussiëren en geen consensus bereiken, dus hoe kunnen we het mogelijk programmeren?
We moeten ook, zoals ik al eerder zei, AI-ontwikkelaars bij elkaar brengen. In de jaren 1970 besloten recombinant-DNA-onderzoekers het onderzoek op te schorten en samen te komen voor een conferentie in Asilomar in Pacific Grove, Californië. Ze ontwikkelden fundamentele veiligheidsprotocollen zoals "traceer het DNA niet op je schoenen", uit angst voor besmetting van het milieu met lopende genetische werken. Vanwege de 'Asilomar-richtlijnen' profiteert de wereld van genetisch gemodificeerde gewassen en ziet gentherapie er veelbelovend uit. Voor zover we weten, zijn ongelukken vermeden. Het is tijd voor een Asilomar-conferentie voor AI
Wat staat er in de weg?
Een enorme economische wind stuwt de ontwikkeling van geavanceerde AI-intelligentie op menselijk niveau voor de prijs van een computer zal de meest populaire grondstof in de geschiedenis zijn. Google en IBM willen hun geheimen niet delen met het publiek of concurrenten. Het ministerie van Defensie wil zijn laboratoria niet openen voor China en Israël en vice versa. Publiek bewustzijn moet het beleid naar openheid en publiek-private partnerschappen duwen, gericht op veiligheid.
Wat is het volgende voor jou?
Ik ben een documentairemaker, dus ik denk natuurlijk aan een filmversie van Our Final Invention .
