Waarom Elon Musk bang is voor een AI-apocalypse

Kunstmatige intelligentie klinkt voor de meeste mensen nog als toekomstmuziek. Of misschien als achtergrondmuziek, want in het dagelijks leven krijgen we er nog steeds niet direct mee te maken terwijl we er wel vaag iets van horen. Toch is het constant dichtbij. De bedrijven en diensten waar we dagelijks uren verslijten zijn er al lang mee bezig.

Facebook gebruikt het voor gerichte advertenties, het taggen van foto’s en de opbouw van je newsfeed, Netflix maakt er gebruik van bij het adviseren van een serie die bij je past en Microsoft en Apple gebruiken AI onder andere voor de digitale assistenten. Google bouwt er op voor het weergeven van de zoekresultaten, in de software voor de zelfrijdende auto en toonde hoe ver kunstmatige intelligentie al is met AlphaGo.

Het zijn stappen richting alomtegenwoordige kunstmatige intelligentie. Computers die, anders dan die wij vandaag gebruiken, zichzelf razendsnel dingen kunnen leren en zelfstandig beslissingen gaan maken. Ook over leven en dood.

Het zijn systemen waar afhankelijk van wie je het vraagt een utopische of dystopische wereld door ontstaat. Tesla- en SpaceX-CEO Elon Musk zit in het laatste kamp en is er doodsbang voor. Hij is bang dat kunstmatige intelligentie ons zal overheersen. Nu zit de mens namelijk bij technologie nog aan het stuur, maar hij gaat ervan uit dat we op een punt komen dat we kunstmatige intelligentie zichzelf laten verbeteren. Daardoor zal de invloed van de computer meer invloed krijgen op de richting waarin de maatschappij beweegt dan de mens zelf.

Musk vraagt zich daarom af hoe wij de controle kunnen houden in tijden dat computers slimmer worden dan de mens.

Het is een vraag die niet alleen hem bezighoudt. Ook bekende (en knappe) koppen als Bill Gates (oprichter Microsoft), Steve Wozniak (mede-oprichter Apple) en wetenschapper Stephen Hawking denken hier over na en waarschuwen ook al jaren dat we goed na moeten denken over de gevolgen van kunstmatige intelligentie. Het is een nieuwe technologie waarbij je anders dan in het verleden bij de ontwikkeling geen fouten mag maken.

In het verleden konden we ons leven rustig aanpassen aan de nieuwe technologie die er kwam. Met de industriële revolutie veranderde ons leven drastisch, maar dat gebeurde over een periode van decennia. De mens kon zich rustig aanpassen aan de machine, omdat er niet opeens een fabriek stond die arbeid overbodig maakte. Dat geleidelijke proces ontbreekt in de huidige tijd. Ontwikkelingen kunnen in korte tijd de wereld op zijn kop zetten, omdat de nieuwe technologie in software gegoten zit die er wél opeens is.

‘With great power comes great responsibility is inmiddels een dooddoener, maar wél waar. En kunstmatige intelligentie is krachtiger dan iets dat we ooit als mensheid gemaakt hebben. Bij die ontwikkeling mag je, anders dan in het verleden het creëren van nieuwe technologie, als mens geen fouten maken.

Geen fouten

Bij het maken van een computer die we nu dagelijks gebruiken werkt hij niet goed wanneer je een fout maakt bij het programmeren. Bij een vliegtuig valt hij mogelijk op een bepaald moment uit de ligt als je er niet goed over nagedacht hebt. Bij een auto hadden ze het geluk dat er na introductie nog veel aanpassingen gedaan kon worden. Er werden gordels en airbags toegevoegd toen het krachtiger werd. Maar bij kunstmatige intelligentie is die foutmarge kleiner.

“Als we in de toekomst aan AI vragen of het de opwarming van de aarde wil stoppen”, zei YouTuber Siraj Raval onlangs op The Next Web. “En je vraagt  of dat zo snel mogelijk kan, dan is dat met de juiste intentie. Maar AI denkt vervolgens: de mens is het slechtst voor de opwarming van de aarde, dus ik moord de mens uit.”

Het probleem is dat er onbedoelde gevolgen kunnen zijn bij kunstmatige intelligentie en dat je op een gegeven moment niet makkelijk meer terug kunt. Je kunt niet als bij een auto een paar duizend systemen terughalen, want het is software die zich razendsnel kan verspreiden en door blijft ontwikkelen.

Om te voorkomen dat het fout gaat met AI richtte Elon Musk in 2015 daarom OpenAI op, een organisatie die nadenkt over de toekomst van kunstmatige intelligentie. Omdat er nog weinig regelgeving is en het compleet onduidelijk is hoe een wereld met alomtegenwoordige AI er uiteindelijk uit zal zien acht hij dat nodig. Sommige mensen zien de toekomst van superslimme kunstmatige intelligentie er zeker komt, en dat we aan manier waarop niets kunnen doen. Musk kan zich hier niet in vinden.

Onvermijdelijke komst van robots

“Ik denk dat er veel futuristen zijn die een onvermijdelijkheid, of fatalisme voelen als het om robotica gaat, waarbij we een soort perifere rol hebben”, vertelde Musk aan Vanity Fair. Een van de mensen bij wie hij dit ziet is zijn goede vriend en Google-oprichter Larry Page. Zijn zoekgigant heeft ongeveer elke interessante robot-startup en elk opkomend machine learning-bedrijf van de afgelopen jaren opgeslokt, waaronder Deepmind. Voordat Page en co dat bedrijf overnamen was Musk al een investeerder in Deepmind, maar niet om winst te maken. “Het gaf me meer inzicht in het tempo waarin dingen beter werden, en ik denk dat dit echt in een hoog tempo versnelt  veel sneller dan mensen zich nu realiseren. Vooral omdat je in de dagelijkse samenleving geen robots ziet rondlopen. Misschien een Roomba (zo’n robotstofzuiger red.) of iets dergelijks. Maar Roomba’s zullen de wereld niet overnemen.”

Eerder zei hij al tegen Ashlee Vance, de auteur van zijn biografie, dat Alphabet, het moederbedrijf van Google, iets met de juiste intenties kan maken, maar dat er ook per ongeluk iets kwaadaardigs gemaakt kan worden, inclusief “een vloot door kunstmatige intelligentie verbeterde robots die de mensheid kan vernietigen.” Musk is bang dat Page naïef is over een wereld met kunstmatige intelligentie.

De Google-oprichter denkt dat het zelfdenkende systeem alleen zo goed of slecht is als de mens die het geschapen heeft, een houding die Musk openbaar bestrijd en waar genoeg over te zeggen is: wat als Kim Jong-Un, Bashar al-Assad of, laten we het dichter bij huis houden, Donald Trump de toegang tot enorm krachtige kunstmatige intelligentie krijgt? Wat als ze de wereld kunnen beïnvloeden met een systeem dat slimmer is dan wij zelf?

Geen vrienden met Zuckerberg

Een andere topman in Silicon Valley die Musk tegenover zich heeft in het gevecht tegen AI is Facebook-oprichter Mark Zuckerberg. Drie weken nadat Musk OpenAI aankondigde, om toekomstige malafide systemen te voorkomen, kondigde the Zuck aan dat hij een AI-assistent aan het maken was voor in zijn huis. “Sommige mensen denken dat AI een enorm gevaar is”, zei hij duidelijk verwijsend naar Musk. “Maar dat lijkt me vergezocht en minder waarschijnlijk dan rampen als wijdverspreide ziektes en geweld.” In een artikel in Wired gaf hij later nog aan dat de basis van de gevaren die Musk vaker benoemd gebaseerd zijn op science fiction. “Als we onze vooruitgang vertragen op basis van ongefundeerde zorgen staan we in de weg van echte aanwinsten.”

In een video vlak voor kerst 2016 introduceerde Zuckerberg later Jarvis, zijn AI-assistent. Met zijn stem kan hij muziek en licht in huis bedienen en de broodrooster aanzetten.Musk was niet onder de indruk. “Ik zou dit geen AI noemen, wanneer je huishoudelijke functies automatiseert. Het is echt geen AI als je de lichten aan kunt doen en de temperatuur aan kunt passen. Toen Zuckerberg vervolgens gevraagd werd of de voortekenen van Musk “hysterisch” of “valide” waren, antwoordde hij “hysterisch”.

Ook gelijkgestemden, in de wetenschap

Maar Musk heeft ook veel medestanders, voornamelijk in de wetenschappelijke wereld. Vooraanstaande techfilosofen van MIT en Oxford voegen zich bij Musk als hij zijn doemscenario’s verdedigt. “Heb je een huis”, vroeg Max Tegmark, een fysicus verbonden aan MIT en hoofd van het Future of Life Institute, zich op een conferentie in Puerto Rico af. “Heb je een brandverzekering? Toen we vuur kregen en het verpesten, kregen we de brandblusser. Toen we een auto kregen en het verpesten, kregen we een gordel en air bag en een verkeerslicht. Maar met kernwapens en AI willen we niet van onze fouten leren. We willen vooruit plannen.”

Ondertussen is de EU bezig met de ontwikkeling van wetgeving. Daarbij wordt onder andere de vraag gesteld of een robot een rechtspersoonlijkheid moet krijgen, en wordt er gekeken naar een killswitch. Maar Musk betwijfeld (uiteraard) of dit handig is. “Ik weet niet zeker of ik degene zou willen zijn die de killswitch van een soort superkrachtige AI vast heeft, omdat je het eerste zal zijn die het dat het doodt.”

De mens slimmer maken

Het controleren van AI zal met ons huidige intellect een moeilijke opgave worden. Om niet irrelevant te worden — of als huisdier van AI te eindigen, zoals Musk vreest — zouden we daarom onszelf slimmer kunnen maken.

Dat kan door computersystemen aan ons brein te verbinden. Musk heeft daar zelf eind maart Neuralink voor opgericht. Dit is een startup die elektrodes voor de hersenen wil ontwikkelen, zodat we de menselijke hersencapaciteit kunnen vergroten.

De entrepreneur heeft al eens gezegd dat de mens nu al een soort cyborg is, omdat we al constant onze informatie uit computers halen. Nu doen we dat nog aan een bureau of met een smartphone in de hand, maar als we die computer direct aan onze hersenen koppelen wordt dat proces versnelt waardoor we niet veel dommer zijn dan de computers om ons heen. Dan ontstaat er mogelijk geen dystopische wereld waarin wij de computer dienen, in plaats van andersom.

Dit artikel verscheen eerder op Numrush.nl.