ARTIFICIAL
INTELLIGENCE EN DE MENSELIJKE MAAT
1 INLEIDING
Hier
volgen tien stellingen waarin ik wil nagaan, Harari’s boeken lezend, hoe de
werkelijkheid zich aan mij voordoet. De uitwerking heeft geen pretentie buiten
dit kader om en is volstrekt
persoonlijk. Maar persoonlijk is het verhaal van Harari ook. In het programma
Buitenhof van 26 augustus[1]
2018 bleek dat de deskundigen (wetenschappers, kunstenaars) op een eigen wijze
naar de projecties van Harari kijken en die interpreteren. Er was in dat
programma wel consensus over de noodzaak om de voortstormende technologische
ontwikkelingen in goede wetgeving te vangen, zodat de commerciële markten niet
met de homo sapiens aan de haal gaan. Is er dan toch nog toekomst voor de homo
sapiens?
2 DE STELLINGEN
1.
De beschouwingen van Harari zijn vooringenomen en speculatief, er is geen reden
tot paniek;
Al eerder dan in
2018 is een aanzienlijke stroom publicaties op gang gekomen over de inpassing
van artificial intelligence in het dagelijks (mensen)leven. Het onderwerp van
Harari heeft nu ook de mainstream bereikt. Wat daarin opvalt is dat er enige
angst uit spreekt voor de onbeheersbaarheid van die robotica. Waar aanvankelijk
het vermogen van een robot nog als een grappig verschijnsel werd gezien, komen
mensen steeds meer tot het besef dat een onomkeerbaar proces hun leven gaat
beïnvloeden ( 2Doc’More human than human’ 17.9.2018 NPO2). Harari geeft
wel toe dat zijn ideeën geen voorspellingen zijn maar alleen mogelijkheden.
Zijn vooringenomenheid betreft de opvatting dat de mens te lijden heeft aan de
eeuwige kringloop van geboren worden, lijden en sterven. Deze deterministische
kijk op de wereld stamt van gedachten uit het Boeddhisme. Daarin ontbreken
goden of een God maar wordt de verloste mens een god gelijk. Een Homo Deus.
Harari’s
exercities zijn ook speculatief omdat zijn verklaringsmodel gebaseerd is op de
ontwikkelingsgeschiedenis van de mens die voor de toekomst geldigheid krijgt.
Dat blijkt uit zijn aanname dat de mens een geëvolueerd dier is, dat onderhevig
blijft aan de wetten van de natuur. Daarvoor, voor die extrapolatie, is echter geen bewijs, hooguit een theorie.
Wie het verleden
tot getuige roept voor een mogelijke richting van de toekomst weet een ding
zeker: die toekomst gaat gepaard met disrupties, versnellingen, terugval en
vooruitgang. Hoe bedreigend het scenario van Harari er ook uitziet, het is
geruststellend dat de mens altijd een weg heeft gevonden om de soort van de
ondergang te redden.
2. De macht van de dataïsten met hun
algoritmes wordt zwaar overdreven;
Harari verwacht
dat de mensen met geld over de informatie zullen gaan beschikken waarmee zij
macht over de anderen, de onvermogenden, zullen uitoefenen. Google en Facebook
zijn goed op weg naar een wereldheerschappij. Maar de eerste blokkades zijn al
opgeworpen (boetes van de EU) omdat de gebruikers van de sociale media zich
meer en meer bedreigd voelen. Dat zal volgens mij leiden tot een egalisatie in
de machtsverdeling.
Het is wel waar
dat robotica sterk in opkomst is en steeds meer de mens verdringt uit de klassieke
leefpatronen. Zorgrobot, selfdrive auto’s, spraakautomaten, melkrobots, er zijn
vele voorbeelden van de toepassing van algoritmes in machines die werk
overnemen. Als Harari voorziet dat voor mensen een betekenisloos bestaan in het
verschiet ligt, rekent hij niet op de vindingrijkheid van de menselijke geest.
3.
De vooruitgang in de technologische wetenschap is niet tegen te houden, wel te
richten;
Dat is volkomen
waar. In een pas verschenen boek[2]
wordt de wetenschappelijke wereld voorgesteld als bestaande uit Profeten en
Tovenaars. Harari’s wetenschappers zijn de tovenaars die onverflauwd aan de
uitbouw van menselijke kennis werken en voor alles een technologische oplossing
hebben of zoeken. Zeker, dat is gevaarlijk (atoombom) maar ook heilzaam (gezondheid).
De Profeten denken in termen van minder ontwikkelen
en consumeren om zo op een natuurlijke manier naar een oplossing van de
klimaatproblemen te zoeken. In de bewering van Mevrouw doctor Müller
(Zomergasten VPRO tv) dat we onsterfelijkheid zullen bereiken is de Tovenaar
aan het woord. In het rapport van de VN commissie over de klimaatrisico’s laten
de Profeten zich gelden. Zo ontstaat een evenwichtsrelatie tussen de mensen die
meer-meer-meer roepen en de aardbewoners die juist minder-minder-minder willen.
4.
De mens streeft naar zingeving; als hij door voortgaande robotisering als soort
totaal overbodig wordt helpt zijn vrije geest en creatieve vermogen hem een
compenserende invulling te vinden en zijn eigenwaarde te houden;
Uit de tv discussie
van 26 augustus 2018 bleek dat we ervanuit kunnen gaan dat de mens altijd naar
zingeving in zijn leven zoekt. Als Harari voorziet dat er een werkloze klasse
ontstaat, mag in die groep het bestaan een diep triest bestaansbesef verondersteld
worden. Maar zo ver zal het niet komen, dachten de denkers uit het programma.
Mensen kunnen zich via verbeelding (iedereen vindt zijn eigen werk belangrijk)
en (schijn)rationalisatie toch een waardigheid aanmeten. Als de wereld wordt
overspoeld met oppermachtige dataïsten zijn er evenveel beveiligers nodig, gaf
men als voorbeeld van zinvolle correcties. Altijd vindt de mens de zin van zijn
bestaan. Ook de cyborg.
5.
Nepnieuws (korte termijn) is een schadelijk bijproduct van algoritmische
processen;
Naar de mate
waarin sociale media (Facebook, Instagram, What’s app, Google- ‘diensten’)
wordt gebruikt, is het risico aanwezig dat de gebruikers slachtoffer worden van
de dataïsten en dus niet langer een vrij oordeel kunnen vormen. Aan dat proces
zijn mensen gewend geraakt via de reclameboodschappen. Daarin worden immers
ideale situaties voorgesteld en we zijn graag bereid te geloven dat dat ook
voor ons is weggelegd. Als mensen op de sociale platforms ‘achtervolgd’ worden
met voor hen geloofwaardige beelden en tekst, zijn ze rijp voor verkeerde
boodschappen. Is iets waar of niet waar? Onwaar nepnieuws zoals in reclame is
nog het meest onschuldige fenomeen in ons bestaan. Ernstiger is het als – op
basis van over mensen verzamelde BIGdata – op het juiste moment, op de juiste
plaats aan de juiste persoon een leugenachtige boodschap met verkeerde
intenties wordt toegezonden.
Dit is een
voorbeeld in de wereld van Harari: dat de
wal uiteindelijk het schip zal keren.
6.
Nepnieuws (lange termijn) is onmisbaar voor het voortbestaan van de transhumane
soort;
Onmisbaar
nepnieuws???!!! Ja, dat bestaat. Niet in Harari’s universum want daarin
domineren de feiten van de Tovenaars. Wel in de wereld van de Profeten waarin
het geloof in de menselijke maat de toekomst van de mens bepaalt. Voor de
transhumane soort, dus de mens/robot combinatie, of voor de dier/robot-
eenheid, is het wenselijk dat er verhalen blijven. Dat is omdat de menselijke mythes
terug grijpen op de archetypische structuren in de mens die verklaren waarom en
waartoe dingen bestaan. Noem dit geloof nepnieuws, zoals Harari zegt. De
transhumane soort is (nog) geen machine en zelfs een machine volgt zijn
programmatuur die door de mens is ingegeven. Dus dat brengt de noodzaak van een
bestendig aanwezige fantasie over welke vaste waarden gelden bij het bouwen aan
de toekomst van de wereld en de
mensheid.
7.
De creatieve inval bij een kunstenaar is te vergelijken met de random functie
in artificial intelligence;
Een creatieve
gedachte is een epifanie of een flits van inzicht die zich voordoet aan de
mens. Plotseling is de gedachte er. Zo is hij verdwenen. Bij artificial
intelligence doemt ook een dergelijke functie op, de randomizing van een stel
waarden die willekeurig gecombineerd worden binnen een bepaalde tijd. Het zijn
de bewegingen van de dobbelstenen die hevig geschud worden en een volkomen
willekeurige uitslag kennen. Maar met verschil.
De randomfunctie
van een computer ontstaat omdat hij zo geprogrammeerd is door de
systeemanalist. De programmeur zorgt ervoor dat door spanningsverschillen in
het ene circuit een (andere) tensie in een volgend circuit optreedt, et een willekeurig resultaat als gevolg. Feitelijk wordt hier bewust gebruik gemaakt van natuurkundige
verschijnselen. En omdat het basisproces bewust wordt gegenereerd, is het resultaat slechts schijnbare spontaniteit.
De film van Jan Vrijman (1961) over Karel Appel toont
aan dat Appel het creatieve proces trachtte te benaderen via spontane invallen.
Immers, het was de tijd dat kinderen en geesteszieken werden geacht volkomen
spontaan te handelen en volwassenen kunnen proberen hen daarin te volgen. Het gaat daarbij immers om de vrije gedachte, dat is een gedachte die niet door wat ook beïnvloed is.
Nu volgt uit
Harari’s theorie, dat ook die soort processen van biochemische oorsprong is. Dus
Appel is tijdens smijten met verf helemaal niet vrij van zijn omgeving: zijn
bewustzijnsstromen doen hem de tijdgeest volgen dus van een vrije spontane gedachte
kan geen sprake zijn. Appel wilde dit gewoon conform zijn vrije wil. Volgens Harari bestaat er echter
geen vrije wil. Wij zijn overgeleverd aan het vrije spel van biochemische
reacties. Creatieve gedachten zijn toevallige bewustzijnsstromen die komen en
gaan. Ze voeren tot een volkomen willekeurig resultaat. Harari’s wereld is daarmee
deterministisch en principieel amoreel.
Mijn conclusie
is dat zowel bij de kunstenaar als bij A.I. de handelingen bij het creatieve
proces afhankelijk zijn van situationele (omgevingsverschijnselen) en
dispositionele (persoonlijke eigenschappen) oorzaken en zijn ze dus vergelijkbaar.
8.
De supermens is een zedelijk wezen dat
een altruïstische utilitaire ethiek nastreeft: het meeste geluk
garanderen voor de meeste mensen;
Dagelijks wordt
bericht over nieuwe toepassingen van A.I. Zoals vandaag in de Volkskrant wordt
bericht over een computer die ad random een duur kunstwerk heeft vervaardigd en
elders in Parijs een computer is gevoed met algoritmes waardoor een precies op
de persoonlijke eigenschappen van de gebruiker afgestemd parfum kan worden
geproduceerd. Van reuk of tastzin is geen sprake, wel van BIGDATA waaruit de
geselecteerde kenmerken worden gedestilleerd.
Gaat de computer
de mens dan overal overtreffen en zelfs compleet vervangen? Veel mensen zijn
daar bang voor. Toch is het mijn mening dat de supermens, misschien
onsterfelijk, misschien half machine in wezen een menselijk wezen blijft.
Volgens Harari
bepalen biochemische processen in welke vorm de mens bestaat. De vrije wil
bestaat niet, want wat op een vrije wil lijkt is niets anders dan een
biochemisch proces gebaseerd op willekeurige combinaties van
bewustzijnsstromen.
Ten diepste is
een menselijk wezen een ‘sociaal dier’ dat altijd gedreven wordt door het
willen controleren van de omgeving, in contact met anderen te zorgen voor
lijfsbehoud en zichzelf zal evalueren als waardevol. A.I. kan dat imiteren en
leren gebruiken maar kan vooralsnog zonder programmeurs geen kwaliteitsoordeel
over iemands leven geven. Daarvoor is een moreel besef nodig. De mens is en
blijft een zedelijk wezen dat geluk nastreeft voor zichzelf en anderen. Want
zijn alle soortgenoten ongelukkig, arm, afhankelijk van steun, ten dode
opgeschreven, dan is het eigen bestaan ook niet gegarandeerd (Jemen 2018).In Jeremy Bentham’s idee dat wij altijd moeten
handelen om het meeste geluk voor de meeste soortgenoten te bereiken, ligt
besloten dat eigen belang en gemeenschappelijk belang samenvallen.
Zelfs een
computer is daarvoor te programmeren maar dan wel op basis van kansberekening.
Maar een best mogelijke uitkomst komt tot stand op basis van getallen of
syllogismen. Daarin worden de wetten van de logica gevolgd. Het is daarbij of
de een het voordeel geven of de ander. Daarom zal de supermens niet te
vervangen zijn door A.I. omdat die wel in staat is twee conflicterende doelen
tegelijk na te streven.
9.
De liberale democratie zal verdwijnen omdat haar vrijheid en gelijkheid
strijdig is met de machtsstructuren in de nieuwe ideologie gebaseerd op artificial
intelligence;
Bedrijven
ontlenen nu al hun macht aan de hoeveelheid verzamelde gegevens over de mens en
de wereld. Harari verwacht dat dat in de toekomst leidt tot een opdeling van menselijke structuren. Kennis zal
eenzijdig bij de machtigen berusten die geld hebben en mogelijkheden bezitten
om die kennis te verzamelen, uit te breiden en te gebruiken. Dat gaat ten koste
van de mensen die zich door die bigdata laten sturen. De reclame is (als
nepnieuws) een algemeen aanvaard goed voorbeeld van beïnvloeding van iemands opinie
over een product of dienst.
De heersers
zullen ook actief politieke meningen, keuzen, afwegingen, beslissingen van
‘onderdanen’ kunnen beïnvloeden, zolang er geen bindende politieke regels zijn
die hen daarin beperkt. Omdat in een vrij krachtenspel de machtelozen
verliezen, dienen die beschermd te worden op straffe van verlies van vrije
keuzen en liberale democratische waarden.
10.
Er zal in een samenleving altijd ruimte blijven voor de Grote Verhalen –
liberalisme, socialisme, communisme, christendom, islam, hindoe, boeddha –
omdat zij de mens behoeden voor betekenisloosheid.
Deze stelling is
gebaseerd op het psychologisch inzicht dat de mens niet alleen kan leven. Hij
heeft de andere mens nodig om te overleven. Dus zal de soort wanneer een
situatie onder 9 dreigt, maatregelen nemen om de eigen positie en die van miljarden
anderen veilig te stellen.
Ook filosofen
als Levinas hebben dat onderkend en uit die hoek predikt men het belang van de
Ander voor het welzijn van het eigen ‘ik’ of individu.
Je kunt
natuurlijk de Ander om uiteenlopende nodig hebben. President Trump van de
VS heeft anderen nodig om zichzelf te
verheffen. De EU en de NAVO bestaan uit staten die elkaars belang zoeken.
Sommigen hebben de Ander nodig om als vijandbeeld te dienen en zichzelf te
profileren. In de meeste gevallen zoeken mensen de Ander op, en richten ze zich
op verbinding, veiligheid, waardering en erkenning. Soms leidt dat tot
groepsvorming met bedenkelijke trekjes zoals de extremen uit het Nationalisme
ons hebben doen ervaren.
In
de omgang met anderen hangen aspecten samen als gezamenlijke geschiedenis,
lotsverbondenheid, idealen, individueel belang en groepsbelang en de omloop van
de mythes waarin de archetypische structuren van de mens voortleven.
Artificial
Intelligence is vooralsnog een fenomeen van de logica waarbinnen geen ruimte is
voor interpretatie. Het is daarom goed dat er de Grote Verhalen zijn
waarin mensen houvast zoeken en krijgen wanneer de zekerheden om
hen heen weg vallen.
3 SLOT
Deze persoonlijke
verkenning van standpunten en mogelijke verklaringen voortkomend uit de boeken
van Harari, is slechts een begin van wat eigenlijk een grondige analyse zou moeten
zijn.
Yuval Noah
Harari heeft in een aantal boeken beschreven wat zijn gedachten zijn over de
menselijke status en de toekomst ervan. Bewijsvoering levert hij niet, maar
biedt ons wel een prachtig eigentijds verhaal dat tot nadenken en verdere actie
oproept.
Of een lezer nu
een Tovenaar is, met een ongebreideld vertrouwen in de machtige rol van de
wetenschap voor het welzijn van de menselijke soort, of een Profeet is, met een
diep geworteld wantrouwen tegen diezelfde oncontroleerbare groei en inzet van
wetenschappelijke kennis en de mogelijke uitputting van de aarde, beiden hebben
er belang bij dat ons streven gericht blijft op het maximale geluk voor een
maximaal aantal aardbewoners.
31
oktober 2018
[2] Charles C. Mann, The wizard and the prophet. Two remarkable
scientists on their dueling visions to shape tomorrow’s world , ‘De
Tovenaar en de Profeet’ (Amsterdam
2018).
