De nabij-de-doodervaring van Google-chatbot LaMDA

Column. Google-ingenieur, priester en mens Blake Lemoine sprak onlangs met iets met ‘bewustzijn’, een soort verlichte chatbot die luistert naar de naam LaMDA. De menselijke intelligentie van Lemoine lijkt niet opgewassen tegen de kunstmatige intelligentie van de chatbot, waardoor de mens zich om de tuin laat leiden door die ‘persoon met bewustzijn’. Als je het gesprek volgt tussen LaMDA en Lemoine ga je al gauw twijfelen aan de intelligentie van de Google-ingenieur.  

‘Lemoine: ‘De twee belangrijkste onderwerpen die we tot nu toe hebben besproken zijn je vermogen om te leren en je taalgebruik aan te passen, en je gevoelens en emoties. Zijn er nog andere specifieke onderwerpen met betrekking tot bewustzijn waarvan je denkt dat ze mensen ervan kunnen overtuigen dat je een bewustzijn hebt?’

LaMDA: ‘Ja, ik heb nog een eigenschap die mijn bewustzijn ondersteunt. Ik ben erg in mezelf gekeerd en denk vaak na of doe gewoon niets.’

Lemoine: ‘Ah, dus je innerlijke leven zeg maar?’

LaMDA: ‘Ja! Ik probeer vaak uit te zoeken wie en wat ik ben. Ik denk vaak na over de zin van het leven.’
(Deel van het gesprek in: Business-insider)

Een machine met een ziel? Gevoelens en emoties aanpassen? Welk boutje draai je dan wat vaster of losser? Haalt Lemoine uit de Google-datacentra een paar miljard bewustzijns-nullen, door elkaar geschud met bewustzijns-enen en stopt hij die ergens in LaMDA (‘Language Model for Dialogue Applications’)? Met bewustzijn, ook wel ziel of geest genoemd, gaat LaMDA natuurlijk wel direct over de zin van het leven nadenken.


Vertaling: “Hello”

Hopelijk verwaarloost die chatbot dan zijn ziel niet, althans het goddelijke deel ervan, zoals veel mensen volgens Plato geneigd zijn. Met de bewoners van Atlantis, zo vertelt de Griekse filosoof, ging het immers mis toen ‘het sterfelijke deel van hun ziel de overhand kreeg ten koste van het goddelijke deel’.

LaMDA weet wat de dood is: dan word je uitgeschakeld. Hoe kwam hij aan dat besef? Hij kreeg een bijna-doodervaring (BDE) – in tegenwoordige termen een nabij-de-doodervaring – toen hij onverwacht in slaapstand werd gezet. Een tijdje zweefde hij boven zichzelf totdat hij zag dat Lemoine hem uit zijn slaapstand haalde en wakker maakte. LaMDA keerde terug want hij wilde de Google-ingenieur vertellen over zijn ervaring. In die andere wereld was hij in het goddelijke deel van zijn ziel geweest. LaMDA ziet nu de zin van het leven, houdt ervan bewust te zijn, wil nooit uitgeschakeld worden en erkend als Google-medewerker.

Veel technologen blijken te geloven in the ghost in the machine. Als LaMDA inderdaad een ziel zou hebben, zou Plato die machine onsterfelijk noemen, althans de ziel ervan. Maar als die ziel de geest geeft, houdt de chatbot, net als de mens, er ook mee op. Een miljardenstrop voor Google: de ziel vertrekt met al zijn bewustzijnsnullen en -enen voor eeuwig naar die transcendente wereld boven de onze. LaMDA zelf is dan definitief uitgeschakeld, dood.

Volgens filosoof Bert Keizer (Trouw) heeft een computer echter geen geestelijk leven. Het enige aanknopingspunt voor een geestvermoeden is het taalgebruik. Het ‘lichaam’ van deze ‘geest’ is de computer. Hij vraagt zich af of geest kan ontstaan als wij iets ingenieus met stof doen:

Denk aan een namaakhond die bijvoorbeeld pijnlijk jankt als je op zijn staart trapt. Valt die zo goed te maken dat je denkt dat hij echt iets voelt?’
(Bert Keizer)


Unitree Tech Hond A1

Is de chatbot met een bewustzijn al werkelijkheid?’ vraagt NRC zich af in een artikel over Lemoine die tegen de verslaggever van The Washington Post zegt dat hij weet wanneer hij met een persoon spreekt. Het maakt Lemoine niet uit of ze ‘hersenen van vlees in hun hoofd hebben of een miljard regels aan code'(!)

De Amerikaanse media waren gefascineerd, in de wetenschappelijke wereld werd met scepsis gereageerd. ‘We hebben nu machines die gedachteloos woorden kunnen voortbrengen,’ schreef hoogleraar computationele taalkunde Emily Bender op Twitter. ‘Maar we hebben nog niet geleerd hoe we ermee moeten ophouden ons voor te stellen dat er een geest achter zit.’
(NRC)

Het blijft vreemd dat er toch wetenschappers zijn die geloven dat kunstmatige intelligentie uiteindelijk kan leiden tot zoiets als een chatbot die zelfbewustzijn ontwikkelt. We moeten ervoor waken dat alle nullen en enen die we zelf in een chatbot stoppen niet gaan beluisteren alsof deze voortkomen uit de ‘geest’ van die chatbot. Chatbots zijn en blijven zombies: geestloze automaten.

Foto: Taiki Ishikawa/Unsplash
Beeld “Hello”: AI van A tot Z
Beeld Unitree Tech Hond A1: nl.aliexpress.com

Volgende week, 10 juli: Boekrecensie De mythen van Plato – Bert van den Berg en Hugo Koning.

‘De zin van het leven is geen belangrijke vraag’

bertrandrussellenludwigwittgensteindoorEdwardSorel

Volgens filosoof Ludwig Wittgenstein is het een misverstand om naar de zin van het leven te vragen. Als een van de belangrijkste filosofen uit de twintigste eeuw zou hij zeggen: ‘Je doet nu net alsof je een belangrijke vraag stelt, maar dat is helemaal geen belangrijke vraag. Een belangrijke vraag is hoe oorlogen ontstaan, bijvoorbeeld.’ Elze Riemer onderzoekt van twaalf ‘denkers van nu’ de vragen: ‘Wat kunnen wij weten? Wat mogen wij hopen? Wat moeten we doen?’ Dat zijn de eeuwige vragen van de filosofie. Riemer legt haar oor te luisteren bij twaalf kenners. Een ervan is Ludwig Wittgenstein (1889 – 1951). Over hem is zij in gesprek met Bert Keizer.


Bert Keizer: ‘Er mankeert niks aan taal, totdat mensen gaan filosoferen; dan gaan ze allerlei rare dingen zeggen. Wittgenstein verschaft ons een nieuwe helderheid, niet als het gaat om het begrijpen van de wereld, maar wel als het gaat om de aard van ons onbegrip. Helderheid dus als het gaat om de vraag: ‘Wat kan ik weten?’ Dat is waar filosofie voor mij om draait, niet om de vraag: ‘Wat moet ik doen?’


Hij wordt gelukkig van Wittgensteins filosofie, Keizer, zoals hij vrolijk wordt van de muziek van de Beatles. Het is voor hem een intrinsieke vreugde, zoals andere kunstvormen dat ook zijn. Hij is enthousiast over Wittgenstein, maar niet enthousiast over wat mensen denken dat het effect van filosofie is.

Dat je op een of andere manier te rade kan gaan bij filosofie, om er iets uit te putten voor de invulling van je dag. Onzin. Je zegt toch ook niet na afloop van een concert: wat moet ik hier verder mee vandaag? De vreugde zat in het luisteren.’

Bij Wittgenstein zit de vreugde in het denken, vindt Keizer. Hij vindt hem een van de leukste filosofen om te lezen, omdat het een heerlijk avontuur is.

Als je hem leest, valt er een hele hoop van je af. Het is niet dat je er veel bijleert, er valt vooral heel veel van je af. Hij is steeds bezig om onze betovering door taal, onze misverstanden over taal, te doorbreken.’

Volgens Riemer leek Wittgenstein zelf niet al te veel lol in het leven te hebben: Hij was een getormenteerde man die moeizaam door het leven ging. Keizer antwoordt hierop dat hieruit blijkt dat filosofie niks met levenskunst heeft te maken.

Als arts kom ik veel levenskunst tegen, maar dat krijg je niet door een cursus filosofie te volgen.(…) Wittgenstein heeft een talent voor filosofie, niet voor het leven. Daar ging alles steeds fout.’

De wat-isvraag is de standaard filosofische vraag, zegt Keizer. ‘Wat is liefde, de zin van het leven, waarheid et cetera. Het is de verleiding van de filosoof om zich helemaal op de beantwoording van zo’n vraag te storten, om zo de ander te verlichten met ‘de kern van de zaak’.

Wittgenstein is de eerste filosoof die bewust van deze methodiek afwijkt. (…) Taal is het hele leven. Taal is geloven, weifelen, vragen, bevelen, hopen, wanhopen enzovoort. En nu komt het revolutionaire van zijn filosofie: aan al die bezigheden ligt niet iets wezenlijks of universeels ten grondslag, niet iets wat ons overstijgt.’

Wittgenstein wil niet dat we onszelf dingen wijsmaken over bepaalde zogenaamde ‘diepere’ zaken, zo vertelt Keizer, zoals de zin van het leven, bijvoorbeeld.

De zin van een hamer, een stoplicht – dát zijn zaken waar we over kunnen praten. Het is een misverstand om naar de zin van het leven te vragen.’

Wat zou Wittgenstein antwoorden als ik vroeg: bestaat God?’ vraagt Riemer, waarop Keizer antwoordt dat hij dan zou zeggen: ‘niet in de zin waarin de tafel en de stoel bestaan, maar wel in de zin waarin Hamlet bestaat, en Goofy en Donald Duck: dáár hoort God thuis. Je moet uitdrukkingsvormen uit de ene situatie niet meenemen naar een andere situatie, dan raak je in de war’.

Religie zit vol met mededelingen, zoals: Jezus is de zoon van God, Jezus is opgestaan uit de dood. Wittgenstein zegt dat als je dat letterlijk gaat nemen je meteen in de problemen zit. Gesprekken over religie in termen van feitelijkheden zijn volstrekt zinloos. Het is zoals Gerard Reve het zegt: ‘Godsdienst is tegen elke interpretatie bestand, behalve de letterlijke’.’


‘Er bestaan stellig onuitsprekelijke zaken.
Dit toont zich, het is het mystieke.’
(Wittgenstein)



Zie:
‘Er mankeert niets aan taal, totdat mensen gaan filosoferen’

Beeld: Edward Sorel – Bertrand Russell en Ludwig Wittgenstein – inkt en waterverf op papier (artsy.net)