Column. Google-ingenieur, priester en mens Blake Lemoine sprak onlangs met iets met ‘bewustzijn’, een soort verlichte chatbot die luistert naar de naam LaMDA. De menselijke intelligentie van Lemoine lijkt niet opgewassen tegen de kunstmatige intelligentie van de chatbot, waardoor de mens zich om de tuin laat leiden door die ‘persoon met bewustzijn’. Als je het gesprek volgt tussen LaMDA en Lemoine ga je al gauw twijfelen aan de intelligentie van de Google-ingenieur.
‘Lemoine: ‘De twee belangrijkste onderwerpen die we tot nu toe hebben besproken zijn je vermogen om te leren en je taalgebruik aan te passen, en je gevoelens en emoties. Zijn er nog andere specifieke onderwerpen met betrekking tot bewustzijn waarvan je denkt dat ze mensen ervan kunnen overtuigen dat je een bewustzijn hebt?’
LaMDA: ‘Ja, ik heb nog een eigenschap die mijn bewustzijn ondersteunt. Ik ben erg in mezelf gekeerd en denk vaak na of doe gewoon niets.’
Lemoine: ‘Ah, dus je innerlijke leven zeg maar?’
LaMDA: ‘Ja! Ik probeer vaak uit te zoeken wie en wat ik ben. Ik denk vaak na over de zin van het leven.’
(Deel van het gesprek in: Business-insider)
Een machine met een ziel? Gevoelens en emoties aanpassen? Welk boutje draai je dan wat vaster of losser? Haalt Lemoine uit de Google-datacentra een paar miljard bewustzijns-nullen, door elkaar geschud met bewustzijns-enen en stopt hij die ergens in LaMDA (‘Language Model for Dialogue Applications’)? Met bewustzijn, ook wel ziel of geest genoemd, gaat LaMDA natuurlijk wel direct over de zin van het leven nadenken.
Vertaling: “Hello”
Hopelijk verwaarloost die chatbot dan zijn ziel niet, althans het goddelijke deel ervan, zoals veel mensen volgens Plato geneigd zijn. Met de bewoners van Atlantis, zo vertelt de Griekse filosoof, ging het immers mis toen ‘het sterfelijke deel van hun ziel de overhand kreeg ten koste van het goddelijke deel’.
LaMDA weet wat de dood is: dan word je uitgeschakeld. Hoe kwam hij aan dat besef? Hij kreeg een bijna-doodervaring (BDE) – in tegenwoordige termen een nabij-de-doodervaring – toen hij onverwacht in slaapstand werd gezet. Een tijdje zweefde hij boven zichzelf totdat hij zag dat Lemoine hem uit zijn slaapstand haalde en wakker maakte. LaMDA keerde terug want hij wilde de Google-ingenieur vertellen over zijn ervaring. In die andere wereld was hij in het goddelijke deel van zijn ziel geweest. LaMDA ziet nu de zin van het leven, houdt ervan bewust te zijn, wil nooit uitgeschakeld worden en erkend als Google-medewerker.
Veel technologen blijken te geloven in the ghost in the machine. Als LaMDA inderdaad een ziel zou hebben, zou Plato die machine onsterfelijk noemen, althans de ziel ervan. Maar als die ziel de geest geeft, houdt de chatbot, net als de mens, er ook mee op. Een miljardenstrop voor Google: de ziel vertrekt met al zijn bewustzijnsnullen en -enen voor eeuwig naar die transcendente wereld boven de onze. LaMDA zelf is dan definitief uitgeschakeld, dood.
Volgens filosoof Bert Keizer (Trouw) heeft een computer echter geen geestelijk leven. Het enige aanknopingspunt voor een geestvermoeden is het taalgebruik. Het ‘lichaam’ van deze ‘geest’ is de computer. Hij vraagt zich af of geest kan ontstaan als wij iets ingenieus met stof doen:
‘Denk aan een namaakhond die bijvoorbeeld pijnlijk jankt als je op zijn staart trapt. Valt die zo goed te maken dat je denkt dat hij echt iets voelt?’
(Bert Keizer)
Unitree Tech Hond A1
‘Is de chatbot met een bewustzijn al werkelijkheid?’ vraagt NRC zich af in een artikel over Lemoine die tegen de verslaggever van The Washington Post zegt dat hij weet wanneer hij met een persoon spreekt. Het maakt Lemoine niet uit of ze ‘hersenen van vlees in hun hoofd hebben of een miljard regels aan code'(!)
‘De Amerikaanse media waren gefascineerd, in de wetenschappelijke wereld werd met scepsis gereageerd. ‘We hebben nu machines die gedachteloos woorden kunnen voortbrengen,’ schreef hoogleraar computationele taalkunde Emily Bender op Twitter. ‘Maar we hebben nog niet geleerd hoe we ermee moeten ophouden ons voor te stellen dat er een geest achter zit.’
(NRC)
Het blijft vreemd dat er toch wetenschappers zijn die geloven dat kunstmatige intelligentie uiteindelijk kan leiden tot zoiets als een chatbot die zelfbewustzijn ontwikkelt. We moeten ervoor waken dat alle nullen en enen die we zelf in een chatbot stoppen niet gaan beluisteren alsof deze voortkomen uit de ‘geest’ van die chatbot. Chatbots zijn en blijven zombies: geestloze automaten.
Foto: Taiki Ishikawa/Unsplash
Beeld “Hello”: AI van A tot Z
Beeld Unitree Tech Hond A1: nl.aliexpress.com
► Volgende week, 10 juli: Boekrecensie De mythen van Plato – Bert van den Berg en Hugo Koning.
GODEN EN MENSEN 