Een fundamentele dreiging die uitgaat van OpenAI is zijn vermogen om ons begrip van de mens te ondermijnen. OpenAI liet dat 25 september 2023 zien door de aankondiging dat ‘het algoritmische taalmodel en beeldplatform van OpenAI “nu kan zien, horen en spreken”.’ – Dit stelt medisch geesteswetenschapper Charles C. Camosy in het artikel The real threat of AI isn’t what you think in Religion News Service. Hij verwijst naar Maggie Makar, die op de Universiteit van Michigan ‘de toekomst vormgeeft met de kracht van computers’. Op X vraagt zij te stoppen met het gebruik van antropomorfe taal om modellen te beschrijven.

‘The real threat of AI isn’t what you think’
_{(Charles C. Camosy)}

ChatGPT kan niet zien, horen en spreken
‘Stop met het gebruik van antropomorfe taal om modellen te beschrijven. Het kan niet zien, maar wel de beeldinvoer analyseren. Het kan niet horen, maar wel spraaksignalen analyseren. Het kan niet spreken, maar kan wel hoorbare output produceren. Stop. Alsjeblieft.’
_{(X: Maggie Makar not @NeurIPS)}

_{Maggie Makar}

Taalmodel
Camosy definieert AI als een reeks algoritmen en neurale netwerken met toegang tot een zeer grote database die door mensen (anthropoi) is gemaakt.

‘Daar heb je dat Griekse woord ‘anthropos’ – mens – weer. De professor [Maggie Makar] maakt zich zorgen dat wanneer we taal gebruiken die de vorm of structuren van de mens aanneemt, we impliciet de manier waarop we over AI denken corrumperen. We houden onszelf voor de gek door te denken dat een taalmodel of een beeldplatform net zo zou kunnen zijn als wij.’
_{(Charles C. Camosy)}

Fiets
Volgens Camosy gaat er een fundamentele dreiging die uit van AI die we allemaal lijken te negeren, een dreiging die ‘sterk verband houdt met theologie en een betoverende kijk op wat academici soms morele antropologie noemen’. AI heeft het vermogen om ons begrip van de menselijke persoon te ondermijnen, stelt hij. Hij geeft er een voorbeeld van.

‘Laat AI bijvoorbeeld een afbeelding van een fiets zien en vraag hem hoe hij het zadel lager kan zetten: het platform van Open AI kan de afbeelding analyseren, bepalen wat voor soort fiets er op de afbeelding staat, de databases doorzoeken en het waarschijnlijke antwoord terugspugen, in tekst of stemgeluid.’
_(Camosy)

_{Fiets als voorbeeld bij OpenAI}

Organische machine
AI denkt echt niet na over die fiets. Hoewel sommigen, volgens Camosy, zich afvragen of AI net als wij is, zijn er al meer mensen die geloven dat wij op AI lijken. De mens geeft betekenis aan machines, computers, algoritmen, neurale netwerken – eigenlijk alle vormen van materie in beweging, zegt Camosy. De afgelopen eeuwen en vooral de laatste decennia hebben ons voorbereid om onszelf voor te stellen als zeer vergelijkbaar met AI.

‘Veel studenten in mijn lessen hebben de afgelopen jaren zelfs zoiets gezegd als: ‘Zijn we niet in wezen organische machines? Wat is er wezenlijk anders aan de manier waarop we een foto analyseren, een database gebruiken en een antwoord op een vraag terugspugen?’
_(Camosy)

Begrip van onszelf
Het onderliggende probleem hierbij is de geavanceerde staat van onze cultuur van wat filosoof Charles Taylor ‘ontgoocheling’ noemde, stelt de geesteswetenschapper, vooral als het gaat om ons begrip van onszelf.

‘In het seculiere tijdperk van het postchristelijke Westen heeft onze culturele subjectiviteit niet langer een manier om betekenis te geven aan bovennatuurlijke concepten, zoals gemaakt zijn naar het beeld en de gelijkenis van God, van de ziel, genade, een wil die transcendent en vrij, of (in sommige extreme gevallen) zelfs bewustzijn.’
_(Camosy)

_{Charles Taylor}

Ontgoocheld, niet betoverd
In Public Discourse stelt Carl R. Trueman dat, terwijl de middeleeuwse wereld was betoverd, de moderne wereld waarin wij leven, ontgoocheld is. (Elk jaar geeft hij een les over de ineenstorting van het christendom in de westerse samenleving, waarbij hij de vraag stelt waarom het zo gemakkelijk was om in God te geloven in het jaar 1500 en toch zo moeilijk vandaag de dag. En bij het helpen van studenten om die vraag te beantwoorden, was zijn nuttigste gids de Canadese filosoof Charles Taylor. De vraag zelf is ontleend aan een van zijn belangrijkste werken: Een seculiere tijd.)

‘While the medieval world was enchanted, the modern world in which we dwell is disenchanted. A disenchanted age is not necessarily characterized by complete repudiation of the supernatural. Rather, it is characterized by a fundamental shift in the function of the supernatural. At the heart of this disenchantment for Charles Taylor is not the traditional science-versus-religion narrative. Instead, he sees the key as being a transformation in the way in which the self is understood.’
_{(Uit: Charles Taylor, Psychological Selfhood, and Disenchantment, in: Public Discourse)}

‘Lichtgevende wezens’
Camosy zegt het fundamenteel oneens te zijn met onze 21e-eeuwse reductionistische visie op de menselijke persoon. In plaats daarvan kiest hij ervoor om de wijsheid van Jedi Master Yoda te volgen. Yoda leerde Luke Skywalker in The Empire Strikes Back dat we niet louter ‘ruwe materie’ zijn, maar eerder ‘lichtgevende wezens’: bezielde schepselen die het beeld en de gelijkenis van God weerspiegelen.

_{Jedi Master Yoda}

Verzet tegen het idee dat wij op AI lijken
‘Laten we op dezelfde manier met voorzichtigheid en zorg op AI reageren, zonder de levensveranderende goede dingen die ermee gepaard gaan af te wijzen, noch kritiekloos elke gevaarlijke of destructieve toepassing te accepteren. Maar laten we ons vooral verzetten tegen het idee dat AI op ons lijkt, of (nog erger) dat wij op AI lijken. Geen van beide kan verder van de waarheid zijn.’
_(Camosy)

Bronnen:
* The real threat of AI isn’t what you think Charles C. Camosy 29092023 (Camosy is hoogleraar medische geesteswetenschappen aan de Creighton University School of Medicine en heeft de Monseigneur Curran Fellowship in Moral Theology aan het St. Joseph Seminary in New York.)
* Maggie Makar (X)
* Computer Science and Engineering at Michigan (X)
* Charles Taylor, Psychological Selfhood, and Disenchantment  (Public Discourse)

Beeld: OpenAI aankondiging van nieuwe functies. (Schermopname)
Beeld Maggie Makar: University of Michigan
Beeld Charles Taylor: Makhanets – Own work. 
Beeld Jedi Master Yoda: starwars.fandom.com