‘OPENAI ondermijnt ons begrip van de mens’

Een fundamentele dreiging die uitgaat van OpenAI is zijn vermogen om ons begrip van de mens te ondermijnen. OpenAI liet dat 25 september 2023 zien door de aankondiging dat ‘het algoritmische taalmodel en beeldplatform van OpenAI “nu kan zien, horen en spreken”.’ – Dit stelt medisch geesteswetenschapper Charles C. Camosy in het artikel The real threat of AI isn’t what you think in Religion News Service. Hij verwijst naar Maggie Makar, die op de Universiteit van Michigan ‘de toekomst vormgeeft met de kracht van computers’. Op X vraagt zij te stoppen met het gebruik van antropomorfe taal om modellen te beschrijven.

‘The real threat of AI isn’t what you think’
_{(Charles C. Camosy)}

ChatGPT kan niet zien, horen en spreken
‘Stop met het gebruik van antropomorfe taal om modellen te beschrijven. Het kan niet zien, maar wel de beeldinvoer analyseren. Het kan niet horen, maar wel spraaksignalen analyseren. Het kan niet spreken, maar kan wel hoorbare output produceren. Stop. Alsjeblieft.’
_(X:_{Maggie Makar not @NeurIPS}₎

_{Maggie Makar}

Taalmodel
Camosy definieert AI als een reeks algoritmen en neurale netwerken met toegang tot een zeer grote database die door mensen (anthropoi) is gemaakt.

‘Daar heb je dat Griekse woord ‘anthropos’ – mens – weer. De professor [Maggie Makar] maakt zich zorgen dat wanneer we taal gebruiken die de vorm of structuren van de mens aanneemt, we impliciet de manier waarop we over AI denken corrumperen. We houden onszelf voor de gek door te denken dat een taalmodel of een beeldplatform net zo zou kunnen zijn als wij.’
_{(Charles C. Camosy)}

Fiets
Volgens Camosy gaat er een fundamentele dreiging die uit van AI die we allemaal lijken te negeren, een dreiging die ‘sterk verband houdt met theologie en een betoverende kijk op wat academici soms morele antropologie noemen’. AI heeft het vermogen om ons begrip van de menselijke persoon te ondermijnen, stelt hij. Hij geeft er een voorbeeld van.

‘Laat AI bijvoorbeeld een afbeelding van een fiets zien en vraag hem hoe hij het zadel lager kan zetten: het platform van Open AI kan de afbeelding analyseren, bepalen wat voor soort fiets er op de afbeelding staat, de databases doorzoeken en het waarschijnlijke antwoord terugspugen, in tekst of stemgeluid.’
_(Camosy)

_{Fiets als voorbeeld bij OpenAI}

Organische machine
AI denkt echt niet na over die fiets. Hoewel sommigen, volgens Camosy, zich afvragen of AI net als wij is, zijn er al meer mensen die geloven dat wij op AI lijken. De mens geeft betekenis aan machines, computers, algoritmen, neurale netwerken – eigenlijk alle vormen van materie in beweging, zegt Camosy. De afgelopen eeuwen en vooral de laatste decennia hebben ons voorbereid om onszelf voor te stellen als zeer vergelijkbaar met AI.

‘Veel studenten in mijn lessen hebben de afgelopen jaren zelfs zoiets gezegd als: ‘Zijn we niet in wezen organische machines? Wat is er wezenlijk anders aan de manier waarop we een foto analyseren, een database gebruiken en een antwoord op een vraag terugspugen?’
_(Camosy)

Begrip van onszelf
Het onderliggende probleem hierbij is de geavanceerde staat van onze cultuur van wat filosoof Charles Taylor ‘ontgoocheling’ noemde, stelt de geesteswetenschapper, vooral als het gaat om ons begrip van onszelf.

‘In het seculiere tijdperk van het postchristelijke Westen heeft onze culturele subjectiviteit niet langer een manier om betekenis te geven aan bovennatuurlijke concepten, zoals gemaakt zijn naar het beeld en de gelijkenis van God, van de ziel, genade, een wil die transcendent en vrij, of (in sommige extreme gevallen) zelfs bewustzijn.’
_(Camosy)

_{Charles Taylor}

Ontgoocheld, niet betoverd
In Public Discourse stelt Carl R. Trueman dat, terwijl de middeleeuwse wereld was betoverd, de moderne wereld waarin wij leven, ontgoocheld is. (Elk jaar geeft hij een les over de ineenstorting van het christendom in de westerse samenleving, waarbij hij de vraag stelt waarom het zo gemakkelijk was om in God te geloven in het jaar 1500 en toch zo moeilijk vandaag de dag. En bij het helpen van studenten om die vraag te beantwoorden, was zijn nuttigste gids de Canadese filosoof Charles Taylor. De vraag zelf is ontleend aan een van zijn belangrijkste werken: Een seculiere tijd.)

‘While the medieval world was enchanted, the modern world in which we dwell is disenchanted. A disenchanted age is not necessarily characterized by complete repudiation of the supernatural. Rather, it is characterized by a fundamental shift in the function of the supernatural. At the heart of this disenchantment for Charles Taylor is not the traditional science-versus-religion narrative. Instead, he sees the key as being a transformation in the way in which the self is understood.’
_{(Uit: Charles Taylor, Psychological Selfhood, and Disenchantment, in: Public Discourse)}

‘Lichtgevende wezens’
Camosy zegt het fundamenteel oneens te zijn met onze 21e-eeuwse reductionistische visie op de menselijke persoon. In plaats daarvan kiest hij ervoor om de wijsheid van Jedi Master Yoda te volgen. Yoda leerde Luke Skywalker in The Empire Strikes Back dat we niet louter ‘ruwe materie’ zijn, maar eerder ‘lichtgevende wezens’: bezielde schepselen die het beeld en de gelijkenis van God weerspiegelen.

_{Jedi Master Yoda}

Verzet tegen het idee dat wij op AI lijken
‘Laten we op dezelfde manier met voorzichtigheid en zorg op AI reageren, zonder de levensveranderende goede dingen die ermee gepaard gaan af te wijzen, noch kritiekloos elke gevaarlijke of destructieve toepassing te accepteren. Maar laten we ons vooral verzetten tegen het idee dat AI op ons lijkt, of (nog erger) dat wij op AI lijken. Geen van beide kan verder van de waarheid zijn.’
_(Camosy)

Bronnen:
* The real threat of AI isn’t what you think Charles C. Camosy 29092023 (Camosy is hoogleraar medische geesteswetenschappen aan de Creighton University School of Medicine en heeft de Monseigneur Curran Fellowship in Moral Theology aan het St. Joseph Seminary in New York.)
* Maggie Makar (X)
* Computer Science and Engineering at Michigan (X)
* Charles Taylor, Psychological Selfhood, and Disenchantment (Public Discourse)

Beeld: OpenAI aankondiging van nieuwe functies. (Schermopname)
Beeld Maggie Makar: University of Michigan
Beeld Charles Taylor: Makhanets – Own work.
Beeld Jedi Master Yoda: starwars.fandom.com

Zelf de weg gaan naar zin en geloof

‘Reiziger, er is geen weg, de weg maak je door zelf te gaan.’ Dit is het credo van het televisieprogramma ‘Het Vermoeden’. Vandaag, 13 januari, maakt reiziger Edy Korthals Altes zijn weg door zelf naar NPO 2 te gaan, waar hij om 11.30 uur vertrekt en de kijkers mee laat reizen. Korthals Altes: ‘We moeten elkaar blijven ondersteunen en stimuleren, lichtpuntjes blijven zien. We hebben hele grote uitdagingen, en hoe komen we daaruit? Daarvoor is het belangrijk om op zoek te gaan naar bronnen van inspiratie en altijd weer terug te grijpen op de diepe waarden die we allemaal delen. Spiritualiteit is de sleutel voor onze plek in de wereld.’

‘Edy Korthals Altes is geboren in 1924 en was ooggetuige van de Tweede Wereldoorlog. Dat vormde zijn wereldbeeld. Lang marcheerde hij als diplomaat mee in het koudeoorlogsdenken. Tot een droom hem de waanzin van een wapenwedloop deed inzien en Jezus aan hem vroeg: En jij, wat heb jij gedaan?’ (EO)

Korthals Altes publiceerde in 2017 Sprokkelhout als ‘een zoektocht naar zin en geloof’. Als motto koos hij een citaat van Dag Hammarskjöld, de voormalige secretaris-generaal van de VN: ‘De langste reis van het leven is de reis naar binnen.’

‘Deze bundel bevat gedachten over een reeks van jaren, door de auteur bijeengesprokkeld, over zin en geloof in deze tijd. Het gaat om persoonlijke ervaringen en inzichten. Met een voor een diplomaat ongebruikelijke openhartigheid spreekt hij over wat hem ten diepste beweegt. Als oecumenisch christen voert hij een sterk pleidooi voor samenwerking met andere levensovertuigingen bij de aanpak van grote wereldproblemen.’ (Discovery Books)

Eind vorig jaar zei Korthals Altes op de vraag van de Volkskrant: ‘Wat is de zin van ons leven?’ dat dit een grote vraag is die vooral gaat woelen naarmate we ouder worden.

‘Omdat hij verband houdt met: waar ben ik mee bezig geweest? Was dat wel meer dan het najagen van ijdelheden? Ik zou nuchter willen beginnen: de zin is wakker worden en ons bewust worden van de fundamentele relatie met de oergrond van ons bestaan en ons richten op de grondwet in ons leven. Dat is voor mij de liefde voor de mens en de natuur. Zelf noem ik die oergrond God, maar mensen die zich van religie hebben afgekeerd, kunnen zich er ook in herkennen. Omdat ze weet hebben van een grotere werkelijkheid dan wij ons kunnen voorstellen, het transcendente.’ (de Volkskrant)

Een ‘nieuwe mens’ hebben we nodig, stelt Korthals Altes, een nieuwe mens die gedreven wordt door liefde voor de medemens en de natuur; en die dat weet te vertalen in een ander economisch model en een ander veiligheidsmodel.

‘Dat vergt een andere vorm van leven: materieel soberder, maar rijker van inhoud, met meer aandacht voor de geest. Met onze knappe koppen hebben we een bulldozer ontwikkeld die tot de vernietiging van alles in staat is – van het menselijk leven door middel van kernwapens tot vernietiging van de natuur, zie onze ecologische crisis. Die bulldozer wordt bestuurd door een klein mannetje met een nog kleiner kopje. In zijn geest wordt niet geïnvesteerd, want nee, we geloven tegenwoordig in algoritmen! Dan zeg ik: juist nu hebben we mensen nodig die weet hebben van mens-zijn, die oog hebben voor de krachten die er gaande zijn en die zich de vraag stellen: hoe kunnen we die verantwoord beheersen?’ (de Volkskrant)