Het overkomt je tijdens het lezen van een boek: Je begint je in te leven in de hoofdpersoon. Je voelt emoties, echte emoties, zoals verdriet, opluchting, boosheid, vreugde… en dat is bijzonder, want de personages zijn nep. Ze bestaan alleen op papier, en in onze beleving.

Dat wij tot zoveel empathie in staat zijn – dat we zelfs kunnen meeleven met personages die niet bestaan – is onze kracht. Maar het is een kracht die in een zwakte verandert wanneer we met chatbots praten.

Om met de woorden van informaticus Joseph Weizenbaum te spreken: er schuilt hier een zeker gevaar in. Weizenbaum maakte in de jaren ’60 ELIZA, de eerste chatbot die menselijk overkwam op gebruikers. Dat ELIZA menselijk overkwam, schokte Weizenbaum. Waarom? Welke gevaren zag hij 60 jaar geleden al?

Ik bespreek dit met Oumaima Hajri, onderzoeker en docent verantwoorde kunstmatige intelligentie aan de Hogeschool Rotterdam. De waarschuwing van Weizenbaum blijkt relevanter dan ooit, nu bedrijven chatbots aanbieden als levenspartners en voor rouwverwerking. Net als Weizenbaum, is Oumaima kritisch op alle AI-toepassingen waar emotie een rol in speelt.

Shownotes:

• The Guardian over het leven van Joseph Weizenbaum
• Weizenbaum introduceert ELIZA
• MIT Technology Review over chatbots voor rouwverwerking: /
• NRC over relaties met chatbots

Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.

Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio en Trouw. Gemaakt door mij, Ilyaz Nasrullah, met de onmisbare hulp van Connor Clerx.

De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.

See omnystudio.com/listener for privacy information.