2. Verliefd op een chatbot. Hoe kan dat?

10/20/23 • 34 min

Het overkomt je tijdens het lezen van een boek: Je begint je in te leven in de hoofdpersoon. Je voelt emoties, echte emoties, zoals verdriet, opluchting, boosheid, vreugde... en dat is bijzonder, want de personages zijn nep. Ze bestaan alleen op papier, en in onze beleving.

Dat wij tot zoveel empathie in staat zijn – dat we zelfs kunnen meeleven met personages die niet bestaan – is onze kracht. Maar het is een kracht die in een zwakte verandert wanneer we met chatbots praten.

Om met de woorden van informaticus Joseph Weizenbaum te spreken: er schuilt hier een zeker gevaar in. Weizenbaum maakte in de jaren ’60 ELIZA, de eerste chatbot die menselijk overkwam op gebruikers. Dat ELIZA menselijk overkwam, schokte Weizenbaum. Waarom? Welke gevaren zag hij 60 jaar geleden al?

Ik bespreek dit met Oumaima Hajri, onderzoeker en docent verantwoorde kunstmatige intelligentie aan de Hogeschool Rotterdam. De waarschuwing van Weizenbaum blijkt relevanter dan ooit, nu bedrijven chatbots aanbieden als levenspartners en voor rouwverwerking. Net als Weizenbaum, is Oumaima kritisch op alle AI-toepassingen waar emotie een rol in speelt.

Shownotes:

Ben je nog niet klaar met dit onderwerp, lees dan zeker de zes essays die ik voor deze podcast schreef in Trouw. Ze worden vanaf oktober 2023 gepubliceerd in de krant en op trouw.nl/welkomindeaifabriek.

Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio en Trouw. Gemaakt door mij, Ilyaz Nasrullah, met de onmisbare hulp van Connor Clerx.

De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.

See omnystudio.com/listener for privacy information.

Shownotes:

Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio en Trouw. Gemaakt door mij, Ilyaz Nasrullah, met de onmisbare hulp van Connor Clerx.

De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.

See omnystudio.com/listener for privacy information.

Previous Episode

1. ChatGPT wordt niet veel beter meer. Waar komt dat door?

Iedere voldoende geavanceerde technologie, is niet van magie te onderscheiden. Dat schreef de Britse science-fictionschrijver Arthur C. Clarke. Software zoals ChatGPT komt op veel mensen inderdaad als magie over. Hoe kan het, dat een computertaal weet te produceren, die zó op die van echte mensen lijkt?

De wiskunde is omslachtig, maar het concept achter ChatGPT is eigenlijk best goed te begrijpen. En als je het concept snapt, dán ontdek je dat ChatGPT geen magie is, maar een illusie.

Hoe bruikbaar is deze illusie, en wat kost het om hem in stand te houden? Kan ChatGPT eigenlijk nog wel beter worden, of is dit het?

Pascal Wiggers is lector verantwoorde kunstmatige intelligentie aan de Hogeschool van Amsterdam. Als student heb ik nog les van hem gehad, het vak spraakherkenning. Pascal is expert op het gebied van taalmodellen, en daarom een uitstekende gast om deze podcast mee af te trappen. Als je zo’n ingewikkeld onderwerp wil doorgronden, kun je het best beginnen bij de basis. De werking van ChaptGPT.

Shownotes:

Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio en Trouw. Gemaakt door mij, Ilyaz Nasrullah, met de onmisbare hulp van Connor Clerx.

De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.

See omnystudio.com/listener for privacy information.

Next Episode

3. AI verandert de samenleving. Hoe kijken de makers naar de wereld?

Chatbots zijn een rare uitvinding. Tegen een computer praten kan nuttig zijn. Maar met een computer praten, waar is dat goed voor? Die vraag wil ik beantwoorden. En dan ontkom je niet aan Alan Turing. De vader van mijn vakgebied - de informatica. Turing geloofde dat je een computer als intelligent moet zien, wanneer deze kan praten als een mens, en mét een mens.

Daarom bedacht hij in 1950 een experiment. The Imitation Game. Een test waarin een computer zich voor moet doen als mens. Het idee van de chatbot was geboren.

Maar, is taalvaardigheid wel een bewijs van intelligentie? Moderne chatbots als ChatGPT lijken te toveren met woorden, maar het beantwoorden een simpele vraag als “wat is het zevende woord in deze zin” gaat vaker fout dan goed. Laat dit niet juist zien dat Turing het mis had? En welk gevaar schuilt er in het geloof in de intelligentie van chatbots?

Daarover ga ik in gesprek met Felienne Hermans, hoogleraar Computer Science Education aan de Vrije Universiteit Amsterdam. Felienne weet als geen ander hoe informatici denken, en in welke valkuilen wij stappen.

We starten ons gesprek bij een zorg die ze eerder in de Volkskrant uitte. Om te citeren: Wilt u 50 euro extra betalen voor een mens? Toets 1.

Shownotes:

Turings paper waarin hij The Imitation Game introduceert
The Guardian over de zoektocht naar mechanisch leven (incl. de mechanische poepende eend van De Vaucanson)

Felienne raadt aan:

Het boek Teaching Machines van Audrey Waters
De nieuwsbrief Computer Things van Hillel Wayne

Welkom in de AI-Fabriek is een podcast van BNR Nieuwsradio en Trouw. Gemaakt door mij, Ilyaz Nasrullah, met de onmisbare hulp van Connor Clerx.

De muziek en audiovormgeving is gemaakt door Gijs Friesen. Het grafisch ontwerp is van Danusia Schenke. Eindredactie: Wendy Beenakker bij BNR en Wendelmoet Boersema bij Trouw.

See omnystudio.com/listener for privacy information.