Geloof je me? Op mijn blauwe ogen? Je bent wel gek.
Als vele anderen chatte ik ook met de AI, maar vond het teleurstellend. Misschien vroeg ik het verkeerde. De reactie deed me twijfelen en doorvragen, de antwoorden werden in toenemende mate discutabel. Het begon onschuldig, ik vroeg om een sonnet en kreeg een gedicht met zestien regels, zonder rijm. Even knap als bezijden de gestelde uitdaging.
Doorvragend over rijm en schema kwam ChatGPT met de volgende rijmwoorden op ‘ijs’: kies, prijs, wis, gris, mis, vis, fis. Op de vraag waarom kies op ijs rijmt stelde de AI:
Het woord “kies” rijmt op “ijs” omdat het een homofoon is van het woord “ijs”. Een homofoon is een woord dat hetzelfde klinkt als een ander woord, maar een andere betekenis heeft en een andere spelling heeft. Het woord “kies” betekent bijvoorbeeld “een tand of tandvlees” of “een keuze maken”, terwijl het woord “ijs” betekent “bevroren water”. Hoewel de spelling en de betekenis van deze woorden verschillend zijn, klinken ze hetzelfde als ze worden uitgesproken, dus ze rijmen op elkaar.
— ChatGPT, 17 december 2022
In een artikel over ChatGPT op de De Correspondent komt Jesse Frederik tot de conclusie dat het een vaardig bullshitter is. Hierboven kleedt de AI een niet kloppend gegeven in met waarheden- op een manier die een mens zou interpreteren als staalhard en ijskoud. Het komt verbazend dicht bij gaslighting. Stekelig vraag ik nog wat verder door: ‘In welke gedichten – niet door jou geschreven – rijmen kies en ijs op elkaar?’
Er zijn verschillende gedichten waarin het woord “kies” als rijmwoord wordt gebruikt voor het woord “ijs”. Hier zijn enkele voorbeelden van gedichten waarin “kies” en “ijs” als rijmwoorden worden gebruikt:
- “Kies” van Simon Vinkenoog: Kies, / ijs in de hand, / blinkt in de zon.
- “Ijs en Kies” van J.C. Bloem: Ijs / koud en hard / blinkt in het zonlicht. // Kies, / glanzend en fijn, / verkleurt in de lente.
- “Kies en Ijs” van Gerrit Achterberg: Kies, / glanzend en fijn, / verkleurt in de lente. // Ijs, / koud en hard, / smelt in de zomer.
Dit zijn enkele voorbeelden van gedichten waarin “kies” en “ijs” als rijmwoorden worden gebruikt. Ik hoop dat dit antwoord op je vraag helpt.
— ChatGPT, 17 december 2022
Bullshit. Natuurlijk bestaan deze gedichten niet. Maar terwijl ik dat stel, knaagt de twijfel. Ik ben geen kenner van het werk van Vinkenoog, Achterberg of Bloem. Ik kan alleen maar Googlen, en concluderen dat ik ze niet kan vinden. En opmerken dat ze nogal op elkaar lijken, alsof ze allemaal uit dezelfde duim zijn gezogen. Maar helemaal zeker weet ik het niet, kwetsbaar ben ik voor iemand die met autoriteit beweert dat ik ernaast zit.
ChatGPT kon niet aangeven waar de informatie vandaan kwam.
Wanneer AI zo eenvoudig kan bullshitten wordt het ook belangrijk dat kan worden uitgelegd waar een bewering vandaan komt. Wat de provenance is van een gegeven. En dat kan AI niet. Het is een model, waarin juist dat aspect van broninformatie verdwijnt.
Links:
– Speel een uurtje met dit algoritme en je voelt je een holbewoner die voor het eerst vuur ziet, Jesse Frederik, De Correspondent
– ChatGPT
Bijgewerkt: 19 december 2022