Begrijp AI.
Stuur het beter aan.

Hoofdstuk 6
Waarom ChatGPT soms overtuigend fout zit

Als je ChatGPT langere tijd gebruikt, gebeurt het vroeg of laat.

Je stelt een vraag.

Je krijgt een uitgebreid antwoord.

De uitleg klinkt logisch.

De zinnen lopen soepel.

Het taalgebruik is professioneel.

Alles lijkt te kloppen.

Totdat je ontdekt dat het antwoord gedeeltelijk of zelfs volledig fout is.

Veel gebruikers schrikken daarvan.

Toch is dit een van de belangrijkste eigenschappen van AI om te begrijpen.

De grootste valkuil

Wanneer mensen een fout maken, zijn er vaak signalen.

Ze twijfelen.

Aarzelen.

Zoeken naar woorden.

Zeggen:

“Volgens mij…”

Of:

“Ik weet het niet helemaal zeker.”

ChatGPT doet dat niet altijd.

Daardoor ontstaat een bijzonder verschijnsel.

Het systeem kan een fout antwoord geven met dezelfde overtuiging als een juist antwoord.

Dat maakt AI krachtig.

Maar ook gevaarlijk.

Waarom gebeurt dit?

ChatGPT is ontworpen om antwoorden te genereren.

Niet om voortdurend te beoordelen of iets absoluut waar is.

Het probeert een zo goed mogelijk antwoord te geven op basis van:

• beschikbare informatie
• patronen uit de training
• context van het gesprek

Soms ontbreekt belangrijke informatie.

Soms is de vraag onduidelijk.

Soms bestaat er geen eenduidig antwoord.

En soms maakt het systeem gewoon een fout.

Een menselijke vergelijking

Stel dat je iemand op straat vraagt:

“Hoe laat vertrekt de trein naar Utrecht?”

Er zijn drie mogelijkheden.

1. Hij weet het.
2. Hij weet het niet.
3. Hij denkt dat hij het weet.

Vooral die derde situatie is interessant.

Mensen geven regelmatig antwoorden waarvan ze overtuigd zijn, terwijl ze ongelijk hebben.

ChatGPT kan precies hetzelfde doen.

Waarom overtuigende fouten zo verraderlijk zijn

Een spelfout zie je vaak direct.

Een verkeerde datum soms ook.

Maar een logisch klinkende onjuistheid is veel moeilijker te herkennen.

Bijvoorbeeld:

• een verkeerd wetsartikel
• een onjuiste historische gebeurtenis
• een fictieve bronvermelding
• een verkeerde berekening
• een niet-bestaande uitspraak van een rechter

Het antwoord klinkt overtuigend.

En juist daarom controleren veel mensen het niet meer.

De regel van gezond wantrouwen

Ervaren AI-gebruikers ontwikkelen een bepaalde houding.

Geen angst.

Geen blind vertrouwen.

Maar gezond wantrouwen.

Ze denken niet:

“ChatGPT heeft altijd gelijk.”

Maar ook niet:

“ChatGPT heeft altijd ongelijk.”

Ze denken:

“Interessant antwoord. Laat ik controleren of het klopt.”

Dat verschil is belangrijk.

Een praktijkvoorbeeld

Tijdens gesprekken over juridische kwesties komt dit regelmatig voor.

ChatGPT kan een redelijke analyse maken.

Maar zodra specifieke wetgeving, jurisprudentie of procedures belangrijk worden, is controle noodzakelijk.

Niet omdat AI waardeloos is.

Maar omdat de gevolgen van fouten groot kunnen zijn.

Een verkeerd wetsartikel kan immers leiden tot een verkeerde conclusie.

Hoe herken je mogelijke fouten?

Te mooi om waar te zijn

Wanneer een antwoord exact bevestigt wat je graag wilt horen.

Dat is een moment om extra kritisch te worden.

Geen bronvermelding

Bij feitelijke claims is het verstandig om te vragen:

“Waar baseer je dit op?”

Zeer specifieke details

Hoe specifieker een detail, hoe groter het belang van controle.

Denk aan:

• bedragen
• data
• namen
• wetsartikelen
• percentages

Grote gevolgen

Hoe groter de mogelijke schade, hoe belangrijker verificatie wordt.

Een handige controlevraag

Een eenvoudige techniek is:

“Welke onderdelen van je antwoord zijn onzeker?”

Of:

“Welke aannames heb je gemaakt?”

Dat dwingt ChatGPT vaak om genuanceerder te kijken naar het eigen antwoord.

Waarom fouten niet betekenen dat AI waardeloos is

Veel beginners ontdekken een fout en concluderen:

“Zie je wel. Het werkt niet.”

Dat is een begrijpelijke reactie.

Maar niet terecht.

Een rekenmachine die één keer verkeerd wordt gebruikt is niet waardeloos.

Een navigatiesysteem dat een keer een verkeerde afslag adviseert is niet waardeloos.

En ChatGPT dat een fout maakt is ook niet waardeloos.

Het betekent alleen dat je moet begrijpen waar de grenzen liggen.

De gouden regel van dit hoofdstuk

Gebruik ChatGPT als hulpmiddel.

Niet als ultieme autoriteit.

Hoe belangrijker de beslissing, hoe belangrijker de controle.

Samenvatting

ChatGPT kan indrukwekkende antwoorden geven.

Maar indrukwekkend is niet hetzelfde als correct.

Een van de belangrijkste vaardigheden van een goede gebruiker is daarom niet het stellen van vragen.

Het is het controleren van antwoorden.

Wie dat begrijpt, haalt vaak het maximale uit AI zonder in de grootste valkuil te stappen: blind vertrouwen.