ChatGPT hallucineert soms

Ik neem aan dat velen van jullie het soms (of vaak) doen: iets vragen aan ChatGPT (of een soortgelijk programma), of een tekst in de prompt stoppen en kijken of die er beter uitkomt dat wat je zelf bedacht had. Ik zag dat het in mijn vakgebied ook opgang doet en banken verwachten dat veel medewerkers overbodig worden door dit soort AI-toepassingen.

Het punt is wel: dit soort toepassingen maken er soms nogal een rommeltje van, zo las ik afgelopen week: een advocaat die de verdediging van zijn cliënt geheel overliet aan ChatGPT en een rechter die daar vlotjes doorheen prikte. Blijft leuk, dit soort dingen (of niet, als jij die cliënt was). Kort samengevat de moraal van dit verhaal: blijf vooral zelf nadenken! AI is (vooralsnog) geen vervanging van deskundigheid, maar ondertussen komen we toch weer terecht in iets dat ik nog ken uit de begintijden van de automatisering: ‘computer says so’.