Nederland vertrouwt op AI, maar 82% weet niet dat AI anders redeneert dan mensen

AI schrijft sollicitatiebrieven, beantwoordt medische vragen en helpt bij financiële keuzes. 25 procent van de Nederlanders denkt daarbij dat AI argumenten afweegt zoals een mens dat doet. In werkelijkheid voorspellen AI-systemen als ChatGPT steeds het meest waarschijnlijke volgende woord op basis van patronen in taal. Ze begrijpen niet wat ze schrijven. Toch weet 57 procent van de Nederlanders niet of een large language model (LLM) zelf kan redeneren. Wie denkt dat AI redeneert, neemt een AI-antwoord eerder klakkeloos over. Bij alledaagse vragen is dat zelden een probleem. Maar nu AI steeds vaker wordt ingezet bij beslissingen die ertoe doen, groeit het risico.

Het is niet zo dat Nederlanders de risico's van AI niet zien. 68 procent weet dat AI-bedrijven gesprekken van gebruikers inzetten om hun systemen te verbeteren. 62 procent beseft dat een door AI geschreven tekst niet altijd als zodanig te herkennen is. En 51 procent erkent dat AI een telefoongesprek kan voeren waarbij je niet doorhebt dat je met een computer praat. De kennis over wat AI kan, is groeiende. Maar die kennis vertaalt zich niet automatisch naar voorzichtiger gedrag: slechts zestien procent van de Nederlanders controleert altijd of de informatie die AI geeft ook klopt.

Bastiaan Sjardin, Chief Technology Officer bij Conclusion: "Het is niet vreemd dat een kwart van Nederland denkt dat AI bewuste afwegingen maakt zoals wij. Maar een taalmodel weegt niets af; het leert van patronen in data en voorspelt met behulp van waarschijnlijkheid wat het volgende woord in een zin moet zijn. Dat is indrukwekkend, maar het is geen menselijk redeneren. Zodra we die realiteit inzien, kunnen we de technologie precies gebruiken voor wat het is: een handige assistent, waarbij wijzelf aan het roer blijven staan voor de beslissingen die er echt toe doen."

Stel: een AI-systeem genereert een fout advies met financiële of medische gevolgen. Wie is dan verantwoordelijk? Bijna de helft (48 procent) van de Nederlanders ziet in dat dit niet altijd duidelijk is. Ruim een kwart (26 procent) denkt juist dat altijd helder is wie aansprakelijk is. De verantwoordelijkheidsverdeling bij AI-fouten kan complex zijn en hangt af van de toepassing, betrokken partijen en omstandigheden. Europese regelgeving biedt hiervoor steeds meer kaders, maar de praktische invulling ontwikkelt zich nog.

Het beeld dat uit het onderzoek ontstaat is dat van een land dat AI steeds meer onderdeel maakt van het dagelijks leven, zonder goed te begrijpen hoe het werkt. "We hoeven niet iedereen op te leiden tot AI-expert," aldus Bastiaan, "Maar de basis moet op orde. Begrijpen dat AI niet redeneert. Weten dat een antwoord overtuigend kan klinken en toch niet kloppen. En beseffen dat bij fouten niet vanzelf duidelijk is wie er verantwoordelijk is. Die kennis is er nog onvoldoende, en hoe vaker AI meebeslist over zorg, geld en werk, hoe groter het risico wordt."