AI bedreigt wiskunde, waarschuwen onderzoekers

Een internationale groep wiskundigen trekt aan de bel over de snelle opmars van kunstmatige intelligentie (AI) in hun vakgebied.

Ze vrezen dat wetenschappelijk onderzoek speelbal wordt van commerciële techgiganten, dat vakbladen overspoeld raken met onbetrouwbare resultaten en de autonomie van de wetenschapper verdwijnt. Zij roepen vakgenoten op in actie te komen en doen aanbevelingen in de Leiden Declaration on Artificial Intelligence and Mathematics. Ze nodigen andere wetenschappers uit deze verklaring te ondertekenen.

Onder de ondertekenaars bevinden zich onder meer voormalig minister van Onderwijs Robbert Dijkgraaf en Terence Tao, één van de belangrijkste wiskundigen die nu leeft.

Wat gebeurt er als een wiskundig bewijs niet langer het werk is van een mens, maar van een gesloten AI-model waar academici geen toegang toe hebben, vragen de opstellers van de verklaring zich af. Wie is er verantwoordelijk voor eventuele fouten, en wie krijgt de eer als het bewijs klopt? Hoe is vast te stellen of een door AI gegenereerd bewijs werkelijk nieuw is, of slechts een slimme herformulering van bestaand werk zonder behoorlijke bronvermelding?

"Daarnaast trekt de opmars van AI de achterliggende wiskundige modellen midden in het maatschappelijke debat", stelt Portegies. "Technologieën die hiermee worden ontwikkeld, raken direct aan gevoelige ethische kwesties, van militaire toepassingen en massale surveillance tot politieke desinformatie en ecologische schade."

Geen verbod, maar aanbevelingen voor verantwoord gebruik

De onderzoekers willen AI niet verbieden, maar moedigen hun collega's aan in actie te komen en doen aanbevelingen voor individuen en organisaties, zoals openheid over AI-gebruik, zorgvuldige bronvermelding en áltijd een menselijke eindverantwoordelijke. Ook willen ze aanvullend beleid van universiteiten, wetenschappelijke bladen en subsidieverstrekkers dat de kwaliteit van wiskundig onderzoek beschermt. Daarnaast zou de politiek de AI-sector strenger moeten reguleren en investeren in publieke alternatieven, zodat kennis en macht niet volledig bij commerciële techbedrijven komen te liggen.

De Australisch-Amerikaanse wetenschapper Terence Tao heeft de Leiden Declaration ook ondertekend. Hij wordt wereldwijd beschouwd als een van de belangrijkste wiskundigen van dit moment. Voor zijn onderzoek ontving hij de Fieldsmedaille, de belangrijkste onderscheiding binnen de wiskunde. Tao werkt zelf veel met AI en gebruikt deze volop om zijn eigen bewijzen te controleren. Desondanks zegt hij bij zijn ondertekening: "Dit is het resultaat van maandenlange inbreng over de fundamentele waarden en doelen van de wiskundige gemeenschap. Achteraf gezien hadden we deze vragen jaren geleden al systematisch moeten bespreken, maar dit proces was hoe dan ook uiterst waardevol en het eindresultaat is uitstekend. Ik onderschrijf de standpunten en aanbevelingen in deze verklaring dan ook van harte."

Foto: UCLA

• Nieuwsoverzicht

• RSS