Kort samengevat: AI bedreigt wetenschappelijke integriteit, waarschuwen topwiskundigen wereldwijd. Oud-minister Robbert Dijkgraaf en wiskundige Terence Tao staan achter de Leiden Declaration. Die benoemt vijf grote risicos: onbetrouwbare AI-uitkomsten, ontbrekende bronvermelding, afhankelijkheid van commerciële AI-systemen, opgeklopte claims en verlies van wetenschappelijke onafhankelijkheid. De kernboodschap: AI mag nooit zonder menselijke eindverantwoordelijke. Benieuwd hoe jij AI verantwoord inzet? Praat mee in de KREATE Community.
Dat AI bedreigt wetenschappelijke integriteit staat buiten kijf voor zestien vooraanstaande wiskundigen. In de nieuwe Leiden Declaration on Artificial Intelligence and Mathematics waarschuwen ze dat AI bedreigt wetenschappelijke integriteit door onbetrouwbare uitkomsten, gebrek aan bronvermelding en afhankelijkheid van gesloten commerciële systemen. Het vertrouwen dat we stellen in AI-output is alleen waardevol als we kunnen controleren wat eruit komt. Daarom zeggen de onderzoekers: AI bedreigt wetenschappelijke integriteit en we moeten nu actie ondernemen.
Vijf risico's voor de wetenschap
De verklaring ontstond tijdens een workshop aan de Universiteit Leiden, onder leiding van Jim Portegies van de TU Eindhoven. De onderzoekers identificeerden vijf concrete bedreigingen. Ten eerste: AI-modellen produceren regelmatig onbetrouwbare uitkomsten, zonder dat gebruikers dat altijd doorhebben. Het vertrouwen in AI-output is vaak groter dan de kwaliteit rechtvaardigt. Dit is precies waarom AI bedreigt wetenschappelijke integriteit: we vertrouwen op systemen die we niet kunnen doorgronden.
Ten tweede missen AI-gegenereerde resultaten bronvermelding. Daardoor is niet te controleren of een uitkomst echt nieuw is of een slimme herformulering van bestaand werk. Dat ondermijnt een van de kernprincipes van wetenschap: reproduceerbaarheid.
Het derde risico is de groeiende afhankelijkheid van gesloten commerciële AI-systemen. Academici hebben geen toegang tot de modellen en kunnen niet verifiëren hoe een uitkomst tot stand komt. Wie is verantwoordelijk voor fouten in een AI-bewijs? En wie krijgt de eer als het klopt?
Ten vierde waarschuwen de onderzoekers voor opgeklopte claims over wat AI kan. Die maken het moeilijk om realistische verwachtingen te scheiden van marketing. En het vijfde, misschien wel grootste risico: het verlies van wetenschappelijke onafhankelijkheid. Wanneer commerciële bedrijven bepalen welke AI-tools beschikbaar zijn, dreigt de onderzoeksagenda te verschuiven van publiek belang naar commercieel gewin.
Wat dit betekent voor jou
Deze discussie gaat niet alleen over wiskunde of de academische wereld. Of je nu AI gebruikt voor teksten, afbeeldingen, data-analyse of automatisering: het vertrouwen dat je stelt in AI-output is alleen waardevol als je kunt controleren wat eruit komt. De Leiden Declaration benadrukt dat menselijke eindverantwoordelijkheid altijd de norm moet zijn, juist omdat AI bedreigt wetenschappelijke integriteit als we niet oppassen. Gebruik AI als assistent, niet als autoriteit. Controleer bronnen, wees kritisch op claims en blijf zelf nadenken.
De International Mathematical Union, de wereldwijde koepel van wiskundigen, onderschrijft de verklaring. Vice-president Ulrike Tillmann zegt: "Wiskunde is mensenwerk en moet dat altijd blijven."