Cybercriminelen gebruiken LLM datapoisoning om ChatGPT frauduleuze webshops te laten aanbevelen. De chatbot wordt een onvrijwillige verkoper voor oplichters die je data stelen. Met de opkomst van agentic AI die straks zelfstandig aankopen kan doen, wordt dit een serieus probleem. Praat mee over AI-veiligheid in de KREATE Community.
Waar oplichters eerst websites manipuleerden via SEO, hebben ze nu een nieuw doelwit gevonden: de trainingsdata van grote taalmodellen. Via gerichte LLM datapoisoning laten ze ChatGPT frauduleuze webshops aanraden aan nietsvermoedende gebruikers. De AI-chatbot wordt zo een onvrijwillige partner in crime, die schijnbaar betrouwbare aanbevelingen doet voor shops die alleen bestaan om jouw gegevens te stelen. Dit is een nieuwe en vooral zorgwekkende ontwikkeling in cybercriminaliteit.
Van failliete winkel naar data-val
Een concreet voorbeeld van LLM datapoisoning komt uit onderzoek van scamchecker Ask Silver. De Britse retailer Russell and Bromley ging begin 2026 failliet, maar ChatGPT beveelt nog steeds gekloonde versies van de webshop aan. Wie daar nietsvermoedend een bestelling plaatst, ontvangt geen producten maar ziet zijn betaal- en persoonsgegevens verdwijnen in handen van cybercriminelen.
De Nederlandse politie waarschuwde eerder al voor dit exacte patroon: overtuigende nepwebshops die producten aanbieden, betalingen innen en vervolgens spoorloos verdwijnen. Het vernieuwende en verontrustende is dat ChatGPT nu de aanbevelende partij is. Mensen vertrouwen nu eenmaal sneller op wat een AI-tool voorschotelt dan op een willekeurige advertentie.
Agentic AI maakt het probleem groter
Nu Big Tech vol inzet op agentic AI, systemen die zelfstandig complexe taken uitvoeren zoals winkelen en betalingen afhandelen, wordt de impact van LLM datapoisoning exponentieel groter. Een AI-agent die autonoom aankopen doet op basis van gemanipuleerde trainingsdata, is een regelrechte goudmijn voor criminelen die hiervan misbruik maken.
Het fundamentele probleem blijft dat LLMs structureel vatbaar zijn voor datamanipulatie en dat bronverificatie nog lang niet waterdicht is. Zolang modellen trainen op publiekelijk toegankelijke data zonder robuuste validatie, blijft deze aanvalsvector wijd open staan. De criminaliteit evolueert minstens even snel als de technologie die ze misbruikt, en dat is zorgwekkend voor iedereen die AI-tools dagelijks gebruikt.
Wat dit betekent voor jou
Controleer altijd zelf de webshop voordat je iets koopt op aanraden van een AI-tool. Check reviews via onafhankelijke bronnen, verifieer of de site een echt KvK-nummer en deugdelijk retourbeleid heeft, en wees extra alert bij onbekende winkels. AI is een krachtige assistent, maar absoluut geen garantie op veiligheid. Blijf kritisch op wat je voorgeschoteld krijgt, zeker nu agentic shopping om de hoek staat. Een gezonde dosis wantrouwen tegenover AI-aanbevelingen is op dit moment geen paranoia maar gewoon verstandig.
