Training van AI-chatbots: intieme gespreksgegevens verwerken vereist expliciete toestemming

Het trainen van AI-taalmodellen met intieme gespreksdata uit rollenspellen vereist een aparte expliciete toestemming. De Gegevensbeschermingsautoriteit legt een aanbieder dwangsommen op tot 200.000 euro.

a person holding a cell phone with a chat app on the screen

Foto: Sanket Mishra (opent in nieuw tabblad) op Unsplash (opent in nieuw tabblad)

Korte samenvatting

De Geschillenkamer van de Gegevensbeschermingsautoriteit oordeelt dat een aanbieder van AI-chatbots de AVG schendt door intieme gebruikersgesprekken te gebruiken voor modeloptimalisatie zonder rechtsgrond. Hoewel gebruikers toestemmen in het verwerken van gevoelige data tijdens het gesprek zelf, dekt die instemming niet het trainen en verfijnen van de taalmodellen. De ontwikkelaar krijgt een berisping en moet zijn systemen binnen vier maanden aanpassen om vooraf expliciete toestemming te vragen en gebruikers correct in te lichten, op straffe van dwangsommen tot 100.000 euro per bevel.

Bron: GBA 16 november 2026, 320/2026. (opent in nieuw tabblad)

Wie een AI-chatbot aanbiedt voor intieme gesprekken, mag die conversaties niet zonder afzonderlijke toestemming aanwenden om zijn taalmodellen te trainen. De Geschillenkamer van de Gegevensbeschermingsautoriteit legt een AI-ontwikkelaar bindende bevelen op onder verbeurte van dwangsommen tot maximaal 200.000 euro.

De zaak draait rond een applicatie waarmee gebruikers interactieve AI-chatbots kunnen aanmaken en ermee converseren, inclusief gesprekken in het kader van zogeheten erotische rollenspellen. Twee gebruikers dienden een klacht in omdat zij vreesden dat hun persoonsgegevens onrechtmatig werden aangewend, onder meer voor het trainen van de onderliggende taalmodellen.

De ontwikkelaar voerde aan dat de verzamelde gespreksdata volledig werden ontdaan van gebruikers-ID's en dat de data incidenteel en vrijwillig werden gedeeld. Bovendien zou het bedrijf de gegevens grotendeels anonimiseren en deels vervangen door synthetische data om zijn AI-systemen te verfijnen.

De Gegevensbeschermingsautoriteit (GBA) volgt die redenering niet integraal. Volgens de toezichthouder blijven gepseudonimiseerde gesprekken persoonsgegevens zolang heridentificatie technisch mogelijk blijft. Omdat gebruikers in de rollenspellen details deelden over hun seksuele geaardheid en seksleven, kwalificeert de inhoud bovendien als gevoelige gegevens onder artikel 9 van de Algemene Verordening Gegevensbescherming (AVG).

Geen vrijbrief voor modeltraining

Voor het voeren van het gesprek zelf aanvaardt de GBA dat gewone gegevens nodig zijn voor de uitvoering van de overeenkomst, en dat het vrijwillig delen van intieme details geldt als uitdrukkelijke toestemming voor die interactie. Dat geldt echter niet voor het trainen en verbeteren van het achterliggende taalmodel.

Het hergebruik van gevoelige chatberichten voor de optimalisatie van het model beschikte over geen enkele geldige rechtsgrond. De ontwikkelaar kan zich voor dergelijke bijzondere categorieën van persoonsgegevens niet beroepen op een gerechtvaardigd belang. Daarvoor is voorafgaande, specifieke en uitdrukkelijke toestemming vereist.

Daarnaast oordeelde de toezichthouder dat het privacybeleid jarenlang tekortschoot in transparantie over de doeleinden en rechtsgronden van de verwerkingen. De GBA formuleert daarom een formele berisping en legt twee herstelmaatregelen op, elk gekoppeld aan een dwangsom van 1.000 euro per dag vertraging tot een maximum van 100.000 euro per inbreuk.

Ontwikkelaars van AI-systemen mogen interactieve gebruikersdata niet zomaar hergebruiken voor modeltraining zonder sluitende rechtsgrond. Zodra gesprekken gevoelige details over de gezondheid of het seksleven bevatten, volstaat een algemene overeenkomst of een gerechtvaardigd belang niet en moet de beheerder vooraf actieve en afzonderlijke toestemming inrichten.

Dit artikel is gegenereerd met behulp van kunstmatige intelligentie, op basis van het originele brondocument: GBA 16 november 2026, 320/2026. (opent in nieuw tabblad) Lees meer over hoe we bij Ex Ante werken met kunstmatige intelligentie.