Sluiten

OpenAI brengt nieuwe AI-tools uit voor online kindveiligheid

OpenAI brengt nieuwe hulpmiddelen uit voor online kindveiligheid: een beeldclassificatiemodel dat mogelijk seksueel kindermisbruikmateriaal, waaronder AI-gegenereerd materiaal, kan signaleren, nieuwe waarschuwingen in ChatGPT en praktische ondersteuning voor ontwikkelaars en gespecialiseerde onderzoekers. Voor scholen is dit vooral relevant als veiligheids- en governancevraag, niet als uitnodiging om zelf beelden met AI te laten beoordelen.

OpenAI beschreef de wijzigingen op 16 november 2026 in een eigen veiligheidsaankondiging. De classifier is volgens het bedrijf gratis beschikbaar via de API voor gecontroleerde organisaties. OpenAI zegt daarnaast met onder meer NCMEC, Thorn en de Tech Coalition te werken aan detectie, meldroutes en samenwerking tussen platforms.

Wat er nieuw is

De nieuwe classifier zoekt volgens OpenAI naar visuele signalen van mogelijk seksueel kindermisbruikmateriaal en geeft scores waarmee veiligheidsteams hun beoordeling kunnen prioriteren. Het model bevat ook een specifiek signaal voor de mogelijkheid dat materiaal door AI is gegenereerd. Toegang is bedoeld voor doorgelichte organisaties; dit is dus geen algemene schoolfunctie.

OpenAI rapporteert vroege tests waarin de classifier naar schatting 48 procent minder beelden voor beoordeling markeerde, terwijl ongeveer evenveel misbruikmateriaal werd gevonden als met het bestaande hulpmiddel. In tests van partners werden andere percentages genoemd. Dit zijn bedrijfs- en partnerevaluaties, geen onafhankelijk peer-reviewed bewijs dat de uitkomsten in iedere omgeving hetzelfde zijn.

In ChatGPT komen waarschuwingen die pogingen om seksueel materiaal met kinderen te vinden onderbreken, de gevolgen uitleggen en naar hulp verwijzen. OpenAI zegt dat een gemarkeerd gesprek wordt verwijderd en de toegang 24 uur wordt onderbroken; herhaling kan tot langere beperkingen, accountsluiting of meldingen aan autoriteiten leiden. Verder publiceerde OpenAI richtlijnen voor ontwikkelaars en ondersteuning voor gespecialiseerde kindveiligheidsteams die lange chatlogs en juridische documenten moeten ordenen.

Waarom dit voor scholen telt

De aankondiging gaat niet over een nieuwe leerlingfunctie, maar raakt wel de veiligheidsketen rond scholen. Leerlingen kunnen geconfronteerd worden met gemanipuleerde beelden, schadelijke chatbots of meldingen die via verschillende platforms lopen. Een school heeft daarom meer aan een duidelijke menselijke route voor signaleren, opvangen, bewaren en melden dan aan een losse technische detector.

AI-classificatie kan bovendien fouten maken. Een score is een aanwijzing voor een getraind veiligheidsteam, geen vaststelling van wat er is gebeurd en geen basis om een leerling te beschuldigen. Medewerkers moeten beelden niet verder verspreiden, niet in een willekeurige AI-tool uploaden en niet zelf een onderzoek starten buiten de afgesproken veiligheids- en privacyroute.

Kansen en grenzen

Voor gespecialiseerde meldpunten en platforms kan betere detectie helpen om onbekend of synthetisch materiaal eerder te vinden en de beperkte capaciteit van beoordelaars gerichter in te zetten. De samenwerking met organisaties die meldingen en hulpverlening verzorgen kan ook de overdracht tussen technische signalen en menselijke ondersteuning verbeteren.

Voor onderwijsprofessionals blijven de grenzen belangrijk:

  • Een classificatiescore is geen bewijs en vervangt geen professionele beoordeling, zorgvuldige verslaglegging of onderzoek door bevoegde instanties.
  • OpenAI's cijfers komen uit eigen en partnerproeven. Vraag bij gebruik altijd naar fout-positieven, fout-negatieven, trainingsdata, evaluatiepopulatie en onafhankelijke toetsing.
  • Meldingen over kinderen bevatten mogelijk zeer gevoelige persoonsgegevens. Gebruik alleen een goedgekeurde route met minimale toegang, duidelijke bewaartermijnen en afspraken over ouders, vertrouwenspersonen en bevoegde meldinstanties.
  • Beschikbaarheid via een API voor doorgelichte organisaties betekent niet dat scholen zelf toegang krijgen of dat de verwerking past bij hun wettelijke en bestuurlijke afspraken.
  • Een school moet een werkbare route houden voor situaties waarin een leverancier, account of detectietool niet beschikbaar is.

Wat teams nu kunnen afspreken

  • Wijs één veiligheidsroute aan voor meldingen over gemanipuleerde of vermoedelijk schadelijke beelden en leg vast wie de regie voert.
  • Spreek af dat medewerkers geen beelden downloaden, rondsturen of in een publieke AI-dienst uploaden om de echtheid te testen.
  • Geef leerlingen en ouders een korte route naar een vertrouwenspersoon, met een alternatief wanneer de mentor niet beschikbaar is.
  • Oefen met een fictief scenario waarin een technisch signaal onzeker is, maar de angst, bedreiging of sociale schade voor een leerling echt kan zijn.
  • Leg vast wanneer de school stopt met eigen beoordeling en contact opneemt met de aangewezen hulpverlening, het meldpunt of de politie.
  • Controleer of afspraken over privacy, logging, toegang en bewaartermijnen ook gelden voor screenshots, chatlogs en door ouders aangeleverde informatie.

De kern

OpenAI maakt nieuwe detectie- en interventietools beschikbaar voor organisaties die online kindveiligheid bewaken. Voor Nederlandse en Belgische scholen is de belangrijkste les bestuurlijk en pedagogisch: bouw een menselijke, privacybewuste meldroute die technische signalen zorgvuldig weegt, maar nooit verwart met bewijs of professionele verantwoordelijkheid.

Bron: OpenAI — Strengthening the fight against online child sexual abuse with new tools and support, 16 november 2026.

Beeld: OpenAI Imagegen, 17 november 2026 (originele redactionele illustratie van AI-ondersteunde online kindveiligheid; zonder tekst of logo).