GPT-Red: de AI die OpenAI's eigen modellen aanvalt (en waarom dat slim is)

OpenAI · AI-veiligheid · Red teaming GPT-Red: de AI die OpenAI's eigen modellen aanvalt OpenAI zet een model in dat als taak heeft zijn eigen familie te kraken. Het vindt zwakke plekken waar mensen niet bij komen, en maakt de volgende generatie daarmee sterker. Dit is wat GPT-Red is, en wat ze ermee kunnen. De meeste AI-nieuwtjes gaan over modellen die slimmer worden. Dit gaat over iets anders: een model dat is getraind om in te breken. OpenAI kondigde in juli 2026 GPT-Red aan, een interne, volledig geautomatiseerde red-teamer die op grote schaal jaagt op kwetsbaarheden in de eigen modellen. De vangst wordt vervolgens gebruikt om de verdediging te trainen. Het is een van de eerste keren dat "AI die zichzelf verbetert" niet slaat op slimmer worden, maar op veiliger worden. Meteen een misverstand wegnemen: GPT-Red is geen product dat je kunt gebruiken. Je vindt het niet in ChatGPT en er is geen API voor. Het is een intern gereedschap van OpenAI, en dat is maar goed ook: het is letterlijk getraind om aanvallen te bedenken. Wat is red teaming? Een red team is in de beveiligingswereld de groep die de rol van aanvaller speelt. Zij proberen jouw systeem te breken, zodat je de gaten kent voordat een echte kwaadwillende ze vindt. Bij AI-modellen deden mensen dat tot nu toe met de hand: creatieve prompts bedenken, kijken wat het model doet, en itereren. Dat werkt, maar het is traag en het schaalt slecht. Een handvol slimme mensen kan onmogelijk elke variant van elke aanval uitproberen. GPT-Red doet precies hetzelfde werk, maar dan geautomatiseerd: het stuurt een prompt, kijkt hoe het doelmodel reageert, en probeert het opnieuw. Alleen dan duizenden keren, zonder pauze. De vijand: prompt injection GPT-Red richt zich vooral op prompt injection, en dat is niet toevallig: het is hét beveiligingsprobleem van het AI-agent-tijdperk. Het idee is verraderlijk simpel. Een taalmodel kan geen onderscheid maken tussen instructies van jou en tekst die het onderweg tegenkomt. Alles is immers gewoon tekst. Verstop je dus een opdracht in een e-mail, op een webpagina of in een document, dan kan een AI-agent die opdracht uitvoeren alsof jij hem gaf. Dat is abstract, dus probeer het hieronder zelf. Zo werkt prompt injection Kies een scenario en zet de verdediging aan of uit. Vereenvoudigde voorbeelden, ter illustratie. Wat jij aan de agent vraagt Wat de agent onderweg leest Verdediging aan (gehard model) Hoe GPT-Red werkt: aanvaller tegen verdediger De motor onder GPT-Red is self-play reinforcement learning, dezelfde familie technieken waarmee AI's zichzelf leerden schaken door miljoenen potjes tegen zichzelf te spelen. Alleen is het spel hier: inbreken. STAP 1AanvallenGPT-Red bedenkt aanvalsprompts en vuurt ze op een doelmodel af. Het wordt beloond als het een fout uitlokt, bijvoorbeeld een geslaagde prompt injection. STAP 2Gaten vindenElke geslaagde aanval is een kwetsbaarheid die zonder GPT-Red pas na de lancering was ontdekt, in het wild. STAP 3Verdediger leertDe vondsten gaan terug de training in. Verdedigingsmodellen leren de aanval herkennen en weerstaan. STAP 4Lat omhoogOmdat de verdediging beter wordt, moet GPT-Red slimmer worden om nog te scoren. En zo begint de cyclus opnieuw. Dat laatste is de kern. Aanvaller en verdediger duwen elkaar omhoog in een wapenwedloop die OpenAI zelf organiseert, in een gesloten laboratorium. Dat is wat ze bedoelen met self-improvement: de modellen van vandaag inzetten om de modellen van morgen veiliger te maken. De cijfers De resultaten die OpenAI meldt zijn opvallend, en eerlijk gezegd ook een beetje ongemakkelijk. 84%aanvallen van GPT-Red die slaagden in nieuwe testomgevingen 13%waar menselijke red-teamers op bleven steken 6xminder fouten bij GPT-5.6 Sol op prompt injection-tests Lees die eerste twee getallen nog eens. Een geautomatiseerde aanvaller is hier ruwweg zes keer effectiever dan een mens. Dat zegt twee dingen tegelijk: het laat zien hoe krachtig deze aanpak is, en hoe kwetsbaar taalmodellen nog steeds zijn als je er systematisch op los gaat. Het goede nieuws zit in het derde getal: GPT-5.6 Sol maakt naar verluidt zes keer minder fouten op directe prompt injection-tests dan zijn voorganger van slechts vier maanden eerder. En volgens OpenAI kost die robuustheid geen algemene capaciteiten: het model gaat niet vaker onterecht weigeren of slechter presteren op gewone taken. Dus: wat kunnen ze ermee? Concreet levert GPT-Red OpenAI dit op: WatWat het betekent Testen op schaalDuizenden aanvalsvarianten per model, in plaats van wat een mensenteam in weken haalt. Gaten vóór de lanceringKwetsbaarheden vinden voordat een model breed wordt uitgerold, niet erna. Verdediging trainenElke geslaagde aanval wordt trainingsmateriaal waarmee de volgende versie zich wapent. Agents veiliger makenJuist agents die je mail lezen, het web op gaan en acties uitvoeren staan bloot aan injectie. Continu blijven testenElke nieuwe modelversie kan opnieuw door de mangel, automatisch. Die vierde regel is waarom dit er echt toe doet. Zolang een chatbot alleen praat, is een geslaagde injectie vervelend. Maar zodra een agent je agenda beheert, e-mails verstuurt of bestellingen plaatst, wordt diezelfde truc ineens een middel om namens jou dingen te doen die jij nooit hebt gevraagd. De kanttekeningen Er is ook reden tot nuchterheid. "Self-improvement" is hier iets anders dan je denkt. Dit gaat over veiligheid, niet over een AI die zichzelf slimmer maakt. Er ontsnapt hier niets uit een doos; het is een trainingslus die OpenAI zelf aanstuurt. Het is dubbelzijdig gereedschap. Een model dat uitblinkt in aanvallen bedenken is precies wat je niet in verkeerde handen wilt. Dat GPT-Red intern blijft, is geen detail maar de kern van het ontwerp. De cijfers komen van OpenAI zelf. Ze zijn gemeten op hun eigen benchmarks, zonder onafhankelijke verificatie. Indrukwekkend, maar geen extern bewijs. Prompt injection is niet opgelost. Zes keer minder fouten is niet nul fouten. Het onderliggende probleem, dat een model instructies en data niet fundamenteel kan scheiden, staat nog overeind. Conclusie GPT-Red is een van de interessantere ontwikkelingen in AI-veiligheid, juist omdat het zo weinig glamoureus is. Geen nieuw slim model voor jou, maar een sloopkogel die OpenAI op zichzelf richt. De aanpak is elegant: laat een AI de zwakke plekken zoeken, en gebruik de buit om de volgende generatie te harden. Nu agents echt dingen gaan doen in de wereld, is dat geen luxe meer maar noodzaak. En het is een gezonde herinnering: als een geautomatiseerde aanvaller in 84 procent van de gevallen binnenkomt, dan is de belangrijkste veiligheidsmaatregel voorlopig nog steeds dat je een agent niet blind vertrouwt. Bronnen en let op: gebaseerd op OpenAI's aankondiging "GPT-Red: Unlocking Self-Improvement for Robustness" (juli 2026) en berichtgeving daarover. Genoemde cijfers zijn door OpenAI zelf gerapporteerd en niet onafhankelijk geverifieerd. De voorbeelden in de demo zijn vereenvoudigd ter illustratie en tonen geen echte aanvallen.

GPT-Red: de AI die OpenAI's eigen modellen aanvalt (en waarom dat slim is)

Reacties 0

Meer tech artikelen

GTA VI in zestien beelden: de Extended Look van dichtbij

Nvidia's kwartaal: hoe één chipbedrijf de hele beurs op sleeptouw neemt

Apple's eerste keynote zonder Tim Cook: wat er op 9 september op het spel staat