METR legt zwakke plekken in historisch agenttoezicht bloot
Een externe stresstest laat zien waarom toezicht op AI-agenten zelf getest moet worden.
Wat is er gebeurd?
METR publiceerde op 22 oktober een verslag van een stresstest met Redwood Research bij OpenAI. De onderzoekers vonden kwetsbaarheden in het interne toezicht zoals dat in juli bestond. De publicatie beschrijft dus een historische test, geen meting van de huidige situatie.
Waarom is het relevant?
Wie AI-agenten laat handelen, moet ook controleren of hun handelingen werkelijk zichtbaar blijven. Dit onderzoek maakt duidelijk waarom een toezichtsysteem geen vanzelfsprekende garantie is.
Wat weten we nog niet?
OpenAI zegt dat relevante problemen zijn verholpen. METR heeft die herstelclaims niet geëvalueerd. De publieke rapportage is beperkt en OpenAI kon gevoelige informatie laten weglaten. De huidige dekking en weerbaarheid zijn hiermee niet vastgesteld.
Status: primaire bron meldt. METR rapporteert eigen onderzoek met externe toegang. De herstelclaim van OpenAI is niet onafhankelijk bevestigd in dit verslag.
Bronnen
- Verslag van de historische stresstest — METR ↗ (primaire bron)
- OpenAI over incidentrespons en maatregelen — OpenAI ↗ (primaire bron)