DoomsDai leest
AI-agenten: van antwoord naar actie
Wat verandert er wanneer een model niet alleen praat, maar ook gereedschap gebruikt en stappen uitvoert?
Een AI-agent combineert een model met gereedschappen en een uitvoeringslus. In plaats van één antwoord kan zo’n systeem informatie ophalen, een plan bijstellen en een volgende stap uitvoeren.
Meer stappen, meer verantwoordelijkheid
Meer gereedschappen en rechten vergroten ook de ruimte voor fouten. De task-completion time horizon van METR is een specifieke meting: hoe lang een model taken in een bepaalde evaluatie kan afmaken. Het is geen algemene intelligentiemeter en geen zekerheid over de toekomst.
Vier vragen vóór je een agent laat handelen
- Welke rechten? Alleen lezen, of ook wijzigen en versturen?
- Welke controlepunten? Waar moet een mens bevestigen?
- Wat is terug te draaien? Kan een fout veilig worden hersteld?
- Wat wordt gelogd en geëvalueerd? Kun je achteraf zien wat er gebeurde?
Die vragen maken een agent niet risicovrij, maar wel beter begrensd en beter te beoordelen.