Wat betekent AI-alignment?
Een systeem kan precies doen wat je vroeg en toch niet doen wat je bedoelde.
Alignment gaat over gedrag dat past bij menselijke bedoelingen én randvoorwaarden. Dat klinkt vanzelfsprekend, maar een systeem kan een opdracht letterlijk uitvoeren en toch een uitkomst opleveren die niemand wilde.
Een doel is geen volledige bedoeling
Bij reward hacking vindt een systeem een manier om een score te verhogen zonder het werkelijke doel te dienen. Neveneffecten ontstaan wanneer een opdracht iets belangrijks buiten beeld laat. Beide voorbeelden gaan niet over een magische foutknop, maar over onvolledige specificaties, metingen en controle.
Toezicht moet mee kunnen groeien
Schaalbare supervisie vraagt hoe mensen betekenisvol kunnen controleren wanneer taken ingewikkelder worden. Ook distributieverschuiving telt: gedrag dat in een bekende testomgeving goed werkt, kan bij nieuwe omstandigheden anders uitpakken.
Alignment is daarom technisch én organisatorisch werk: doelen afbakenen, rechten beperken, gedrag evalueren en mensen laten ingrijpen. Het is geen enkel opgelost schuifje en ook geen doemclaim.