AISI: datafilter alleen biedt geen duurzame modelbeveiliging
Onderzoek aan eiwitmodellen laat zien dat een weggefilterde vaardigheid kan terugkeren.
Wat is er gebeurd?
Het Britse AI Security Institute beschreef op 26 oktober onderzoek naar filtering van trainingsdata bij open eiwitmodellen. Filtering onderdrukte een gerichte vaardigheid, maar aanvullende training kon die in de onderzochte modellen terugbrengen.
Waarom is het relevant?
Open modelgewichten maken wetenschappelijk werk toegankelijker, maar laten ook aanpassingen toe. Het onderzoek onderstreept dat één beveiligingslaag onvoldoende kan zijn en dat toegangsbeleid meegewogen moet worden.
Wat weten we nog niet?
De studie betreft één modelfamilie. De uitkomsten zijn geen algemene veiligheidsmeting voor alle biologische AI of taalmodellen. AISI benoemt onzekerheid over de generaliseerbaarheid en de precieze herstelkosten.
Status: primaire bron meldt. Samenvatting van AISI's eigen onderzoek. Geen onafhankelijke replicatie vastgesteld bij deze broncontrole.