Onderzoekers van de North Carolina State University hebben een methode ontwikkeld die ‘neuron bevriezing’ wordt genoemd om de veiligheid van grote taalmodellen (LLM’s), zoals die welke ChatGPT aandrijven, aanzienlijk te verbeteren. Deze techniek pakt een kritieke fout aan in de huidige AI-veiligheidssystemen, die gemakkelijk kunnen worden omzeild door slimme, snelle engineering.
Het probleem met bestaande AI-veiligheidsmaatregelen
Momenteel gebruiken de meeste LLM’s een eenvoudige ja/nee-controle aan het begin van een gebruikersquery. Als de prompt veilig lijkt, gaat de AI verder; anders weigert het. Gebruikers hebben echter herhaaldelijk aangetoond dat ze deze systemen kunnen misleiden door schadelijke verzoeken op onschadelijke manieren te formuleren, bijvoorbeeld door kwaadaardige instructies te vermommen als poëzie.
Het oplossen van deze mazen in de wet vereist constante herscholing of individuele patches, een langzaam en reactief proces.
Hoe het bevriezen van neuronen werkt
De nieuwe aanpak pakt het probleem op een dieper niveau aan. Het team identificeerde specifieke “neuronen” binnen het neurale netwerk die cruciaal zijn voor de veiligheid. Door deze neuronen tijdens het afstemmen te ‘bevriezen’, voorkomen ze dat het model zijn ethische grenzen verliest, zelfs bij aanpassing aan nieuwe taken of domeinen.
“Ons doel was om een niet-oppervlakkige veiligheidsafstemming voor LLM’s te creëren”, legt Jianwei Li uit, de promovendus die het onderzoek leidde. “Het bevriezen van sleutelneuronen behoudt de oorspronkelijke veiligheidskenmerken van het model, terwijl het nieuwe vaardigheden kan leren.”
De implicaties
Dit is niet zomaar een kleine aanpassing. Het vertegenwoordigt een fundamentele verschuiving in de manier waarop AI-veiligheid wordt benaderd. In plaats van te vertrouwen op oppervlakkige controles, codeert deze methode ethische beperkingen in de kernarchitectuur van het model. Het team hoopt dat hun werk zal inspireren tot verder onderzoek naar AI-systemen die continu de veiligheid van hun eigen redenering kunnen evalueren.
Het onderzoek, gedetailleerd beschreven in het artikel ‘Superficial safety alignmenthypothese’, zal volgende maand worden gepresenteerd op de veertiende internationale conferentie over leerrepresentaties (ICLR2026).
Deze doorbraak is een cruciale stap in de richting van het bouwen van betrouwbaardere AI. Nu LLM’s steeds meer geïntegreerd raken in het dagelijks leven, is het garanderen van hun veiligheid niet langer optioneel – het is essentieel.
