Výzkumníci z University of North Carolina vyvinuli metodu zvanou „zmrazování neuronů“, která výrazně zlepšuje zabezpečení velkých jazykových modelů (LLM), jako jsou modely používané v ChatGPT. Tato technika řeší kritický problém v moderních bezpečnostních systémech AI, které lze snadno obejít pomocí chytrého dotazování.
Problém se stávajícími bezpečnostními opatřeními AI
V současné době většina LLM používá jednoduchou kontrolu ano/ne na začátku požadavku uživatele. Pokud se požadavek zdá bezpečný, AI pokračuje; jinak odmítá. Uživatelé však opakovaně prokázali, že mohou tyto systémy oklamat neutrálním rámováním škodlivých požadavků – například maskováním škodlivých pokynů za poezii.
Oprava těchto mezer vyžaduje průběžné přeškolování nebo jednotlivé opravy, což je pomalý a reaktivní proces.
Jak funguje „zmrazování neuronů“.
Nový přístup řeší problém na hlubší úrovni. Tým identifikoval určité „neurony“ v neuronové síti, které jsou pro bezpečnost kritické. Tím, že tyto neurony „zmrazí“ během jemného ladění, zabrání tomu, aby model ztratil etické hranice, i při přizpůsobování se novým úkolům nebo doménám.
„Naším cílem bylo vytvořit základní etickou koherenci pro LLM spíše než povrchní,“ vysvětlil Jianwei Li, postgraduální student, který studii vedl. “Zmrazení klíčových neuronů zachovává původní bezpečnostní charakteristiky modelu a zároveň mu umožňuje získat nové dovednosti.”
Důsledky
Nejde jen o drobnou úpravu. To představuje zásadní posun v přístupu k zabezpečení AI. Spíše než se spoléhat na povrchní kontroly, tato metoda pevně zakóduje etická omezení do základní architektury modelu. Tým doufá, že jejich práce bude inspirací pro další výzkum systémů umělé inteligence, které mohou nepřetržitě vyhodnocovat bezpečnost jejich vlastního myšlení.
Výzkum, podrobně popsaný v článku „The Surface Security Conjecture“, bude příští měsíc představen na čtrnácté mezinárodní konferenci o strojovém učení (ICLR2026).
Tento průlom je důležitým krokem k vytvoření spolehlivější a důvěryhodnější umělé inteligence. S tím, jak se LLM hlouběji integrují do každodenního života, není jen žádoucí udržovat je v bezpečí – je to nezbytné.
