Pesquisadores da Universidade Estadual da Carolina do Norte desenvolveram um método chamado “congelamento de neurônios” para melhorar significativamente a segurança de grandes modelos de linguagem (LLMs) como aqueles que alimentam o ChatGPT. Esta técnica aborda uma falha crítica nos atuais sistemas de segurança de IA, que são facilmente contornados por uma engenharia rápida e inteligente.
O problema com as medidas de segurança de IA existentes
Atualmente, a maioria dos LLMs usa uma simples verificação “sim/não” no início de uma consulta do usuário. Se o prompt parecer seguro, a IA prossegue; caso contrário, ele recusa. No entanto, os utilizadores demonstraram repetidamente que podem enganar estes sistemas formulando pedidos prejudiciais de forma inócua – por exemplo, disfarçando instruções maliciosas como poesia.
Corrigir essas lacunas requer reciclagem constante ou patches individuais, um processo lento e reativo.
Como funciona o congelamento de neurônios
A nova abordagem aborda o problema em um nível mais profundo. A equipe identificou “neurônios” específicos dentro da rede neural que são cruciais para a segurança. Ao “congelar” esses neurônios durante o ajuste fino, eles evitam que o modelo perca seus limites éticos, mesmo quando se adapta a novas tarefas ou domínios.
“Nosso objetivo era criar um alinhamento de segurança não superficial para LLMs”, explicou Jianwei Li, o estudante de doutorado que liderou a pesquisa. “O congelamento dos principais neurônios mantém as características originais de segurança do modelo, ao mesmo tempo que permite que ele aprenda novas habilidades.”
As implicações
Este não é apenas um pequeno ajuste. Representa uma mudança fundamental na forma como a segurança da IA é abordada. Em vez de confiar em verificações superficiais, este método codifica as restrições éticas na arquitetura central do modelo. A equipe espera que seu trabalho inspire mais pesquisas sobre sistemas de IA que possam avaliar continuamente a segurança de seu próprio raciocínio.
A pesquisa, detalhada no artigo “Hipótese de alinhamento de segurança superficial”, será apresentada na Décima Quarta Conferência Internacional sobre Representações de Aprendizagem (ICLR2026) no próximo mês.
Este avanço é um passo crítico para a construção de uma IA mais confiável. À medida que os LLMs se tornam cada vez mais integrados na vida diária, garantir a sua segurança não é mais opcional – é essencial.
