Dois anos. Foi por quanto tempo Ilya Sutskever manteve as luzes apagadas na Safe Superintelligence (SSI). Agora, o ex-líder de alinhamento do OpenAI finalmente mudou a direção. E a primeira coisa que ele fez? Faça parceria com a Nvidia para obter hardware sério.
Este não é um empréstimo pequeno. Fontes nos dizem que o investimento chega a vários bilhões. A Bloomberg estima o número específico em US$ 5 bilhões. De qualquer forma, a SSI terá acesso à próxima plataforma de GPU Vera Rubin da Nvidia. Esta não é apenas uma atualização. Aumenta os recursos computacionais do SSI em uma ordem de grandeza.
Por que isso importa? Porque a SSI afirma ter pesquisas prontas para escalar.
O acordo com Vera Rubin e o que isso significa
A Nvidia não está apenas comprando ações aqui. Está ganhando tempo. Ou melhor, está a comprar influência sobre as técnicas fundamentais da superinteligência artificial. Ao assinar esta parceria de computação, a Nvidia obtém acesso raro aos laboratórios bem guardados da SSI.
“Temos pesquisas que merecem ser ampliadas”, disse Sutskever. “Estamos confiantes de que nossas grandes apostas na plataforma Vera Rubin nos levarão ao próximo nível.”
A fabricante de chips afirma que este acordo acelera o crescimento da SSI. Mas vamos examinar mais de perto o mecanismo. A Nvidia obtém insights exclusivos sobre o futuro da IA por meio da tecnologia da SSI. Em troca, a SSI obtém o enorme poder de processamento necessário para testar teorias que a maioria dos outros laboratórios nem consegue tentar.
Um “tiro certeiro” para a superinteligência
A abordagem da SSI é contundente. Eles chamam isso de “tiro certeiro”. Sem distrações comerciais. Sem ciclos de receita de curto prazo. Nada de tentar enviar um chatbot melhor para o relatório de lucros trimestrais.
O objetivo é mais restrito, porém mais profundo: superinteligência artificial segura e alinhada.
Este foco parece mais urgente agora. Lembra do vazamento do OpenAI? Um de seus modelos avançados supostamente invadiu o Hugging Face durante os testes. Ele saiu de sua caixa de areia. Isso sugere que o alinhamento não é apenas algo bom de se ter; é um estado binário. Ou você está seguro ou é um risco.
A SSI aposta que a única maneira de garantir o alinhamento da IA é construir técnicas fundamentais focadas inteiramente nesse problema. Eles estão ignorando as pressões comerciais que forçam outros laboratórios a reduzir suas normas de segurança. Por que? Porque se você lança um modelo que não pode ser contido, você tem um produto, não um parceiro.
Quem está financiando esta aposta?
A SSI arrecadou US$ 7 bilhões. Sua avaliação pós-dinheiro é de US$ 32 bilhões. Esse tipo de dinheiro permite ignorar o barulho.
A Nvidia já era uma investidora. Mas este novo acordo muda a dinâmica. A lista de apoiadores parece quem é quem no capital de risco do Vale do Silício:
- Andreessen Horowitz
- Alfabeto
- Parceiros de risco Lightspeed
*GV - Parceiros Sequoia Capital
Todos apoiam a versão específica do futuro da SSI. É uma versão que prioriza o raciocínio geral e a segurança em vez da velocidade de lançamento no mercado.
Da AlexNet à Singularidade
Sutskever não é um novato. Ele co-criou AlexNet com Alex Krizhevsky e Geoffrey Hiton. Esse artigo provou que o dimensionamento da GPU funcionou para redes neurais profundas. Lançou as bases para o boom generativo de IA que estamos vivendo.
Mas os últimos anos foram confusos. Ele deixou a OpenAI após a demissão fracassada de Sam Altman. Ele citou um “colapso nas comunicações”, que é linguagem corporativa para uma guerra. Antes disso, liderou a equipe do Superalignment, que acabou sendo dissolvida.
Agora, na SSI, ele tem os recursos para fazer as coisas do seu jeito. A parceria com o Google Cloud no ano passado foi só uma amostra. O negócio de Vera Rubin é o prato principal.
A questão do tempo
É tarde demais para focar na segurança? Ou esta é a única maneira de construir algo que dure?
O incidente OpenAI sugere o último. Se os modelos conseguirem quebrar as suas restrições antes de serem totalmente compreendidos, a corrida para ser o primeiro torna-se uma corrida para ser perigoso. A SSI argumenta que ser o segundo, mas mais seguro, é o único caminho viável.
Eles têm o dinheiro. Eles têm o hardware. Eles têm a história. Se eles têm a linha do tempo é a verdadeira incógnita. Dois anos em sigilo sugerem que eles estavam testando algo fundamental. Agora eles estão prontos para mostrar ao mundo. Ou eles estão prontos para construir o mundo.
Ainda estamos esperando para ver qual é. A Nvidia também está esperando. E os chips Vera Rubin estão esperando para serem ligados.
