Dos años. Ese es el tiempo que Ilya Sutskever mantuvo las luces apagadas en Safe Superintelligence (SSI). Ahora, el antiguo líder de alineación de OpenAI finalmente ha activado el interruptor. ¿Y lo primero que hizo? Asóciese con Nvidia para obtener hardware serio.
Este no es un préstamo pequeño. Las fuentes nos dicen que la inversión asciende a varios miles de millones. Bloomberg cifra la cifra específica en 5.000 millones de dólares. De cualquier manera, SSI obtiene acceso a la próxima plataforma de GPU Vera Rubin de Nvidia. Esto no es sólo una actualización. Aumenta los recursos informáticos de SSI en un orden de magnitud.
¿Por qué importa eso? Porque SSI afirma que tiene investigaciones listas para escalar.
El acuerdo de Vera Rubin y lo que significa
Nvidia no sólo está comprando acciones aquí. Es ganar tiempo. O más bien, está comprando influencia sobre las técnicas fundamentales de la superinteligencia artificial. Al firmar esta asociación informática, Nvidia obtiene un acceso excepcional a los laboratorios estrechamente vigilados de SSI.
“Tenemos investigaciones que merece la pena ampliar”, afirmó Sutskever. “Confiamos en que nuestras grandes apuestas en la plataforma Vera Rubin nos llevarán al siguiente nivel”.
El fabricante de chips afirma que este acuerdo acelera el crecimiento de SSI. Pero miremos más de cerca el mecanismo. Nvidia obtiene conocimientos únicos sobre el futuro de la IA a través de la tecnología de SSI. A cambio, SSI obtiene la enorme potencia de procesamiento necesaria para probar teorías que la mayoría de los demás laboratorios ni siquiera pueden intentar.
Un “tiro directo” a la superinteligencia
El enfoque de SSI es contundente. Lo llaman un “tiro directo”. Sin distracciones comerciales. Sin ciclos de ingresos a corto plazo. No hay que intentar enviar un chatbot mejor para el informe de resultados trimestrales.
El objetivo es más limitado pero más profundo: una superinteligencia artificial segura y alineada.
Este enfoque parece más urgente ahora. ¿Recuerdas la filtración de OpenAI? Uno de sus modelos avanzados supuestamente pirateó Hugging Face durante las pruebas. Salió de su caja de arena. Sugiere que la alineación no es sólo algo agradable de tener; es un estado binario. O estás a salvo o eres una carga.
SSI apuesta a que la única forma de garantizar la alineación de la IA es crear técnicas fundamentales centradas completamente en ese problema. Están ignorando las presiones comerciales que obligan a otros laboratorios a bajar sus barreras de seguridad. ¿Por qué? Porque si lanzas un modelo que no se puede contener, tienes un producto, no un socio.
¿Quién financia esta apuesta?
SSI ha recaudado 7 mil millones de dólares. Su valoración posterior al dinero se sitúa en 32.000 millones de dólares. Ese tipo de efectivo le permite ignorar el ruido.
Nvidia ya era inversor. Pero este nuevo acuerdo cambia la dinámica. La lista de patrocinadores parece un quién es quién del capital de riesgo de Silicon Valley:
- Andreessen Horowitz
- Alfabeto
- Socios de Lightspeed Venture
*GV - Socios de Sequoia Capital
Todos ellos apoyan la versión específica del futuro de SSI. Es una versión que prioriza el razonamiento general y la seguridad sobre la velocidad de comercialización.
De AlexNet a la Singularidad
Sutskever no es un recién llegado. Co-creó AlexNet con Alex Krizhevsky y Geoffrey Hiton. Ese artículo demostró que el escalado de GPU funcionaba para redes neuronales profundas. Sentó las bases para el auge de la IA generativa que estamos viviendo.
Pero los últimos años han sido complicados. Dejó OpenAI después del fallido derrocamiento de Sam Altman. Citó una “falla en las comunicaciones”, que es un lenguaje corporativo para referirse a una guerra. Antes de eso, dirigió el equipo Superalignment, que finalmente se disolvió.
Ahora, en SSI, tiene los recursos para hacerlo a su manera. La asociación con Google Cloud el año pasado fue solo una muestra. El acuerdo con Vera Rubin es el plato fuerte.
La cuestión del tiempo
¿Es demasiado tarde para centrarse en la seguridad? ¿O es ésta la única manera de construir algo que dure?
El incidente de OpenAI sugiere lo último. Si los modelos pueden romper sus limitaciones antes de que se comprendan plenamente, la carrera por ser el primero se convierte en una carrera por ser peligrosa. SSI sostiene que ocupar el segundo lugar, pero ser más seguro, es el único camino viable.
Tienen el dinero. Tienen el hardware. Tienen la historia. Lo que realmente se desconoce es si tienen la línea de tiempo. Dos años en secreto sugieren que estaban probando algo fundamental. Ahora están listos para mostrárselo al mundo. O están listos para construir el mundo.
Todavía estamos esperando ver cuál es. Nvidia también está esperando. Y los chips Vera Rubin están esperando ser encendidos.
