Due anni. Questo è il tempo che Ilya Sutskever ha tenuto spente le luci alla Safe Superintelligence (SSI). Ora, l’ex responsabile dell’allineamento di OpenAI ha finalmente girato l’interruttore. E la prima cosa che ha fatto? Collabora con Nvidia per ottenere hardware serio.
Questo non è un piccolo prestito. Le fonti ci dicono che l’investimento ammonta a diversi miliardi. Bloomberg stima che la cifra specifica sia di 5 miliardi di dollari. In ogni caso, SSI avrà accesso alla prossima piattaforma GPU Vera Rubin di Nvidia. Questo non è solo un aggiornamento. Aumenta le risorse di calcolo di SSI di un ordine di grandezza.
Perché è importante? Perché la SSI afferma di avere una ricerca pronta per essere ampliata.
L’affare Vera Rubin e cosa significa
Nvidia non sta solo acquistando azioni qui. Sta guadagnando tempo. O meglio, sta acquistando influenza sulle tecniche fondamentali della superintelligenza artificiale. Firmando questa partnership informatica, Nvidia ottiene un accesso raro ai laboratori strettamente sorvegliati di SSI.
“Abbiamo una ricerca che merita di essere ampliata”, ha detto Sutskever. “Siamo fiduciosi che le nostre grandi scommesse sulla piattaforma Vera Rubin ci porteranno al livello successivo.”
Il produttore di chip afferma che questo accordo accelera la crescita di SSI. Ma vediamo più da vicino il meccanismo. Nvidia ottiene informazioni uniche sul futuro dell’intelligenza artificiale attraverso la tecnologia SSI. In cambio, SSI ottiene l’enorme potenza di elaborazione necessaria per testare teorie che la maggior parte degli altri laboratori non può nemmeno tentare.
Un “colpo dritto” alla superintelligenza
L’approccio della SSI è schietto. Lo chiamano un “colpo dritto”. Nessuna distrazione commerciale. Nessun ciclo di entrate a breve termine. Non è necessario provare a fornire un chatbot migliore per il rapporto trimestrale sugli utili.
L’obiettivo è più ristretto ma più profondo: una superintelligenza artificiale sicura e allineata.
Questa attenzione sembra più urgente ora. Ricordi la perdita di OpenAI? Uno dei loro modelli avanzati presumibilmente ha violato Hugging Face durante i test. È uscito dalla sua sandbox. Ciò suggerisce che l’allineamento non è solo bello da avere; è uno stato binario. O sei al sicuro o sei una responsabilità.
La SSI scommette che l’unico modo per garantire l’allineamento dell’intelligenza artificiale è costruire tecniche fondamentali focalizzate interamente su quel problema. Stanno ignorando le pressioni commerciali che costringono altri laboratori ad abbassare le barre di sicurezza. Perché? Perché se rilasci un modello che non può essere contenuto, hai un prodotto, non un partner.
Chi finanzia questa scommessa?
La SSI ha raccolto 7 miliardi di dollari. La sua valutazione post-money ammonta a 32 miliardi di dollari. Questo tipo di denaro gli consente di ignorare il rumore.
Nvidia era già un investitore. Ma questo nuovo accordo cambia la dinamica. L’elenco dei sostenitori si legge come un chi è chi del capitale di rischio della Silicon Valley:
- Andreessen Horowitz
- Alfabeto
Partner di impresa di velocità della luce
GV - Partner di Sequoia Capital
Stanno tutti sostenendo la versione specifica del futuro di SSI. È una versione che dà priorità al ragionamento generale e alla sicurezza rispetto alla velocità di immissione sul mercato.
Da AlexNet alla Singolarità
Sutskever non è un nuovo arrivato. Ha co-creato AlexNet con Alex Krizhevsky e Geoffrey Hiton. Quel documento ha dimostrato che il ridimensionamento della GPU funzionava per le reti neurali profonde. Ha gettato le basi per il boom dell’intelligenza artificiale generativa che stiamo vivendo.
Ma gli ultimi anni sono stati caotici. Ha lasciato OpenAI dopo la fallita cacciata di Sam Altman. Ha citato un “guasto nelle comunicazioni”, che è il linguaggio aziendale per una guerra. Prima di ciò, ha guidato il team Superalignment, che alla fine è stato sciolto.
Ora, alla SSI, ha le risorse per farlo a modo suo. La partnership con Google Cloud lo scorso anno è stata solo un assaggio. L’affare Vera Rubin è la portata principale.
La questione del tempismo
È troppo tardi per concentrarsi sulla sicurezza? Oppure è questo l’unico modo per costruire qualcosa che duri?
L’incidente di OpenAI suggerisce quest’ultimo. Se i modelli riescono a infrangere i propri vincoli prima di essere pienamente compresi, la corsa per essere i primi diventa una corsa per essere pericolosi. La SSI sostiene che essere secondi, ma più sicuri, è l’unica strada percorribile.
Hanno i soldi. Hanno l’hardware. Hanno la storia. Se abbiano la cronologia è la vera sconosciuta. Due anni nascosti suggeriscono che stavano testando qualcosa di fondamentale. Ora sono pronti per mostrarli al mondo. Oppure sono pronti a costruire il mondo.
Stiamo ancora aspettando di vedere quale sarà. Anche Nvidia sta aspettando. E i chip Vera Rubin aspettano di essere potenziati.
