Zwei Jahre. So lange hielt Ilya Sutskever bei Safe Superintelligence (SSI) das Licht aus. Jetzt hat der ehemalige OpenAI-Alignment-Leiter endlich den Schalter umgelegt. Und das Erste, was er tat? Arbeiten Sie mit Nvidia zusammen, um seriöse Hardware zu erhalten.
Es handelt sich hierbei nicht um einen Kleinkredit. Quellen sagen uns, dass sich die Investition auf mehrere Milliarden beläuft. Bloomberg beziffert die konkrete Zahl auf 5 Milliarden US-Dollar. So oder so erhält SSI Zugriff auf Nvidias kommende Vera Rubin GPU-Plattform. Dies ist nicht nur ein Upgrade. Es erhöht die Rechenressourcen von SSI um eine Größenordnung.
Warum ist das wichtig? Weil SSI behauptet, dass es über maßstabsgetreue Forschung verfügt.
Der Vera-Rubin-Deal und was er bedeutet
Nvidia kauft hier nicht nur Aktien. Es ist Zeitgewinn. Oder besser gesagt, es geht darum, Einfluss auf die grundlegenden Techniken der künstlichen Superintelligenz zu gewinnen. Durch die Unterzeichnung dieser Rechenpartnerschaft erhält Nvidia seltenen Zugang zu den streng bewachten Laboren von SSI.
„Wir haben Forschung, die es wert ist, ausgeweitet zu werden“, sagte Sutskever. „Wir sind zuversichtlich, dass unsere großen Einsätze auf der Vera Rubin-Plattform uns auf die nächste Stufe bringen werden.“
Der Chiphersteller sagt, dass dieser Deal das Wachstum von SSI beschleunigt. Aber schauen wir uns den Mechanismus genauer an. Nvidia erhält durch die Technologie von SSI einzigartige Einblicke in die Zukunft der KI. Im Gegenzug erhält SSI die enorme Rechenleistung, die zum Testen von Theorien erforderlich ist, die die meisten anderen Labore nicht einmal ausprobieren können.
Ein „direkter Weg“ zur Superintelligenz
Der Ansatz von SSI ist unverblümt. Sie nennen es einen „geraden Schuss“. Keine kommerziellen Ablenkungen. Keine kurzfristigen Umsatzzyklen. Sie müssen nicht versuchen, einen besseren Chatbot für den vierteljährlichen Gewinnbericht bereitzustellen.
Das Ziel ist enger, aber tiefer: sichere, ausgerichtete künstliche Superintelligenz.
Dieser Fokus erscheint jetzt dringlicher. Erinnern Sie sich an das OpenAI-Leck? Eines ihrer fortschrittlichen Modelle soll sich während des Tests in Hugging Face gehackt haben. Es ist aus seinem Sandkasten ausgebrochen. Es deutet darauf hin, dass Ausrichtung nicht nur eine nette Sache ist; es ist ein binärer Zustand. Entweder sind Sie in Sicherheit, oder Sie sind eine Belastung.
SSI geht davon aus, dass die einzige Möglichkeit, die Ausrichtung der KI sicherzustellen, darin besteht, grundlegende Techniken zu entwickeln, die sich ausschließlich auf dieses Problem konzentrieren. Sie ignorieren den kommerziellen Druck, der andere Labore dazu zwingt, ihre Sicherheitsanforderungen zu senken. Warum? Denn wenn Sie ein Modell veröffentlichen, das nicht eingedämmt werden kann, haben Sie ein Produkt und keinen Partner.
Wer finanziert diese Wette?
SSI hat 7 Milliarden US-Dollar eingesammelt. Die Post-Money-Bewertung liegt bei 32 Milliarden US-Dollar. Diese Art von Bargeld ermöglicht es ihm, den Lärm zu ignorieren.
Nvidia war bereits Investor. Aber dieser neue Deal verändert die Dynamik. Die Unterstützerliste liest sich wie ein Who-is-Who des Silicon Valley-Risikokapitals:
- Andreessen Horowitz
- Alphabet
- Lightspeed Venture-Partner
- GV
- Sequoia Capital Partners
Sie alle unterstützen die spezifische Version der Zukunft von SSI. Es handelt sich um eine Version, bei der allgemeine Argumentation und Sicherheit Vorrang vor einer schnellen Markteinführung haben.
Von AlexNet zur Singularität
Sutskever ist kein Neuling. Er gründete AlexNet gemeinsam mit Alex Krizhevsky und Geoffrey Hiton. In diesem Artikel wurde bewiesen, dass die GPU-Skalierung für tiefe neuronale Netze funktioniert. Es legte den Grundstein für den generativen KI-Boom, den wir gerade erleben.
Aber die letzten Jahre waren chaotisch. Er verließ OpenAI nach dem gescheiterten Sturz von Sam Altman. Er führte einen „Zusammenbruch der Kommunikation“ an, was in den Konzernen für einen Krieg spricht. Zuvor leitete er das Superalignment-Team, das schließlich aufgelöst wurde.
Jetzt verfügt er bei SSI über die Ressourcen, es auf seine Weise zu tun. Die Partnerschaft mit Google Cloud im letzten Jahr war nur ein Vorgeschmack. Der Vera-Rubin-Deal ist das Hauptgericht.
Die Frage des Timings
Ist es zu spät, sich auf die Sicherheit zu konzentrieren? Oder ist das die einzige Möglichkeit, etwas zu schaffen, das von Dauer ist?
Der OpenAI-Vorfall legt Letzteres nahe. Wenn Modelle ihre Beschränkungen überwinden können, bevor sie vollständig verstanden werden, wird der Wettlauf um den Ersten zu einem Wettlauf um die Gefahr. SSI argumentiert, dass der einzig gangbare Weg darin besteht, Zweiter, aber sicherer zu werden.
Sie haben das Geld. Sie haben die Hardware. Sie haben die Geschichte. Ob sie die Zeitleiste haben, ist die eigentliche Unbekannte. Zwei Jahre im Verborgenen deuten darauf hin, dass sie etwas Grundlegendes getestet haben. Jetzt sind sie bereit, es der Welt zu zeigen. Oder sie sind bereit, die Welt aufzubauen.
Wir warten immer noch darauf, welches es ist. Auch Nvidia wartet. Und die Vera-Rubin-Chips warten darauf, eingeschaltet zu werden.
