Dwa lata. Tak długo Ilya Sutsker trzymał wyłączone światła w Safe Superintelligence (SSI). Teraz były szef ds. dostosowania w OpenAI w końcu włączył przełącznik. A pierwszą rzeczą, którą zrobił? Nawiązałem współpracę z Nvidią, aby uzyskać poważny sprzęt.
To nie jest mała pożyczka. Źródła podają, że inwestycja opiewa na kilka miliardów dolarów. Bloomberg wskazuje konkretną kwotę 5 miliardów dolarów. Tak czy inaczej, SSI uzyskuje dostęp do nadchodzącej platformy GPU Vera Rubin firmy Nvidia. To nie jest tylko aktualizacja. Zwiększa to moc obliczeniową SSI o rząd wielkości.
Dlaczego to jest ważne? Ponieważ SSI angażuje się w zwiększanie skali swoich badań.
Umowa Very Rubin i jej znaczenie
Nvidia nie tylko kupuje tutaj akcje. Kupuje czas. Albo, ściślej, kupuje wpływ na podstawowe techniki sztucznej superinteligencji. Podpisując to partnerstwo informatyczne, Nvidia uzyskuje rzadki dostęp do wysoce bezpiecznych laboratoriów SSI.
“Mamy badania, które warto zintensyfikować. Jesteśmy pewni, że nasze duże inwestycje w platformę Vera Rubin przeniosą nas na wyższy poziom “, powiedział Sutsker.
Producent chipów twierdzi, że transakcja przyspiesza rozwój SSI. Przyjrzyjmy się jednak bliżej mechanizmowi. Nvidia zyskuje unikalny wgląd w przyszłość sztucznej inteligencji dzięki technologiom SSI. Z kolei SSI zyskuje ogromną moc obliczeniową potrzebną do testowania teorii, których większość innych laboratoriów nawet nie odważyłaby się podjąć.
„Bezpośrednia ścieżka” do superinteligencji
Podejście SSI jest proste. Nazywają to „prostą drogą”. Żadnych zakłóceń komercyjnych. Brak krótkoterminowych cykli przychodów. Nie ma próby wypuszczenia lepszego chatbota do kwartalnego raportu o zarobkach.
Cel jest węższy, ale głębszy: bezpieczna, spójna sztuczna superinteligencja.
To skupienie jest teraz odczuwalne bardziej dotkliwie. Pamiętacie wyciek OpenAI? Krążyły pogłoski, że jeden z ich zaawansowanych modeli zhakował Hugging Face podczas testów. Wybiegła z piaskownicy. To wskazuje, że wyrównanie to nie tylko miły dodatek; jest to stan binarny. Jesteś albo bezpieczny, albo stanowisz zagrożenie.
SSI zakłada, że jedynym sposobem zapewnienia spójności sztucznej inteligencji jest stworzenie podstawowych technik całkowicie skupionych na tym problemie. Ignorują presję komercyjną, która zmusza inne laboratoria do obniżenia poprzeczki bezpieczeństwa. Dlaczego? Bo jeśli wypuścisz model, którego nie da się utrzymać, to masz produkt, a nie partnera.
Kto finansuje ten zakład?
SSI zebrało 7 miliardów dolarów. Jego wycena po inwestycji wynosi 32 miliardy dolarów. Takie pieniądze pozwalają jej ignorować hałas.
Nvidia była już inwestorem. Ale ta nowa umowa zmienia dynamikę. Lista osób wspierających wygląda jak lista gwiazd kapitału wysokiego ryzyka z Doliny Krzemowej:
Andreessen Horowitz
* Alfabet
Partnerzy przedsięwzięcia Lightspeed
*G.V.
* Partnerzy kapitałowi Sequoia
Wszyscy popierają konkretną wersję przyszłości, jaką przewiduje SSI. Jest to wersja, w której ogólne rozumowanie i bezpieczeństwo są ważniejsze od szybkości wprowadzenia produktu na rynek.
Od AlexNet do Singularity
Sutsker nie jest nowy w branży. Jest współtwórcą AlexNet wraz z Alexem Kriżewskim i Geoffreyem Hintonem. W artykule wykazano, że skalowanie GPU sprawdza się w przypadku głębokich sieci neuronowych. Położyło to podwaliny pod boom generatywnej sztucznej inteligencji, który obserwujemy dzisiaj.
Ale ostatnie kilka lat było chaotyczne. Opuścił OpenAI po nieudanej próbie usunięcia Sama Altmana. Przytoczył „przerwę w komunikacji”, co w korporacyjnym żargonie oznacza wojnę. Wcześniej zarządzał zespołem Superalignment, który następnie został rozwiązany.
Teraz w SSI ma zasoby, dzięki którym może robić wszystko po swojemu. Zeszłoroczna współpraca z Google Cloud była dopiero preludium. Daniem głównym jest oferta Very Rubin.
Kwestia czasu
Czy jest już za późno, aby skupić się na bezpieczeństwie? A może to jedyny sposób na zbudowanie czegoś, co będzie trwałe?
Incydent z OpenAI wskazuje na to drugie. Jeśli modele zdołają przełamać swoje ograniczenia, zanim zostaną w pełni zrozumiane, wyścig o dominację stanie się wyścigiem o niebezpieczeństwo. SSSI argumentuje, że jedyną realną ścieżką jest bycie drugim najlepszym, ale bezpieczniejszym.
Mają pieniądze. Mają sprzęt. Mają historię. To, czy mają czas, jest prawdziwą niewiadomą. Dwa lata milczenia sugerują, że testowali coś fundamentalnego. Teraz są gotowi, aby pokazać je światu. Lub gotowy do zbudowania świata.
Wciąż czekamy, co z tego wyniknie. Nvidia też czeka. A chipy Very Rubin czekają na włączenie.
