Najciekawsze w najnowszej informacji Elona Muska o Groku nie jest język programowania. Ważniejsze jest to, co przy okazji przyznał: kolejny model zaliczył opóźnienie, bo zespół, który go tworzy, porzucił open source’owe narzędzia wykorzystywane do trenowania i udostępniania modeli, a następnie napisał własne.

Jeśli potraktować wpis jako zapowiedź premiery, brzmi optymistycznie: trening zakończony, wyniki ewaluacji idą w górę, a wstępne udostępnienie nastąpi jeszcze przed końcem tygodnia. W ujęciu systemowym mówi jednak o czymś więcej. xAI, należąca obecnie do SpaceX, uznała, że współdzielone frameworki ją ograniczają. Firma stawia na ten model i jego następcę, opierając się na własnym oprogramowaniu na każdym poziomie — od badaczy po procesory GPU.

„Wyrzuciliśmy JAX/SGLang i przepisaliśmy od zera cały stos do uczenia ze wzmocnieniem i inferencji w C/C++, co zajęło nam trochę więcej czasu” — napisał Musk na X w odpowiedzi użytkownikowi, który zapytał, kiedy można spodziewać się Groka 4.8. JAX to oparta na Pythonie biblioteka numeryczna, z której xAI korzystała podczas treningu; SGLang jest frameworkiem open source służącym do udostępniania dużych modeli językowych. Musk poinformował, że pretrening jest zakończony, po tym jak „trzeba było porządnie posprzątać dane SFT”, czyli zbiór do nadzorowanego dostrajania. „Teraz 4.8 przechodzi uczenie ze wzmocnieniem, a wyniki ewaluacji zaczynają iść w górę”.

Ta wypowiedź wyjaśnia przerwę, którą sam Musk wcześniej zapowiedział. W połowie września przedstawił model jako „model o 2,5 bln parametrów, trenowany z użyciem naszego nowego stosu oprogramowania w C++”, który miał „zakończyć trening w tym tygodniu i rozpocząć uczenie ze wzmocnieniem”. Mniej więcej w tym samym czasie, jak podał Analytics India Magazine, określił część odpowiedzialną za uczenie ze wzmocnieniem jako „wciąż nieco przestarzałą zbieraninę wielu różnych systemów zewnętrznych”, którą należało naprawić „w odpowiednim czasie”. Pod koniec października napisał już: „Wiem, że trwa to dłużej, niż się spodziewaliśmy, ale Grok 4.8 nie rozczaruje”. Okazało się, że to właśnie naprawa spowodowała opóźnienie. Kod pretreningu był już nowy; zanim model mógł przejść dalej, trzeba było przebudować zarówno część uczącą go właściwego zachowania, jak i tę, która odpowiada użytkownikom.

„Przepisanie w C++”, o którym mówią nagłówki, w większości dotyczy C. Zapytany o język, Musk odpowiedział: „C z odrobiną C++, ale bez przesady”. Jak twierdzi, stos wywodzi się z oprogramowania napisanego przez inżynierów SpaceX dla Starlinka („W SpaceX sami piszemy pliki nagłówkowe i sami obliczamy czas” — dodał). We wrześniu mówił, że kod pretreningu napisał zespół Starlinka i że „nie został napisany przez AI”, ponieważ „AI nie jest jeszcze wystarczająco dobra w tworzeniu oprogramowania o ekstremalnie wysokiej wydajności (ale będzie)”.

Uzasadnienie tej decyzji jest znane od wiosny. Pod koniec maja Musk mówił, że SpaceX niemal ukończyła własny stos treningowy w C, który „dokładnie odwzorowuje” klaster 220 000 układów Nvidia GB300. Potencjalne przyspieszenie względem JAX przy dużych treningach szacował na „ponad rząd wielkości”. Pod koniec czerwca obiecywał „naprawdę ogromny wzrost wydajności” w ciągu około trzech miesięcy, kiedy cały stos treningowy i inferencyjny zostanie przepisany, a „większość warstw oprogramowania zostanie całkowicie usunięta”. Według tego harmonogramu prace nad nowym rozwiązaniem zakończyły się mniej więcej sześć tygodni po terminie. Żadne z deklarowanych przyspieszeń nie zostało zmierzone poza firmą.

Posiadanie własnego stosu ma zalety i wady. Rezygnacja z JAX i SGLang uwalnia xAI od cudzych abstrakcji i harmonogramów wydań, a inżynierom pozwala dopasować oprogramowanie bezpośrednio do konkretnego sprzętu. Ceną jest to, że odtąd każdy błąd w pętli treningowej i ścieżce udostępniania modelu spada wyłącznie na xAI. Chodzi przy tym o kod, którego żadna zewnętrzna społeczność nie zdążyła sprawdzić, zanim trafi do użytkowników.

Musk mocno obniża też oczekiwania. „Grok 4.8 nie będzie przypominał 4.7 — i całe szczęście” — napisał, publicznie krytykując model udostępniony przez xAI 21 września. „Nie jest jeszcze niesamowity, ale tym razem fundamenty są dobrze zbudowane, więc spodziewam się, że z czasem stanie się czymś wyjątkowym”. Niecałą godzinę później, zapytany, jak 4.8 wypadnie na tle Opus 5.5 firmy Anthropic, odpowiedział: „Nie będzie tak dobry. Opus 5.5 to arcydzieło”. Prawdziwa obietnica dotyczy dalszej przyszłości: „Grok 5 powinien być lepszy od Opus 5.5, a może uda się to osiągnąć za dwa lub trzy miesiące”.

Wciąż brakuje wszystkich pozostałych informacji. Na stronie z aktualnościami xAI i w dokumentacji dla deweloperów nie ma żadnej wzmianki o modelu — tak wynika z monitorujących je narzędzi. Nie opublikowano karty modelu, wyników benchmarków ani cennika, nie ma też wpisu w katalogu API. Informacja o 2,5 bln parametrów pochodzi wyłącznie od Muska; to samo dotyczy wyników ewaluacji, które — jak twierdzi — rosną. Wstępne udostępnienie dla użytkowników Grok Bota ma nastąpić „jeszcze w tym tygodniu”, ale bez podania konkretnego dnia. W październiku Musk mówił, że większość takich zapytań będzie obsługiwać „błyskawiczna wersja Groka 4.8”.

Dlatego udostępnienie modelu w tym tygodniu będzie sprawdzianem infrastruktury bardziej niż samego Groka. Jeśli model poradzi sobie z rzeczywistym ruchem w Grok Bocie, nowy stos stanie się platformą, na której będzie trenowany Grok 5. Jeśli zawiedzie, nie będzie już można zrzucić winy na zewnętrzny framework.

Tagi: Elon Musk, SpaceX, modele AI, xAI, Grok