Mistral Large 4 jest za darmo, ale w domu wymaga Maca za 22 299 dolarów

Mistral udostępnił pełne wagi modelu Mistral Large 4, który nazywa Le Chonk. Każdy może go pobrać, modyfikować i uruchamiać na własnym sprzęcie. Francuskie laboratorium twierdzi, że to obecnie najmocniejszy otwarty model do pisania kodu i pracy nad bezpieczeństwem, w tym odtwarzania błędów w oprogramowaniu, a następnie ich naprawiania. Dla osób, które chciałyby uruchomić go w domu, problemem jest jednak jego rozmiar.

Le Chonk ma około biliona parametrów, z czego 49 miliardów jest aktywnych przy generowaniu każdego słowa. Nawet najbardziej skompresowane wersje — modele 2-bitowe przygotowane przez zespół llama.cpp i Unsloth — wymagają jednej maszyny Apple Silicon Ultra z 512 GB pamięci zunifikowanej, podaje Hugging Face. Jedynym komputerem Mac sprzedawanym przez Apple z taką ilością pamięci jest Mac Studio z układem M5 Ultra. Jak informuje 9to5Mac, w takiej konfiguracji kosztuje on w USA 22 299 dolarów. Każdy inny sposób uruchomienia modelu wymaga współpracy kilku wydajnych kart graficznych.

Uzasadniając wartość modelu, Mistral stawia na programowanie. Firma podaje, że model uzyskuje 41% w teście Terminal-Bench 4.0, który sprawdza działanie agentów AI w wierszu poleceń — to najlepszy wynik wśród modeli otwartych. Według Mistral dorównuje też GLM-5.3 w indeksie agentów programistycznych Artificial Analysis, zużywając przy tym o 47% mniej tokenów na zadanie, co obniża koszty jego uruchamiania. W ślepych ocenach porównawczych przeprowadzonych przez Surge recenzenci wyżej ocenili jego kod niż kod GLM-5.3, Kimi K3 i DeepSeek V4.1 Flash; lepiej wypadł tylko Claude Opus 5.5 firmy Anthropic.

Argument dotyczący bezpieczeństwa jest skierowany do obrońców. Jak podaje Hugging Face, model uzyskał 82% w teście Artificial Analysis, w którym ma odtworzyć rzeczywistą lukę w oprogramowaniu open source, a następnie ją naprawić. Mistral informuje, że kilka zamkniętych modeli wiodących firm osiąga w tym teście wyniki bliskie zeru, ponieważ odmawia podjęcia próby. Bank lub instytucja rządowa może uruchomić model na własnych serwerach, udostępnić mu własny kod i dzienniki awarii, a także nadal z niego korzystać, nawet jeśli dostawca zmieni warunki. „AI będzie jak elektryczność. Nie chcesz żyć w świecie, w którym sąsiad może z dnia na dzień odciąć ci prąd” — powiedział dziennikarzom Pierre Stock, wiceprezes Mistral ds. nauki, jak podaje Wired.

Większość tych wyników pochodzi jednak od samego Mistral i dotyczy testów wybranych przez tę firmę, a niezależne sprawdzanie modelu dopiero się zaczyna. W ogólnym indeksie inteligencji Artificial Analysis Hugging Face plasuje go na piątym miejscu wśród modeli otwartych, a nie na pierwszym. Argument dotyczący bezpieczeństwa ma też drugą stronę. Mistral napisał, że podczas obserwacji ruchu na żywo w trakcie testów wstępnych dostrzegł „potencjał ułatwiania przeprowadzania rzeczywistych ataków” i zaostrza zabezpieczenia. Publiczne wagi może jednak pobrać i dostroić każdy, także napastnicy. „To wyraźnie technologia podwójnego zastosowania” — powiedział Wired Rafe Pilling, starszy dyrektor ds. analizy zagrożeń w Sophos.

Korzystanie z modelu w domu wiąże się z kompromisami nawet wtedy, gdy ma się odpowiedniego Maca. Hugging Face uruchomił wersję 2-bitową na starszym Mac Studio z układem M3 Ultra i uzyskał około 15 tokenów na sekundę — wystarczająco dużo do rozmowy, ale niewiele przy długich zadaniach programistycznych. Przy bardzo długich dokumentach i czterech kartach Nvidia RTX 6000 Pro tempo spadało do około 3 tokenów na sekundę. Upakowanie modelu do 2 bitów obniża też jego dokładność w porównaniu z pełną wersją, którą Mistral wykorzystał w testach.

Wagi można pobrać z Hugging Face z dowolnego miejsca na świecie na warunkach Mistral Ecosystem Open-Weight License — zmodyfikowanej licencji MIT, która pozwala bezpłatnie korzystać z modelu, dostrajać go i tworzyć produkty komercyjne. Jest jeden wyjątek: firmy oferujące model jako usługę hostowaną muszą uzyskać od Mistral osobną licencję komercyjną. Pozostali mogą korzystać z niego także przez API Mistral, płacąc 0,70 dolara za milion tokenów wejściowych i 2,10 dolara za milion tokenów wyjściowych, lub za pośrednictwem OpenRouter i Microsoft Foundry. Mistral udostępnił wersję wstępną na początku października, a 29 października opublikował ostateczne wagi. Apple informuje, że zamówione komputery Mac Studio z 512 GB pamięci będą wysyłane od końca listopada do początku grudnia.

„Gdy wagi zostaną udostępnione jako open source, trafiają do całego internetu. Nie da się odciąć do nich dostępu” — powiedział Wired Stock. Dla osób, które nie mają komputera za 22 299 dolarów, barierą nie do pokonania pozostaje cena pamięci.

Tagi: cyberbezpieczeństwo, Hugging Face, Mac Studio, otwarte modele AI, Le Chonk, Mistral AI