Meta wydaje Muse Glimmer — agent AI 30B, który działa na twoim GPU

Meta zbudowała agenta AI o 30 miliardach parametrów, który działa w całości na sprzęcie konsumenckim – i udostępniła kod źródłowy za darmo. Model o nazwie Muse Glimmer nie przekierowuje twoich zadań przez serwery Meta. Działa lokalnie na twoim własnym GPU, a przy skwantowanej pamięci od 18 do 20 gigabajtów mieści się w granicach obecnych wysokiej klasy kart graficznych dla konsumentów.

To ma znaczenie, ponieważ poprzednia generacja lokalnych modeli – warianty z 7 i 13 miliardami parametrów, które wypełniały bibliotekę Ollama przez ostatnie dwa lata – były dobrymi generatorami tekstu, ale słabymi autonomicznymi agentami. Miały trudności z wieloetapowym rozumowaniem, wywołaniami narzędzi, które kończyły się niepowodzeniem w połowie, oraz zadaniami wymagającymi pamiętania, co wydarzyło się trzy kroki wcześniej. Muse Glimmer został zaprojektowany specjalnie dla takich przepływów pracy: kodowania, wywoływania funkcji, zarządzania harmonogramem, organizacji plików i wieloetapowych sekwencji zadań, które automatycznie odzyskują sprawność, gdy wywołanie narzędzia się psuje.

Podstawowa architektura to destylacja Muse Spark, komercyjnego modelu, do którego Meta sprzedawała dostęp API od zeszłego miesiąca. Dzięki destylacji logitów i uczeniu przez wzmacnianie firma skompresowała swoją zamkniętą flagową wersję do postaci mieszczącej się na 24-gigabajtowym GPU – RTX 5090, Apple M5 Max lub M4 Max. Dekodowanie spekulatywne zwiększa przepustowość: RTX 5090 uruchamia model 3,1 razy szybciej niż bez niego, M5 Max 1,8 razy, M4 Max 1,5 razy. W praktyce ta różnica to granica między agentem, który wydaje się responsywny, a takim, który wymaga cierpliwości.

Model przetwarza przeplatane tekst i obrazy – zrzuty ekranu, dokumenty, treści mieszane – i działa w ponad 100 językach. Łączy się natywnie z frameworkami, z których już korzystają użytkownicy lokalnego AI: Ollama, LM Studio, llama.cpp, MLX. Jeśli już pobierasz modele z Hugging Face i uruchamiasz je na swoim sprzęcie, Muse Glimmer wkomponowuje się w ten przepływ pracy bez dodatkowego oprogramowania.

Licencja to Apache 2.0, co oznacza brak ograniczeń komercyjnych. Osoby prywatne, firmy i badacze mogą z niego korzystać bez płacenia Meta. Stawia to model w innej kategorii niż modele OpenAI i Anthropic, które wymagają płatności za token nawet w pracach rozwojowych. W porównaniu z Google Gemma4-31B i Alibaba Qwen3.6-27B – najbliższymi konkurencyjnymi modelami open-weight pod względem skali – Meta pozycjonuje Muse Glimmer jako mocny w swojej wielkości w benchmarkach agentowych i ogólnych językowych, nie precyzując, w których zadaniach wygrywa.

Próg sprzętowy pozostaje selektywny. Zmieszczenie 18 gigabajtów wag modelu na GPU brzmi dostępnie, dopóki nie obliczysz, jakie GPU jest potrzebne. RTX 5090 kosztuje obecnie ponad dwa tysiące dolarów. Maszyny Apple M5 Max zaczynają się od blisko trzech tysięcy. To lokalne AI dla określonej grupy dochodowej, a nie zamiennik chmury dla większości użytkowników. Skwantowana wersja to także zredukowany wiernościowo brat Muse Spark: dziedziczy sygnał treningowy z komercyjnego modelu, ale nie jest modelem komercyjnym. Meta nadal sprzedaje dostęp do wersji o wyższej wydajności.

To, co zmienia się wraz z tą premierą, to poziom zdolnych agentów w lokalnych modelach. Uruchomienie modelu z 30 miliardami parametrów wyszkolonego do autonomicznego wykonywania zadań różni się od uruchomienia modelu czatowego o tej samej liczbie parametrów. Różnica polega na tym, jak model radzi sobie z awariami narzędzi i wieloetapowymi sekwencjami – a nie na tym, jak dobrze kończy pojedyncze zdanie.

Wagi są dostępne na Hugging Face od 10 sierpnia na licencji Apache 2.0. Meta potwierdziła partnerstwa w zakresie optymalizacji na poziomie urządzeń z AMD, Arm, Dell, Intel i Nvidia, a dalsze dostrojone wersje dla konkretnych konfiguracji sprzętowych mają nastąpić. Społeczność lokalnego AI przetestuje model w ciągu kilku dni, jak to robi przy każdej znaczącej premierze – wyniki benchmarków tej społeczności dadzą czystszy obraz tego, gdzie faktycznie stoi Muse Glimmer w ciągu dwóch tygodni od dziś.

Tagi: meta, open-source AI, agenty AI, GPU, lokalny AI, Meta Superintelligence Labs