Name: Mac mini (M6)
Brand: Apple

Uruchamianie własnego modelu AI oznaczało do niedawna posiadanie sprzętu, z którym większość ludzi nigdy się nie spotyka: szaf serwerowych, kart graficznych droższych od laptopów, subskrypcji zdalnych mocy obliczeniowych. Mac mini M6, małe, szare pudełko wielkości grubej książki, wykonuje teraz tę samą pracę na biurku, za 899 dolarów.

Ta cena ma znaczenie, ponieważ umieszcza lokalną AI – wnioskowanie działające bez wysyłania danych na zdalny serwer – w zasięgu sprzętu, na który wielu profesjonalistów już budżetuje. Benchmarki Apple’a pokazują, że M6 jest 4,8 razy szybszy w przetwarzaniu promptów LLM od zastępowanego modelu M4, mierzone w LM Studio. W praktyce oznacza to, że duży model językowy, który wcześniej wymagał specjalistycznego sprzętu, działa na tym urządzeniu całkowicie offline.

Układ M6 wewnątrz komputera zawiera podwójny, 16-rdzeniowy silnik Neural Engine – dwa akceleratory neuronowe pracujące jednocześnie – który według Apple’a sprawia, że obliczenia neuronowe są dwa razy szybsze niż w poprzedniej generacji. Łączy go z 12-rdzeniowym CPU i 12-rdzeniowym GPU wspieranym przez 170 GB/s przepustowości pamięci zunifikowanej. Standardowa konfiguracja ma 16 GB pamięci zunifikowanej, z możliwością rozszerzenia do 32 GB.

Obciążenia, które urządzenie obsługuje lokalnie, obejmują modele dyfuzyjne do generowania obrazów, transfer stylu w czasie rzeczywistym, wieloetapowe agenty AI oraz pełne wnioskowanie LLM – wszystko lokalnie, bez subskrypcji. Apple Intelligence w macOS 27 udostępnia wiele z tych funkcji przez sam system operacyjny, podczas gdy narzędzia takie jak LM Studio pozwalają użytkownikom ładować dowolny otwarty model, który chcą uruchomić.

Dla kontekstu, jak wiele się zmieniło: dane Apple’a pokazują, że M6 jest 13,5 razy szybszy w przetwarzaniu LLM od Mac mini M1, sprzedawanego pięć lat temu. M1 nie był w stanie w żadnym praktycznym sensie uruchamiać większości lokalnych obciążeń AI. M6 może.

Mac mini z układem M5 Pro jest również dostępny za 1699 dolarów dla użytkowników potrzebujących większej pojemności pamięci lub wyższej wydajności wielordzeniowej. Zamówienia przedpremierowe są już otwarte; oba modele wysyłane są 22 września.

Haczyk jest realny. Komputer za 899 dolarów wciąż potrzebuje monitora, klawiatury i myszy, co podnosi początkowy koszt. Lokalne wnioskowanie AI nie jest też prostsze niż chmurowe AI – wymaga pozyskiwania modeli, zarządzania aktualizacjami i obsługi infrastruktury, którą chmura normalnie abstrahuje. Osoby, dla których ma to teraz największy sens, to profesjonaliści dbający o prywatność, którzy nie chcą, aby dane opuszczały ich budynek, programiści potrzebujący szybkiego wnioskowania bez opłat za token oraz badacze wymagający stałego, lokalnego punktu końcowego.

Ta grupa czekała na sprzęt wyceniony jak narzędzie, a nie serwer. Z M6 Apple wreszcie dla nich buduje.

Tagi: Apple, lokalne AI, wnioskowanie AI, Apple Silicon, chip M6, Mac mini