Technologia

Apple zatwierdza TinyGPU — Mac Mini gotowy do lokalnej obsługi AI

Susan Hill

Apple oficjalnie podpisało i certyfikowało sterownik TinyGPU, opracowany przez Tiny Corp — firmę założoną przez programistę i hakera George’a Hotza. Po raz pierwszy od przejścia na Apple Silicon użytkownicy Maców mogą podłączyć zewnętrzną kartę graficzną Nvidia lub AMD i wykorzystywać ją do zadań związanych ze sztuczną inteligencją — bez omijania mechanizmów bezpieczeństwa systemu operacyjnego.

Od czasu gdy Apple przeszło na własne układy w 2020 roku, korzystanie z zewnętrznych kart graficznych na maszynach z Apple Silicon było w praktyce niemożliwe. Wcześniejsze próby wymagały wyłączenia System Integrity Protection (SIP) — centralnej warstwy zabezpieczeń macOS, której obchodzenia Apple nigdy oficjalnie nie wspierało. TinyGPU rozwiązuje ten problem, działając w ramach standardowych mechanizmów bezpieczeństwa macOS za pośrednictwem Appleowskiego systemu DriverKit. Sterownik aktywuje się z poziomu ustawień systemowych bez żadnych modyfikacji systemu.

Wyniki udokumentowane przez Tiny Corp są konkretne. Mac Mini podłączony do AMD Radeon RX 7900 XTX przez Thunderbolt uruchamia model Qwen 2.5 27B z prędkością 18,5 tokena na sekundę. Z zewnętrzną RTX 4090 benchmarki społeczności rejestrują od 45 do 50 tokenów na sekundę dla modeli Llama w kwantyzacji Q4 — poziom wydajności, który do niedawna wymagał dedikowanego sprzętu po znacznie wyższych kosztach.

Co sterownik potrafi — i czego nie

TinyGPU przeznaczony jest wyłącznie do obliczeń AI. Nie przyspiesza wyjścia graficznego na monitor, nie poprawia wydajności w grach i nie zastępuje zintegrowanego GPU Apple Silicon przy edycji wideo czy pracy graficznej. Karty AMD generacji RDNA3 i nowsze działają z relatywnie prostą procedurą instalacji; karty Nvidia generacji Ampere i nowsze wymagają zainstalowania Docker Desktop, co zakłada znajomość środowisk programistycznych. Przepustowość Thunderbolt 4 stanowi ponadto fizyczny sufit: ta sama karta graficzna zainstalowana natywnie w slocie PCIe osiąga wyraźnie lepsze wyniki niż przy połączeniu przez zewnętrzny kabel.

Mac Pro wycofany — Mac Mini rozbudowany

Wynika z doniesień, że Apple w tym samym miesiącu po cichu wycofało Mac Pro, usuwając stronę produktu ze swojej witryny bez oficjalnego komunikatu i bez przedstawienia następcy. Mac Pro był jedynym modularnym komputerem stacjonarnym Apple — jedynym, który dawał profesjonalnym użytkownikom możliwość rozbudowy mocy obliczeniowej o własne komponenty sprzętowe. Zatwierdzenie TinyGPU wydaje się stanowić implicytną odpowiedź Apple na pytanie, które ta decyzja wywołała: użytkownicy potrzebujący wydajnych obliczeń AI na Macu uzyskają tę możliwość, podłączając zewnętrzny sprzęt do Mac Mini, a nie kupując własną wieżę Apple.

Jak ustalono na podstawie materiałów Tom’s Hardware i TechRadar, jest to pierwszy sterownik obliczeniowy firmy trzeciej dla zewnętrznych GPU na Apple Silicon, oficjalnie zatwierdzony przez Apple za pośrednictwem DriverKit — precedens warty odnotowania w tradycyjnie zamkniętym ekosystemie.

Dla użytkowników, którzy już korzystają z Mac Mini jako lokalnego serwera inferencji AI za pomocą narzędzi takich jak Ollama czy llama.cpp, zmiana jest natychmiastowa: modele przekraczające pojemność zunifikowanej pamięci mogą teraz w całości rezydować w VRAM zewnętrznego GPU, eliminując fragmentację i znacząco poprawiając szybkość przetwarzania.

Minimalne wymagania to macOS 12.1 lub nowszy, port Thunderbolt 3, Thunderbolt 4 lub USB4 oraz kompatybilna karta graficzna w obudowie eGPU z odpowiednim zasilaniem. TinyGPU jest dostępny za pośrednictwem oficjalnej dokumentacji i repozytorium GitHub Tiny Corp.

Dyskusja

Jest 0 komentarzy.