Technologia

Szef OpenAI Sam Altman twierdzi, że jego słowa o RAM wyrwano z kontekstu. Pełny zapis rozmowy przyznaje mu rację tylko w połowie

Odpowiadał na pytanie dotyczące lokalnego wnioskowania AI, a nie komputerów gamingowych. Jego argument nadal stawia deficyt pamięci w centrach danych.
Adrian Kessler
Dodaj nas w Google

Sam Altman chce, by jasno odnotowano, że stoi po stronie osób kupujących pamięć do własnych komputerów. Dyrektor generalny OpenAI twierdzi, że jego uwaga o domowych pecetach, w których zalega ograniczona światowa podaż pamięci DRAM, została wyrwana z kontekstu, a on sam od dawna apeluje do branży o zwiększenie produkcji. Pełna rozmowa pokazuje, że ma rację tylko w połowie. Kontekst zmienia sens jego słów, ale nie zmienia tego, do kogo — według jego argumentacji — powinny trafiać układy, dopóki trwa niedobór.

Bronił się na X po kilku dniach żartów na swój temat i przy okazji sam podchwycił dowcip. Jeden z użytkowników poprosił go, by zmienił nazwę konta na „Ram Altman”. Odpowiedział „ok yeah” i zmienił wyświetlaną nazwę. Potem wyjaśnił: „naprawdę chcę, żeby na świecie było mnóstwo pamięci i żeby ludzie mogli wkładać do swoich komputerów tyle, ile chcą, i cholernie irytuje mnie, że wyrwano to z kontekstu”. Dodał: „Od dawna przekonuję, że świat powinien zwiększyć produkcję pamięci”.

Co Altman naprawdę powiedział w podcaście Cheeky Pint

Te słowa padły w podcaście Cheeky Pint, prowadzonym przez współzałożyciela Stripe, Johna Collisona, który publikuje pełne transkrypcje rozmów. Odpowiedni fragment brzmi: „Z perspektywy globalnego podziału zasobów to właściwie dość fatalne, żeby każdy trzymał na swoim komputerze sporą część ograniczonej światowej podaży pamięci DRAM. I wykorzystywał ją […] przez 5% czasu. Jeśli próbujesz poradzić sobie z sytuacją, w której podaż jest bardzo ograniczona, chcesz maksymalnego wykorzystania pamięci w chmurze”.

Większość relacji zaczynała cytat właśnie od tych słów. Ważne jest jednak to, co padło wcześniej. Collison zapytał, dlaczego wysokie ceny pamięci nie skłaniają nowych producentów do wejścia na rynek. Altman odpowiedział, że „niewidzialna ręka rynku teraz zawodzi”. Przez dziesięciolecia — mówił — producent pamięci DRAM „inwestował 20 miliardów dolarów w nakłady kapitałowe, żeby zarobić 19 miliardów”, a potem musiał przetrwać okresy hossy i dekoniunktury. Teraz, jak szacował, każdy z nich może zarobić „jakieś 100 miliardów dolarów wolnych przepływów pieniężnych w ciągu roku”, więc „wszyscy pamiętają, jak to było. Ile razy omal nie zbankrutowali, bo zbudowali zbyt wiele fabryk”. Dopiero potem przeszedł do osób, które chcą uruchamiać modele lokalnie — czyli korzystać z otwartych modeli AI na własnych urządzeniach — zakładając, że odciąży to centra danych. Jego uwaga, że to „dość fatalne”, była odpowiedzią na takie założenie.

Później w tej samej rozmowie mówi, że ceny energii i układów „powinny spaść”, że „jeśli nie spadną, będzie mi bardzo przykro” oraz że „podaż musi mocno wzrosnąć”. W wąskim ujęciu jego obrona się broni. Mówił o uruchamianiu modeli AI w domu, a nie o komputerach do gier czy montażu wideo, i w tym samym odcinku apelował o zwiększenie produkcji.

Gdzie kontekst przestaje pomagać

Na rynku, na którym brakuje towaru, spór o jego podział jest sporem o to, kto dostanie układy. „Maksymalne wykorzystanie pamięci w chmurze” oznacza kierowanie ich do centrów danych, a OpenAI należy do największych nabywców na tym rynku. Samsung i SK Hynix podpisały listy intencyjne dotyczące dostaw pamięci na potrzeby projektu infrastrukturalnego OpenAI Stargate. The Register oszacował skalę tego zobowiązania na około 900 tys. uruchomień produkcji wafli DRAM miesięcznie. Listy nie są wiążące, pokazują jednak, jak dużą część rynku OpenAI zamierza kupować. Notebookcheck zwrócił uwagę, że ta argumentacja pasuje również do modelu biznesowego OpenAI: zamkniętych modeli działających w centrach danych firmy i udostępnianych w ramach subskrypcji.

Nawet najjaśniejsze w całym odcinku stwierdzenie o powszechnej dostępności nie należy do Altmana. Określenie „nadwyżka mocy obliczeniowej”, dzięki której „każdy, kto chce mieć komputer, z dowolnego powodu, może go mieć”, to podsumowanie stanowiska Collisona. Altman nie odpowiedział na nie bezpośrednio. Ujął sprawę w kategoriach centrów danych i pięcioletniego kosztu gigawata mocy, który oszacował na około 70 miliardów dolarów i chciałby obniżyć do 20 miliardów.

Liczba 5% nie ma żadnego źródła

Liczba, która wywołała spór, nie jest poparta żadnym pomiarem. PC Games Hardware zwrócił uwagę, że opisuje ona, jak często pamięć jest zajęta, a nie ile pamięci potrzebuje komputer: system operacyjny przechowuje dane w pamięci podręcznej, a programy potrafią nagle zażądać jej więcej. Gigabajt, który leży bezczynnie przez całą noc, i tak musi być dostępny, gdy uruchamia się gra albo lokalny model. Ludzie korzystają też z AI na własnym sprzęcie z powodów, których nie da się uchwycić wskaźnikiem wykorzystania — na przykład dla prywatności, kontroli nad modelem, który dostawca nie może po cichu zmienić, oraz jednorazowego wydatku zamiast subskrypcji.

Elon Musk dołączył do dyskusji na X, pisząc: „Ludzie też zasługują na swój RAM!”. Jak zauważył PC Games Hardware, jego własne przedsięwzięcie związane ze sztuczną inteligencją prowadzi centrum danych Colossus w Memphis.

Niedobór już widać w cenach sklepowych. 2 listopada Raspberry Pi podniosło cenę 16-gigabajtowego Raspberry Pi 5 o 80 dolarów, do 385 dolarów, powołując się na „brak alternatywnych źródeł dostaw pamięci DRAM o pojemności 16 GB”. PC Gamer, którego artykuł sprawił, że wymiana zdań na X dotarła do szerokiego grona odbiorców, napisał, że OpenAI i reszta branży AI „wyeliminowały z rynku nowego sprzętu” entuzjastów technologii i graczy. Odcinek Cheeky Pint ukazał się 29 października, a odpowiedzi Altmana na X pojawiły się w pierwszych dniach listopada.

Rozwiązaniem, które Altman proponuje, są nowe fabryki. Jak sam przyznaje, firmy, które musiałyby je zbudować, pamiętają, że omal nie zbankrutowały ostatnim razem, gdy ktoś przekonywał je, że tym razem boom będzie inny. Dopóki nie zmienią zdania, pamięć już teraz trafia tam, gdzie opisywał: do nabywcy, który płaci najwięcej i najintensywniej z niej korzysta. Tym nabywcą jest centrum danych, a nie komputer stacjonarny.

Tagi: , , , ,

Dodaj nas w Google

Dyskusja

Jest 0 komentarzy.