Fei-Fei Li po sprzedaży World Labs firmie AMD: „Wszechświat nie składa się ze słów, tylko z prawdziwych rzeczy…”

Fei-Fei Li to naukowczyni, której prace nauczyły maszyny widzieć. Teraz sprzedała laboratorium, które stworzyła, by popchnąć rozwój AI poza granice języka. Ogłaszając, że World Labs stanie się częścią AMD — producenta chipów kierowanego przez Lisę Su, która wcześnie wsparła firmę — przypomniała o przekonaniu leżącym u podstaw jej powstania. Ujęła je w jednym zdaniu, które jest zarazem zakładem przeciwko erze AI stawiającej na pierwszym miejscu słowa.

„Wszechświat nie składa się ze słów, lecz z rzeczy. Wiele najważniejszych problemów, które AI ma rozwiązać — od nauki, przez rozrywkę, po robotykę — wymaga modeli zdolnych rozumować o strukturze i zachowaniu świata fizycznego”.

Li napisała te słowa w poście „World Labs to AMD” opublikowanym na swoim blogu w serwisie Substack; zacytował je też The Register w relacji o transakcji. Zdanie bezpośrednio je poprzedzające wyznacza kierunek: firmą „kierowało fundamentalne przekonanie, że sam język nie wystarcza do tworzenia modeli”.

AMD zgodziło się przejąć World Labs w transakcji opłacanej w całości akcjami, wyceniającej firmę na około 8,2 miliarda dolarów. Jej finalizacja spodziewana jest do końca 2026 roku, o ile zgodę wydadzą organy regulacyjne. Li obejmie stanowisko wiceprezeski wykonawczej i głównej naukowczyni AMD, podlegając bezpośrednio Su. Założone na początku 2024 roku przez Li, Bena Mildenhalla i Justina Johnsona laboratorium z San Francisco tworzy rozwiązania określane w branży mianem modeli świata: systemy generujące, odtwarzające i symulujące środowiska 3D na podstawie tekstu, obrazów i wideo. Duży model językowy przewiduje kolejne słowo, natomiast model świata — jak ujął to The Register — wyobraża sobie otoczenie i na tej podstawie rozwiązuje problem.

Najprostsza interpretacja stawia tę wypowiedź obok poglądów Yann LeCuna, byłego głównego naukowca ds. AI w Meta, który sugerował, że duże modele językowe mogą okazać się ślepą uliczką. Stanowisko Li jest bardziej precyzyjne; The Register zaznaczył, że nie jest ona przeciwniczką LLM-ów. Najnowszy model jej laboratorium korzysta ze schematu znanego z LLM-ów: jak pisze Li, Atlas przewiduje kolejny widok na podstawie zestawu obrazów 2D, podobnie jak model językowy przewiduje następny token. Nie kwestionuje metody, lecz materiał. Tekst to zapis świata sporządzony przez ludzi; zdaniem Li problemy warte rozwiązania — od nauki, przez rozrywkę, po robotykę — tkwią w tym, co tekst opisuje.

Znaczenie tych słów wynika także z tego, kto za nimi zapłacił. Producent chipów nie wydaje miliardów w akcjach na filozofię. W komunikacie AMD uzasadnia przejęcie potrzebami obliczeniowymi i zauważa, że w miarę jak AI wkracza do robotyki, symulacji i świata fizycznego, „wymagania wobec infrastruktury obliczeniowej stają się coraz bardziej zróżnicowane”. Własne słowa Su wiele mówią: „Budowa platform obliczeniowych dla kolejnej generacji AI wymaga dogłębnego zrozumienia, jak ewoluują modele”. Mówiąc wprost: AMD chce poznać kolejne obciążenia obliczeniowe, zanim zaprojektuje krzem, który będzie je obsługiwał. Jak zauważa The Register, na tle Nvidii zaplecze AMD w dziedzinie inżynierii oprogramowania jest niewielkie; World Labs daje firmie własny zespół badawczy zaledwie kilka tygodni po tym, jak zgodziła się kupić Taalas — startup, który zapisuje wagi modeli bezpośrednio w krzemie.

Li opisuje ten sam mechanizm z drugiej strony. „Bez ukierunkowanych prac nad sprzętem AI traci na wydajności. I na skali. A w naszym przypadku pozostaje uwięziona w świecie cyfrowym” — pisze. To właśnie praktyczny sens jej słów. Model rozumujący o przestrzeni fizycznej jest użyteczny tylko na tyle, na ile maszyna potrafi uruchomić go wystarczająco szybko, by sterował robotem. Li uznała, że najszybszą drogą do takiej maszyny jest przeniesienie się do firmy, która ją produkuje.

Te słowa nabierają wagi ze względu na stojącą za nimi karierę. Li rozpoczęła pracę w tej dziedzinie w 2000 roku, szukając sposobów na rozwijanie inteligencji wzrokowej — zarówno w maszynach, jak i w mózgu. Prace jej laboratorium nad ImageNet pomogły otworzyć współczesną erę AI; później założyła dział AI w Google Cloud, gdzie pełniła funkcję głównej naukowczyni, a następnie została dyrektorką-założycielką instytutu Human-Centered AI na Stanfordzie. Po ćwierćwieczu jej argument pozostaje ten sam. Zmieniła się stawka. Gdy transakcja zostanie sfinalizowana, profesorka, która przedstawiła tę tezę, będzie podlegać Su.

Jeśli Li ma rację, AMD zyskało wczesny wgląd w obciążenia obliczeniowe, które zdefiniują kolejną generację sprzętu do AI. Jeśli się myli, a język nadal będzie wchłaniał wszystko, firma kupiła kosztowne zabezpieczenie — dokładnie tak The Register odczytał tę transakcję: jako polisę na wypadek, gdyby LLM-y okazały się ślepą uliczką.

Zdanie Li zaczyna się od stwierdzenia o wszechświecie. Gdy transakcja dojdzie do skutku, stanie się specyfikacją techniczną.

Tagi: AMD, Fei-Fei Li, World Labs, World models