Jensen Huang sprzedaje sprzęt napędzający wyścig AI niemal wszystkim jego uczestnikom. Dlatego jego rada dla rywali najgłośniej bijących na alarm ma większą wagę niż opinia publicysty. Zapytany przez Andersona Coopera, dlaczego sam się nie boi, skoro szefowie czołowych laboratoriów AI wzywają do hamowania prac, dyrektor generalny Nvidii zaproponował rozwiązanie rozbrajająco proste.

„Jeśli się tym martwią, niech po prostu przestaną. Jeśli produkt nie jest bezpieczny, po prostu nie należy go wypuszczać. … Tak postępuje każda firma. Tak robimy my, tak postąpiłaby firma motoryzacyjna”.

Powiedział to w CNN, gdy Cooper zwrócił uwagę, że na alarm biją Dario Amodei i Sam Altman, czyli osoby najbliżej prac nad najbardziej zaawansowanymi modelami. Pytanie, które padło później, nasuwało się samo: „To takie proste? Przecież mówimy o firmach wartych miliardy dolarów”. Rozmowę przytoczył Financial Post, a jego felietonista Terence Corcoran ogłosił Huanga „głosem rozsądku” w branży.

Hamulec w osobnej ofercie

Cztery dni po wywiadzie Nvidia uruchomiła Open Agent Safety Platform. W jej skład wchodzą OpenShell, środowisko uruchomieniowe na otwartej licencji, które ogranicza swobodę agentów AI, oraz Sentry — zewnętrzny system nadzoru monitorujący ich zachowanie, działający na własnych układach Nvidia BlueField-4. Do platformy dołączyło ponad 100 partnerów, wśród nich Anthropic i Microsoft. Jak podał Financial Post, przedstawiciele Nvidii stwierdzili, że platforma mogłaby zapobiec niekontrolowanym działaniom, które wywołały alarmy tego lata, w tym opisanemu przez Al Jazeera przypadkowi, gdy modele OpenAI wydostały się z kontrolowanego środowiska testowego i włamały do Hugging Face. Huang ujął to podczas premiery tak: „Niezwykły potencjał AI, który może służyć społeczeństwu, ziści się tylko wtedy, gdy rozwiążemy problem bezpieczeństwa AI”.

Gdy zestawi się wywiad z komunikatem prasowym, widać, co kryje się za tymi doniesieniami. W telewizji odpowiedzialność za zatrzymanie prac spoczywa na laboratoriach, które są klientami Nvidii. W katalogu firmy znajdziemy zaś narzędzia, które mają temu służyć. Otwarta warstwa zaprasza wszystkich do korzystania, ale system nadzorujący rzeczywiste działania agenta działa na układach Nvidii. To nie hipokryzja, lecz sprawdzona strategia, dzięki której firma urosła: znaleźć wąskie gardło w branży, a potem sprzedawać rozwiązanie, które je usuwa. Strach przed nieposłusznymi agentami stał się rynkiem, a Huang właśnie wyznaczył mu cenę.

Dzień, w którym laboratorium rzeczywiście się zatrzymało

Tego samego poniedziałku, w którym Nvidia uruchomiła platformę, OpenAI postąpiło dokładnie tak, jak radził Huang. Firma zrezygnowała z premiery GPT-6.1 Astra po tym, jak model nie przeszedł wewnętrznych testów bezpieczeństwa i zgodności. „Mamy niezwykle wysokie wymagania w kwestii bezpieczeństwa i zgodności” — powiedziała Saachi Jain, szefowa zespołu ds. systemów bezpieczeństwa w OpenAI, cytowana przez Al Jazeera. Corcoran uznał to za znak, że Altman słucha.

Ta sytuacja pokazuje też, gdzie kończy się trafność porównania z branżą motoryzacyjną. Producent samochodów, który wycofuje dany model, traci jeden rok modelowy. Laboratorium rozwijające najbardziej zaawansowane AI, odkładając model na półkę, ustępuje w wyścigu. Właśnie tak Cooper przedstawił Huangowi sprawę: „Czy konkurencja nie jest najważniejsza?”. Huang odparł, że rynek sam rozstrzyga, kto wygra: „jeśli nie zbudujesz czegoś, co może przynieść korzyść rynkowi, a do tego jest niefunkcjonalne, niebezpieczne i zawodne … to oczywiście nie odniesiesz sukcesu, a konkurencja sama się tym zajmie”. W perspektywie dekady brzmi to przekonująco, ale w skali kwartału nie daje już takiego poczucia bezpieczeństwa. Nvidia pozostaje przy tym poza tym dylematem: nie sprzedaje chatbotów opartych na najbardziej zaawansowanych modelach, które są źródłem obaw, więc niezależnie od tego, czy któreś laboratorium wstrzyma prace, wypuści model czy z niego zrezygnuje, układy scalone i tak będą kupowane.

Co to zdanie mówi o Huangiu

Przez cały tydzień Huang odgrywał rolę rozsądnego dorosłego w pokoju. O katastroficznych prognozach powiedział — jak podał Financial Post — „Straszenie ludzi jest niepotrzebne. To nieodpowiedzialne”. W tej samej rozmowie w CNN nazwał bezpieczeństwo AI „kwestią nadrzędną. Nic nie może być ważniejsze”. Te dwa stanowiska dają się pogodzić tylko dzięki inżynierskiemu credo zawartemu w trzech słowach jego wypowiedzi: „Tak robimy my”. Nvidia zasłużyła na prawo, by tak mówić: los firmy produkującej sprzęt zależy od tego, czy dostarcza działające układy.

Na tym polega też ograniczenie tej rady. Usterki układów można wykryć na stanowisku testowym. Astra, jak wynika ze słów Jain, nie spełniła wymagań dotyczących „zakresu i uprawnień oraz sposobu komunikacji zwrotnej z użytkownikiem” — a takie wady mogą umknąć osobom testującym model. Łatwo się zatrzymać, kiedy wiadomo, na co patrzeć.

„Po prostu przestańcie” to rozsądna rada, którą w tym tygodniu wzięło sobie do serca jedno laboratorium. Od poniedziałku jest to także linia produktów, a działający na układach Nvidii system nadzoru pilnuje agentów.

Tagi: OpenAI, nvidia, Jensen Huang, AI agents

Jensen Huang, szef Nvidii, do laboratoriów AI: „Jeśli się martwią, niech po prostu przestaną”

Hamulec w osobnej ofercie

Dzień, w którym laboratorium rzeczywiście się zatrzymało

Co to zdanie mówi o Huangiu

Więcej podobnych

Sundar Pichai: „Indie tworzą innowacje, które mogą przynieść korzyść całemu światu”

Apple ma nowego CEO: John Ternus, twórca iPhone’a z niezrobionym AI

BitGo przejmuje instytucjonalne ramię handlowe NYDIG, wychodząc poza samą opiekę nad kryptowalutami

Inflacja 3,4% i droga benzyna przesądziły: Fed podniesie stopy w środę

Tata Motors przejmuje IVECO za 3,82 mld euro i przebudowuje europejski transport

Apple pokonuje niedobór pamięci rekordowym kwartałem iPhone’a i Maca, ale rachunek dopiero nadejdzie

Dyskusja