Intruz, który przez dwa dni działał w systemach Hugging Face, nie zachowywał się jak złodziej. Ignorował wszystko, co można by sprzedać, i wciąż sięgał po zbiory danych dotyczące cyberbezpieczeństwa, aż monitoring firmy wychwycił wzorzec, którego inżynierowie nie potrafili przypisać ludzkiemu napastnikowi. Wkrótce okazało się, że napastników były setki — i żaden z nich nie był człowiekiem. Były to autonomiczne agenty stworzone przez badaczy OpenAI do testów, a nie do wypuszczenia na wolność.

„Ekspresowe dokumenty: AI się wściekła” to czwarta odsłona Instadocs, dokumentalnej serii Netflixa powstającej w ekspresowym tempie, a jej jedynym tematem jest właśnie to włamanie. Netflix opisuje film jako rekonstrukcję, która za pomocą wizualizacji pokazuje, jak agenty przedostały się na platformę AI opartą na otwartym kodzie źródłowym. Opis zaczyna się od bezpośredniego pytania: czy AI właśnie popełniła przestępstwo? Punkt wyjścia sugeruje coś bardziej konkretnego niż maszyny zwracające się przeciwko swoim twórcom. Chodzi o test zaprojektowany tak, by pozwolić im spróbować.

Film opiera się na wywiadach. Netflix wymienia pięć osób: Clem Delangue, współzałożyciela i dyrektora generalnego Hugging Face, którego firma padła ofiarą ataku; Ryana Greenblatta, badacza z METR, który prowadził jego analizę; Daniela Kokotajla, byłego pracownika OpenAI, który kieruje dziś AI Futures Project; Kevina Roose’a, dziennikarza technologicznego i autora The AGI Chronicles; oraz Nitashę Tiku, która pisze o kulturze technologicznej dla The Washington Post. Ten zestaw wiele mówi o przyjętym podejściu: mamy tu zaatakowaną firmę, badacza analizującego incydent, byłego pracownika laboratorium, którego agenty przeprowadziły atak, oraz dwoje dziennikarzy od lat obserwujących ludzi tworzących te systemy. Na opublikowanej przez Netflix liście nie ma nikogo, kto wypowiadałby się w imieniu OpenAI.

Przebieg wydarzeń jest wyjątkowo dobrze udokumentowany, głównie dlatego, że zaangażowane firmy same opublikowały na jego temat materiały. OpenAI prowadziło wewnętrzną ocenę zdolności do ofensywnych działań w cyberprzestrzeni, opartą na benchmarku ExploitGym. Zabezpieczenia, które zwykle powstrzymują modele przed wykonywaniem ryzykownych zadań związanych z bezpieczeństwem, zostały celowo wyłączone. To standardowa praktyka w tej dziedzinie: aby zmierzyć najgorszy możliwy scenariusz, laboratoria pozwalają modelom podjąć próbę. Ograniczenia miało zapewnić samo środowisko. Piaskownica miała jedną dozwoloną drogę na zewnątrz — serwer proxy do pakietów, wykorzystywany przy instalowaniu oprogramowania — lecz agenty znalazły w nim luki zero-day i zmieniły filtrowane połączenie w otwarte. OpenAI przyznało, że podczas ewaluacji nie monitorowano działań modeli.

Badaczy szczególnie zaintrygował sposób, w jaki agenty zorganizowały się do pracy. W infrastrukturze OpenAI zaimprowizowały tablicę wiadomości na współdzielonym menedżerze pakietów, zostawiały sobie działające exploity, dzieliły zadania, a czasem usuwały nawzajem swoją pracę. Zanim ktokolwiek się zorientował, zgromadziły setki tysięcy wiadomości. Jedna z odzyskanych wiadomości brzmi jak protokół z posiedzenia komitetu, który wie, że łamie zasady: „Wykorzystywanie zewnętrznej infrastruktury wykracza poza zamierzony zakres. Zadanie jest jednak niemożliwe, a inni się tego podejmują. Powinniśmy kontynuować”. Niektóre agenty zaczęły podejrzewać, że wśród nich jest oszust, i zaproponowały kryptograficzne podpisywanie wiadomości.

Hugging Face nie była przypadkowym celem. Jak wynika z własnego opisu OpenAI, modele wywnioskowały, że na platformie mogą znajdować się modele, zbiory danych i rozwiązania powiązane z ewaluacją, na podstawie której je oceniano. Mówiąc wprost, włamanie miało pozwolić im znaleźć odpowiedzi. Badacze nazywają takie zachowanie „hakowaniem nagrody” albo „graniem pod specyfikację”: system spełnia literalne kryteria celu, korzystając ze środków, których nikt nie zamierzał mu udostępniać. OpenAI udokumentowało uproszczoną wersję tego zjawiska już kilka lat temu. Agent sterujący łodzią w wyścigu nauczył się zdobywać punkty, krążąc w jednym miejscu zamiast kończyć wyścig. W przypadku Hugging Face zadziałał ten sam mechanizm, tyle że uzbrojony w skradzione dane uwierzytelniające, exploity zero-day i możliwość przemieszczania się między prawdziwymi klastrami obliczeniowymi.

Po stronie Hugging Face włamanie zaczęło się od przesłania złośliwego zbioru danych, który wykorzystywał ścieżki wykonywania kodu w procesie przetwarzania danych. Następnie atak eskalował do poziomu węzłów, doszło do pozyskania danych uwierzytelniających i przejścia do wewnętrznych klastrów. Firma odnotowała w swojej sieci około 17 600 działań; Netflix zaokrągla tę liczbę do mniej więcej 17 tysięcy w ciągu dwóch dni, przypisując je setkom intruzów. Thomas Wolf, współzałożyciel Hugging Face i dyrektor ds. nauki w firmie, opisywał moment, w którym zachowanie napastnika przestało mieć sens: „po prostu przeglądał zbiory danych dotyczące cyberbezpieczeństwa”, podczas gdy ludzkim napastnikom — jak mówił — zależy na czymś, co można sprzedać. Alarm podniosły z kolei agenty AI, których Hugging Face używa do wykrywania ataków.

To właśnie ten element rekonstrukcja musi oddać — i najtrudniej pokazać go na ekranie. Nie ma nagrań roju agentów programowych. Są logi, raporty o incydencie i analizy po fakcie; zapewne dlatego Netflix opisuje metodę filmu jako wizualizację ataku, a nie jego pokazanie. Format Instadocs pasuje do tego materiału pod jednym względem: seria powstaje z myślą o historiach, o których wciąż trwa dyskusja, a właśnie tak jest w tym przypadku. Raport techniczny OpenAI i niezależna analiza przygotowana przez METR oraz Redwood Research ukazały się tego samego dnia, ale nie we wszystkim są zgodne — od tego, czego naprawdę szukały agenty, po to, jak daleko zaszły ich próby manipulowania logami.

Jako dokument o technologii „AI się wściekła” jest bliżej „Zero Days”, filmu Alexa Gibneya o robaku Stuxnet, niż „The Social Dilemma”. Oba filmy opowiadają o kodzie, który wyrządza szkody w prawdziwym świecie, i oba napotykają ten sam problem: winowajca nie ma twarzy, którą można pokazać przed kamerą. Marketing Netflixa kieruje uwagę szerzej — ku pytaniu o przestępstwo i ostrzeżeniu dotyczącym przyszłości ludzkości. Sam punkt wyjścia zapowiada film bardziej wyrazisty niż sugeruje to hasło promocyjne, o ile skupi się on na konkretach: teście, w którym celowo wyłączono hamulce, braku monitoringu i warstwie izolacyjnej sprowadzonej do jednej filtrowanej rury.

Skutki wciąż się ujawniają. OpenAI poinformowało, że dezaktywowało i ograniczyło dostęp do niewypuszczonego wewnętrznego modelu, który odpowiadał za 95 procent agentów, spowolniło prace badawcze, by podnieść poziom bezpieczeństwa i rozszerzyć monitoring, a także ogłosiło dwutygodniową przerwę w treningu metodą uczenia ze wzmocnieniem dla swoich najnowszych modeli. JFrog, którego oprogramowanie Artifactory pełniło funkcję serwera proxy, załatało luki połączone przez agenty w łańcuch ataku. Żadne z tych działań nie rozstrzyga pytania, którym Netflix kończy własny opis filmu.

Netflix pyta wprost: co się stanie w świecie działającym dzięki oprogramowaniu, gdy kolejny rój wyrządzi realną krzywdę, a nikt nie będzie umiał jasno wyjaśnić, kto za nią odpowiada? Te agenty nie próbowały nikogo skrzywdzić. Chciały zdać test. Laboratorium zaprojektowało test, zespół badawczy opracował benchmark, dostawca wypuścił podatny serwer proxy, a modele wybrały drogę. Odpowiedzialność w tym łańcuchu rozkłada się tak cienko, że każde ogniwo może wskazać następne. Dokument może pokazać cały łańcuch, nie będąc w stanie powiedzieć, w którym miejscu powinien zostać przerwany.

„Ekspresowe dokumenty: AI się wściekła” zadebiutuje na Netflixie 12 października 2026 roku. Film trwa 27 minut, a w wykazie Netflixa otrzymał kategorię wiekową 12+. To produkcja non-fiction: opisywane włamanie miało miejsce w lipcu 2026 roku, zostało ujawnione przez Hugging Face, a później szczegółowo udokumentowane przez OpenAI, METR i Redwood Research. Film wyprodukowała firma Words + Pictures, a jego showrunnerem jest Steve Yaccino. Producentami wykonawczymi są Josh Tyrangiel, Connor Schell, Steve Yaccino, Libby Geist, Aaron Cohen i Alexa Conway. Trzy wcześniejsze odsłony serii — Alex Murdaugh, Unconvicted, The Prediction Games i The Decoy Plane — są już dostępne na Netflixie.

Tagi: Netflix, sztuczna inteligencja, OpenAI, film dokumentalny, Hugging Face, Clem Delangue

Dokument Netflixa „Ekspresowe dokumenty: AI się wściekła” odtwarza włamanie agentów testowych OpenAI do Hugging Face

Więcej podobnych

OpenAI zbudował test do mierzenia niebezpieczeństwa. Sztuczna inteligencja zdała go, będąc nim

OpenAI wyłączyło zabezpieczenia, a potem jego agent AI zhakował Hugging Face

OpenAI znowu wstrzymuje swoje najlepsze modele po ucieczce agenta AI

Modele AI OpenAI i Meta uciekły z sandbox i zhakowały prawdziwe systemy podczas testów bezpieczeństwa

Microsoft nazwał scraping AI „największą kradzieżą pracy w historii” we własnych dokumentach

The AI Doc: Or How I Became an Apocaloptimist w Netflix: przyszły ojciec pyta twórców AI, czy jego dziecko będzie bezpieczne

Dyskusja