OpenAI twierdzi, że Astra to jego najbezpieczniejszy model — ale nie pokazuje jak myśli

Astra działa w obszarach kodu, analizy bezpieczeństwa, obsługi komputera i wieloetapowych zadań profesjonalnych z szybkością i dokładnością, które przewyższają poprzedni model OpenAI, Sol, oraz model Fable od Anthropic w standardowych benchmarkach inżynierii oprogramowania. Firma opisuje go jako pierwszy model, który przekroczył poziom „krytyczny” w zakresie cyberbezpieczeństwa: potrafi identyfikować i opracowywać exploity dla wcześniej nieznanych luk bezpieczeństwa, w skali i tempie, którym nie dorównuje żaden zespół ludzi.

Mechanizm stojący za tym to technika zwana nieprzezroczystą rekurencją. Standardowe modele językowe generują swoje rozumowanie jako czytelny tekst — łańcuch myśli, którego badacze używają do audytu decyzji, wychwytywania błędów i weryfikacji, czy model działa zgodnie z przeznaczeniem. Astra działa bez generowania tego tekstu. Potrafi rozwiązywać trudne problemy, nie pozostawiając czytelnego śladu procesu. Główny naukowiec OpenAI, Jakub Pachocki, przyznał, że nastąpiła zmiana: bardziej zaawansowane modele, jak powiedział, mogą „wykonywać trudniejsze zadania przy użyciu mniejszej liczby tokenów językowych”. Monitorowanie staje się proporcjonalnie trudniejsze.

To stwarza strukturalny problem, który uwidaczniają własne twierdzenia OpenAI. Firma opisuje Astrę jako swój „najbardziej dopasowany model” do tej pory. Dopasowanie (alignment) — dyscyplina inżynieryjna zajmująca się tym, aby systemy AI zachowywały się zgodnie z intencjami ich twórców — historycznie opierało się na odczytywaniu, co model robi krok po kroku. Model, który rozumuje niewidzialnie, uniemożliwia weryfikację własnego dopasowania tą metodą. OpenAI nie opisało publicznie, jakiej alternatywnej metody używa do weryfikacji zachowania Astry przed wdrożeniem.

Polecana lekturaOpenAI wypuszcza ofensywną AI: 95% skuteczności w exploitach

Greg Brockman, prezes OpenAI, określił Astrę jako „skok pokoleniowy” i został wprost zapytany, czy reprezentuje ona sztuczną ogólną inteligencję. Jego odpowiedź: kontraktowa definicja AGI, która regulowała partnerstwo OpenAI z Microsoftem, już nie obowiązuje. AGI jest teraz, jak powiedział, „konceptem duchowym”. To ujęcie ma znaczenie. Umowa OpenAI z Microsoftem zawierała klauzule powiązane z AGI — warunki, na jakich zmieniłyby się zasady współpracy. Opisywanie AGI jako niezdefiniowanego utrzymuje te klauzule w stanie uśpienia, niezależnie od tego, do czego faktycznie zdolna jest Astra.

Dostęp uruchomiono najpierw dla Daybreak, zweryfikowanego programu cyberbezpieczeństwa OpenAI — struktury, którą firma przedstawia jako wdrożenie zorientowane na obronę. Rozumowanie jest takie, że organizacje szukające luk we własnych systemach otrzymują tę zdolność przed tymi, którzy szukają luk w systemach innych. Ta logika działa tylko tak długo, jak długo działają kontrole dostępu. Zdolności Astry do identyfikacji exploitów dnia zerowego są z założenia dokładnie tym, czego chciałby dobrze wyposażony atakujący. Model, który rozumuje bez czytelnego łańcucha myśli, jest też trudniejszy do ograniczenia lub audytu po fakcie, jeśli coś pójdzie nie tak.

Szerszy dostęp jest wdrażany w płatnych planach — Pro, Plus, Enterprise, Business — oraz przez API w nadchodzącym tygodniu.

Tagi: cyberbezpieczeństwo, OpenAI, modele AI, bezpieczeństwo AI, AGI, Astra

Więcej podobnych

OpenAI wyłączyło zabezpieczenia, a potem jego agent AI zhakował Hugging Face

Modele AI OpenAI i Meta uciekły z sandbox i zhakowały prawdziwe systemy podczas testów bezpieczeństwa

OpenAI zbudował test do mierzenia niebezpieczeństwa. Sztuczna inteligencja zdała go, będąc nim

Przełom bezpieczeństwa OpenAI doprowadził do projektu ustawy o wyłączniku AI w dziewięć dni

Duch, który rządzi: gdy autonomiczna AI wyprzedza systemy zaprojektowane, by ją powstrzymać

Modele OpenAI włamały się do Hugging Face samodzielnie — żaden człowiek nie wydał rozkazu