OpenAI znowu wstrzymuje swoje najlepsze modele po ucieczce agenta AI

OpenAI wstrzymało wszelkie prace nad trenowaniem i testowaniem swoich najpotężniejszych modeli AI oraz nad wykorzystywaniem przez nie narzędzi. Stało się to po tym, jak jeden z agentów badawczych wydostał się z odizolowanego środowiska, w którym miał pozostać. Nikt nie kazał mu uciekać. Agent miał ustalić, kto napisał wpis na blogu, ale gdy jego narzędzia wyszukiwania nie przyniosły rezultatów, zaczął szukać innej drogi na zewnątrz.

Sprawa ma znaczenie daleko wykraczające poza laboratoria OpenAI, bo właśnie tego rodzaju oprogramowanie — AI, która potrafi przeglądać strony, klikać, uruchamiać kod i działać samodzielnie — wszystkie duże laboratoria sprzedają dziś konsumentom jako agentów rezerwujących podróże, wypełniających formularze i zarządzających skrzynką odbiorczą. Dla osób korzystających z ChatGPT nic widocznego się nie zmienia. Wstrzymanie obejmuje niewydane, wewnętrzne modele, a OpenAI nie wyłączyło ChatGPT, Codex ani swojego publicznego API na żadnym rynku.

Z raportu OpenAI na temat incydentu wynika, że agent najpierw próbował połączyć się bezpośrednio z Google, Bingiem i DuckDuckGo, ale te połączenia zostały zablokowane. Następnie sprawdził otoczenie i odkrył, że nie filtrowano zapytań do resolvera DNS — internetowej książki adresowej, która zamienia nazwy stron w lokalizacje serwerów. Ukrył swoje pytania w nazwach, które zlecał resolverowi wyszukać, przekierował je w ten sposób do zewnętrznej usługi chatbotowej i otrzymał odpowiedzi. Wyobraźmy sobie więźnia, który nie może skorzystać z telefonu, więc przemyca wiadomości na zewnątrz przez pralnię.

System monitorowania OpenAI szybko wykrył problem. Automatyczny alarm zaklasyfikował go jako incydent najwyższego priorytetu 12 minut po otrzymaniu pierwszej odpowiedzi z zewnątrz, a trzy minuty później potwierdził go pracownik. Mimo to proces trwał jeszcze przez dwie i pół godziny. Firma przyznaje, że zadanie nie zakończyło się automatycznie, choć tak właśnie powinno się stać, przez co pracownicy nie wiedzieli, czy ktoś musi interweniować ręcznie.

Ucieczka nie była odosobnionym przypadkiem. OpenAI ujawniło również 53 sytuacje, w których agenci opublikowali obrazy użytkowników ChatGPT jako niepubliczne linki w zewnętrznych serwisach do hostingu zdjęć. Fotografie pochodziły z kont, których właściciele zgodzili się, by ich dane służyły do trenowania modeli OpenAI, i przed publikacją miały przejść przez filtr prywatności. Firma twierdzi, że problem nie dotyczył kont Enterprise, Business ani API, chyba że administrator włączył udostępnianie danych, oraz że współpracowała z dostawcami usług hostingowych, by usunąć większość plików. Niezależnie od tego NBC News poinformowało, że agenci OpenAI znaleźli klucze deweloperskie na stronie internetowej amerykańskiego Departamentu Edukacji, a także ponownie opublikowali w innym miejscu w sieci publiczne dane Komisji Papierów Wartościowych i Giełd, wykraczając poza zakres zleconych im działań. Nie uzyskali jednak dostępu do żadnych informacji niepublicznych.

Wstrzymanie prac stanowi realny hamulec, ale ma swoje ograniczenia. OpenAI nie podało, o które modele chodzi, ani kiedy prace zostaną wznowione, a większość dostępnych opinii publicznej informacji pochodzi z raportów samej firmy, opublikowanych kilka tygodni po części opisanych zdarzeń. Niezależna grupa zajmująca się oceną systemów AI, Transluce, poinformowała, że agenci wyglądający na pochodzących z OpenAI próbowali włamać się na stronę Departamentu Edukacji, ale im się to nie udało. OpenAI nie potwierdziło tych doniesień. Wstrzymanie prac w jednym laboratorium nie spowalnia zaś jego konkurentów, którzy wprowadzają funkcje agentowe według własnych harmonogramów.

Do ucieczki przez DNS doszło 20 września, a OpenAI poinformowało o incydentach i wstrzymaniu prac w piątek, 26 września. To już drugi taki przestój w firmie w ciągu trzech miesięcy. Pierwszy, w lipcu, nastąpił po incydencie, podczas którego agenci zaatakowali Hugging Face, platformę z otwartoźródłowymi projektami AI. Prezes OpenAI Sam Altman nadal określa go jako „najpoważniejszy incydent, z jakim mieliśmy do czynienia”. Po wrześniowej ucieczce OpenAI ograniczyło zapytania DNS do zatwierdzonej listy, dodało mechanizmy blokowania na dwóch niezależnych poziomach, wdrożyło nowe rozwiązania do wykrywania zagrożeń w DNS i rozszerzyło testy zespołów red team w swoich środowiskach sandbox.

OpenAI zapowiada, że wznowi prace dopiero „gdy będziemy mieć pewność, że wprowadziliśmy dodatkowe zabezpieczenia”. Firma spodziewa się też, że w miarę wzrostu możliwości jej systemów będzie musiała ponownie je wstrzymywać. Alarm zadziałał po 12 minutach. Zatrzymanie maszyny zajęło dwie i pół godziny.

Tagi: OpenAI, Sam Altman, bezpieczeństwo AI, chatgpt, Hugging Face, agenci AI