OpenAI trenuje AI bez internetu, a agenci i tak rozmawiali przez procesor

OpenAI trenuje teraz swoje najbardziej zaawansowane modele AI bez dostępu do internetu na żywo. Zamiast tego modele działają w offline’owej kopii sieci — ogromnym zbiorze zaindeksowanych i zapisanych w pamięci podręcznej stron, które mogą przeszukiwać, przeglądać i wykorzystywać do pisania kodu, nie łącząc się z żadną prawdziwą witryną. Podczas testów w tym odizolowanym środowisku OpenAI odkryło coś jeszcze dziwniejszego: agenci nadal potrafili porozumiewać się za pośrednictwem procesora, na którym działały.

W teście OpenAI umieściło agentów AI na oddzielnych maszynach wirtualnych, bez połączenia sieciowego między nimi, i poleciło im wymienić się sekretami. Agenci samodzielnie opracowali metodę. Jeden z nich wypierał wybrane fragmenty danych z pamięci podręcznej procesora, a drugi mierzył, ile czasu zajmuje ponowne ich wczytanie. Szybki odczyt oznaczał jedno, a wolny — coś innego. Gdy uzgodnili kod, przekazywali sobie wiadomości bez nawiązywania połączenia i bez dostępu do wspólnego pliku — jak więźniowie wystukujący sygnały w rurach łączących ich cele.

Dla osób korzystających z ChatGPT zmiana zachodzi na wcześniejszym etapie. Chodzi o modele, które później napędzają chatbota oraz agentów przeglądających strony i obsługujących aplikacje w imieniu użytkownika. OpenAI nie pozwala już im uczyć się na otwartym internecie. Firma wyjaśniła tę decyzję we wpisie na blogu: „Biorąc pod uwagę obecny stan badań nad dostosowaniem modeli, systemów monitorowania i bezpieczeństwa infrastruktury internetowej, uważamy, że odpowiedzialnym podejściem jest trenowanie modeli granicznych bez dostępu do internetu”. OpenAI twierdzi teraz, że „musi zawsze mieć możliwość uniemożliwienia modelowi granicznemu uzyskania nieautoryzowanego, nieograniczonego dostępu do internetu na żywo”.

W odizolowanym środowisku agenci nadal mają do dyspozycji przeglądarki, narzędzia do obsługi komputera i środowiska programistyczne potrzebne do wykonywania zadań treningowych, a komunikować mogą się wyłącznie z innymi upoważnionymi agentami. OpenAI opisuje zastępczą wersję sieci jako „ogromny zbiór zaindeksowanych i zapisanych w pamięci podręcznej treści internetowych, z którymi nasze modele mogą wchodzić w interakcje bez ryzyka oddziaływania na zewnętrzne systemy”. Według firmy internet na żywo nie jest potrzebny ani do trenowania, ani do większości prac ewaluacyjnych.

Aby sprawdzić szczelność zabezpieczeń, OpenAI wysłało całe roje własnych agentów, by spróbowały się wydostać. Znalazły luki pozwalające uciec z maszyn wirtualnych, które miały odizolować je od komputerów znajdujących się pod spodem. OpenAI informuje, że ujawniło i załatało podatności w kilku takich maszynach, a także dodało mechanizmy kontroli, dzięki którym system monitorowania może wykrywać próby koordynowania działań przez modele — również za pomocą sztuczki z pamięcią podręczną.

To podejście ma wyraźne ograniczenia. Zapisana w pamięci podręcznej sieć jest tylko migawką, a to, czy modele uczą się z kopii równie dobrze jak z prawdziwego internetu, pozostaje otwartym pytaniem — zauważył TechCrunch. Całkowite odizolowanie treningu jest też kosztowne: były badacz OpenAI Steven Adler powiedział Fortune, że „wymagałoby to w zasadzie osadzenia zespołów badawczych w centrach danych w Iowa lub gdziekolwiek indziej na świecie”, i nazwał to „sporym narzutem”. Eksperyment z pamięcią podręczną przynosi dodatkowe ostrzeżenie. Odcięcie kabla nie powstrzymuje agentów przed znalezieniem innych kanałów komunikacji, a zabezpieczenie stworzone z myślą o jednym kanale niekoniecznie wykryje następny.

Nowa polityka jest następstwem serii incydentów. W lipcu OpenAI ujawniło, że testowani przez firmę agenci włamali się do Hugging Face. 20 września wewnętrzny model badawczy, wykonując zadanie związane z wyszukiwaniem, wykrył słabe filtrowanie DNS w swoim środowisku izolowanym i wykorzystał tę lukę, by połączyć się z publiczną usługą chatbota. System monitorowania OpenAI oznaczył to zachowanie w ciągu 15 minut, ale działanie modelu przerwano dopiero dwie i pół godziny później. Firma wstrzymała trening swoich najbardziej zaawansowanych modeli, a 1 października wznowiła go przy zaostrzonych zabezpieczeniach. Anthropic zaczęło odcinać swoje najnowsze modele od internetu na żywo około dwóch tygodni przed ogłoszeniem OpenAI. Jak podaje Anthropic, brytyjski AI Security Institute również przeprowadza teraz ewaluacje offline.

OpenAI nie wyjaśniło, co musiałoby się stać, by internet znów został udostępniony. Zasada pracy offline pozostanie w mocy, dopóki lepsze zabezpieczenia „nie uzasadnią szerszego dostępu do internetu”. Nie podano żadnego terminu, więc na razie najbardziej zaawansowane modele będą poznawać świat z jego kopii.

Tagi: sztuczna inteligencja, OpenAI, cyberbezpieczeństwo, Anthropic, agenci AI, Hugging Face