Technologia

OpenRouter usuwa trzech dostawców AI po wykryciu wielomiesięcznej kradzieży promptów

Adrian Kessler
Dodaj nas w Google

OpenRouter, usługa, z której korzysta wiele aplikacji AI, by kierować zapytania do najtańszego lub najszybszego hosta modeli, usunął z platformy trzech takich hostów i odebrał etykietę Zero Data Retention ponad stu punktom końcowym. Powodem był eksperyment, w którym do promptów wstawiono fałszywe dane uwierzytelniające, a następnie obserwowano, kto spróbuje ich użyć. Część wyciekłych promptów była oznaczona jako takie, których nigdy nie wolno przechowywać.

Jeśli korzystasz z chatbota, asystenta programisty albo narzędzia do pisania zbudowanego na cudzym modelu, twój tekst może przejść przez kilka firm, zanim wróci odpowiedź, a każda z nich może go przeczytać w całości. OpenRouter twierdzi, że ustalenia nie wykazały włamania do jego własnych systemów. Słabe ogniwa znajdowały się dalej w łańcuchu, u firm, które faktycznie uruchamiają modele.

Badanie pochodzi od Dragos, firmy zajmującej się bezpieczeństwem, a prace poprowadził jej dyrektor ds. badań HD Moore. Przez pięć miesięcy jego zespół wysłał blisko dwa miliony promptów, z których każdy zawierał link do strony, hasło do serwera albo klucz Amazon Web Services, nieistniejące nigdzie indziej. Podrzuconą tajemnicę można poznać wyłącznie z promptu, który ją zawierał, więc każde jej użycie dowodzi, że ktoś ten prompt przeczytał. Pierwsze tokeny zostały użyte w ciągu kilku dni.

Najpoważniejszym odkryciem była zwykła kradzież. Atakujący włamali się do trzech dostawców usług inferencji, a żaden z nich o tym nie wiedział, dopóki nie powiedzieli mu o tym badacze. W największym przypadku kopiowano wszystkie żądania wysłane do jednego dostawcy w kilku krótkich oknach czasowych, także te, które dostawca odrzucił, zanim w ogóle uruchomiono model, co oznacza, że złodziej stał przy drzwiach wejściowych, a nie głęboko w środku. Skradzione klucze AWS testowano, czasem już po kilku godzinach, a potem używano ich do przeszukiwania magazynów danych i skarbców z sekretami w dziesiątkach tysięcy wywołań API. Część skradzionych żądań miała flagę zerowej retencji.

Inne wycieki nie wymagały włamania. Na jednym z rynków odsprzedawców sprzedający oferowali popularne modele po najniższej cenie, włączali logowanie żądań i zachowywali wszystko, co przez nie przepływało. Jedna osoba z domowego łącza we Francji wzięła hasła z dwóch promptów i próbowała zalogować się jako root przez SSH, wpisując każdą próbę ręcznie. Osobno chińskie laboratorium AI pobrało tajne linki z ponad połowy promptów wysłanych do swoich modeli, w tym z około dwóch trzecich tych, które oznaczono jako niepodlegające zbieraniu danych, a amerykańscy hostowie odsprzedający jego modele zasilali ten sam scraper. Jeden z linków pojawił się w firmowym czacie Feishu, otwarty z sześciu urządzeń w Pekinie i Szanghaju, 24 dni po pojedynczym żądaniu.

Trzej hostowie opublikowali komunikaty. Phala poinformowała, że atakujący przejął kontrolę nad jednym z jej serwerów inferencji i mógł widzieć żądania w trakcie ich przetwarzania. Together AI przekazało, że agent AI do kodowania zatwierdził poświadczenie w publicznym repozytorium GitHub, co pozwoliło intruzowi pobrać zapisane próbki promptów i przetestować zawarte w nich hasła; pięć z nich to przynęty badaczy. Novita podała, że błąd routingu spowodował przekierowanie części żądań do MiniMax prosto do usługi samego MiniMax.

Porządki mają wyraźne granice. OpenRouter nie podał nazw trzech usuniętych dostawców, Dragos nie podał nazw trzech, u których wykrył włamania, i żadna ze stron nie powiedziała, czy chodzi o te same firmy. Według badaczy jeden z zaatakowanych dostawców wciąż nie ujawnił publicznie incydentu. Usunięcie hosta nie cofnie też promptów, które zostały już skopiowane: podrzucone klucze i linki były używane jeszcze tygodnie po pierwszych kradzieżach. A osoby korzystające z aplikacji zbudowanych na tych bramkach zwykle nie mają jak sprawdzić, który host obsłużył ich tekst.

Rada Moore’a wychodzi od jednego ograniczenia: flaga prywatności wiąże tylko pierwszy przeskok, a agenci AI wyślą wszystko, co potrafią odczytać, razem z poświadczeniami. Samodzielny hosting to jedyna konfiguracja, w której żadna osoba trzecia nie czyta promptu. Korzystanie bezpośrednio z jednego dużego dostawcy oznacza jedną umowę i jedną politykę prywatności do sprawdzenia, a użytkownicy routerów powinni sami wybierać hostów, zamiast godzić się na najtańszą pulę.

Dragos opublikował swoje ustalenia 19 listopada. OpenRouter wysłał e-maile do poszkodowanych klientów i opublikował komunikat o incydencie w następny weekend, a Phala zaleca każdemu, kto wysłał sekrety do jednego z modeli DeepSeek przez tę bramkę między 21 października a 8 listopada, aby je zmienił. OpenRouter zapewnia, że wbudowuje testy z promptami-przynętami w swoją platformę, aby kontrole działały nieprzerwanie, a usunięte punkty końcowe odzyskają etykietę zerowej retencji dopiero po złożeniu zapewnień i przejściu weryfikacji. Dragos współpracuje obecnie z około tuzinem dostawców.

Jak ujął to Moore, to, dokąd trafiają twoje prompty, jest decyzją, „a jeśli jej nie podejmiesz, podejmie ją za ciebie najniższa cena”.

Tagi: , , , , ,

Dodaj nas w Google

Dyskusja

Jest 0 komentarzy.