Technologia

Jeden list wyłączył modele Fable 5 i Mythos 5 firmy Anthropic na całym świecie

„Kontrola eksportu”, która nie powstrzymuje niczego, czego rywale i tak nie sprzedają — i precedens, który powstrzymuje wszystko
Adrian Kessler

W nakazie, którym Stany Zjednoczone każą Anthropic odciąć Fable 5 i Mythos 5, dwa najsprawniejsze modele firmy, najbardziej uderza nie to, kogo szkodzi za granicą. Uderza to, jak niewiele było trzeba. Wystarczył jeden list sekretarza handlu, by je wygasić — i to nie w jednym kraju, lecz dla każdego klienta na świecie.

Warto się tu zatrzymać. Decyzję przedstawiono jako kontrolę eksportu, ten biurokratyczny aparat zwykle zarezerwowany dla układów scalonych i satelitów. Ale kontrola eksportu zakłada, że jest coś do powstrzymania. Tutaj może tego nie być.

Kontrola, która niczego nie powstrzymuje

Podanym przez rząd powodem był jailbreak: dowód, że model można nakłonić do czegoś, czego robić nie powinien. Wersja samego Anthropic jest węższa i mniej dramatyczna: rzecz sprowadzała się do polecenia modelowi, by przeczytał kod i wskazał w nim luki bezpieczeństwa — zadania, które inżynierowie wykonują codziennie. Firma utrzymuje, że ta sama zdolność jest już w konkurencyjnych systemach sprzedawanych właśnie teraz, w tym w najnowszym modelu OpenAI. Jeśli tak jest, kontrola wymierzona w dwa najnowsze modele jednej spółki nie odbiera nikomu zdolności u podstaw. Zdejmuje z półki jedynie wersję Anthropic.

Tu pojawia się pierwsze pęknięcie oficjalnej narracji. Kontrola eksportu w imię bezpieczeństwa narodowego ma odmówić przeciwnikowi czegoś, co posiadasz tylko ty. Ta nie odmawia nikomu — poza kontrolowanym laboratorium i jego własnymi klientami. Jako sposób na powstrzymanie technologii jest niespójna. Jako nacisk na jedną firmę jest uderzająco precyzyjna.

Spór nie zaczął się od jailbreaku

Nacisk na tę spółkę nie jest nowy. Rząd spędził zimę w wojnie z Anthropic: prześwietlał jej poglądy polityczne i darczyńców, a potem nakazał wszystkim agencjom federalnym zaprzestać używania jej oprogramowania, gdy laboratorium oparło się żądaniom Pentagonu, by usunąć zabezpieczenia przed wojskowym użyciem Claude’a. Wysocy urzędnicy nazwali jej kierownictwo „lewackimi świrami”. Czytany na tym tle list wysłany w piątkowy wieczór, bez opublikowanego uzasadnienia, wygląda mniej na strategię przemysłową, a bardziej na kolejną dźwignię w zasięgu ręki.

Większość relacji skupiła się na innym lęku: że stawiając mur między swoimi najlepszymi modelami a sojusznikami, a zarazem wciąż sprzedając zaawansowane układy Chinom, Waszyngton oddaje Pekinowi wyścig sztucznej inteligencji. Analityk, który współtworzył rządowy plan dotyczący SI, nazwał decyzję „zagadkową”, a logika rzeczywiście stoi na głowie. Ale chiński wątek to prognoza, nie fakt, a gonitwa za nim pozwala umknąć temu, co naprawdę się wydarzyło. Tym, co się wydarzyło, jest mechanizm.

To precedens jest tą wiadomością

Ponieważ model nie sprawdzi paszportu użytkownika w czasie rzeczywistym, „zablokujcie cudzoziemców” miało tylko jedno wykonalne znaczenie: zablokować wszystkich. Anthropic wyłączył systemy na całym świecie, bo zastosowanie się do nakazu nie zostawiało innych drzwi. To jest precedens, który właśnie zapisano. Rząd pokazał, że może sięgnąć do prywatnej amerykańskiej firmy i wyłączyć jej najsprawniejszy produkt — na całym świecie, w jeden wieczór, listem, bez uzasadnienia, które musiałby opublikować, i bez procedury, którą firma zdążyłaby zaskarżyć.

List sekretarza handlu Howarda Lutnicka do prezesa Daria Amodei dotarł 12 czerwca o 17:21 czasu wschodniego i powołał się na uprawnienia z zakresu bezpieczeństwa narodowego, by zażądać licencji na jakikolwiek eksport, reeksport czy krajowe przekazanie modeli. Fable 5 i Mythos 5 były publiczne dopiero od kilku dni. Anthropic, który szykuje debiut giełdowy przy wycenie szacowanej na 965 miliardów dolarów, twierdzi, że to nieporozumienie, i pracuje nad przywróceniem dostępu. Ostrzega, że to samo kryterium, stosowane jednakowo, „w praktyce wstrzymałoby wdrażanie wszystkich nowych modeli u wszystkich dostawców modeli z najwyższej półki”.

To ostrzeżenie jest sygnałem. Gdyby chodziło o bezpieczeństwo, reguła wiązałaby wszystkich. Związała jednego. Zdolność, której rząd rzekomo się obawia, jest dziś rano w sprzedaży — oferowana przez kogoś innego. Zmieniło się nie to, co mogą zbudować Chiny. Zmieniło się to, że następny list nie będzie już potrzebował jailbreaku, by się usprawiedliwić.

Tagi: , , , ,

Dyskusja

Jest 0 komentarzy.