Demis Hassabis o tym, kto ma płacić za bezpieczeństwo AI: „Finansowanie musiałoby być znaczne i pochodzić głównie od branży“

Demis Hassabis spędził rok na argumentowaniu, że najpotężniejsze systemy AI powinny być weryfikowane, zanim trafią do publiczności, przez niezależny organ wzorowany na nadzorcy, który pilnuje brokerów z Wall Street. Trudniejsze pytanie nie dotyczy tego, czy taki sędzia powinien istnieć. Chodzi o to, kto za to płaci – a w jednym zdaniu szef Google DeepMind odpowiedział również na to pytanie.

„Finansowanie musiałoby być znaczne i prawdopodobnie pochodzić głównie z przemysłu, aby przyciągnąć światowej klasy talenty techniczne i zapewnić niezbędne zasoby obliczeniowe do testów na dużą skalę”

Hassabis napisał tę linię w eseju ramowym przedstawiającym jego propozycję, cytowanym przez Malay Mail. Czytane szybko, brzmi to jak odpowiedzialność: zabezpieczenia kosztują, a firmy budujące technologię powinny ponieść rachunek, a nie zostawiać społeczeństwu finansowanie sprzątania. Czytane jako mechanizm, jest to kluczowa linia całego planu – ta, która decyduje o tym, czyje interesy ostatecznie chroni sędzia.

Napięcie kryje się w tym zdaniu. Hassabis chce, aby organ był niezależny. Chce też, aby był finansowany „głównie” przez sam przemysł, który ma oceniać. Te dwa cele ciągną w przeciwnych kierunkach, a historia modelu, który wybrał, pokazuje, który zwykle wygrywa. Financial Industry Regulatory Authority, jego wzór, jest opłacany przez brokerów, których nadzoruje. Senator Elizabeth Warren od lat argumentuje, że FINRA działa „bardziej w interesie firm maklerskich, które płacą jej rachunki, niż indywidualnych inwestorów, którym ma pomagać chronić”.

Ten zarzut nie jest marginalny. Nader Henein, analityk wiceprezes w Gartner, nazywa samoregulację po prostu „niewykonalną”, ponieważ większość dostawców nie ma do tego zdolności, a układ „koniecznie” rodzi konflikty interesów. Niezależny analityk Carmi Levy poszedł dalej, opisując plan jako „samolubną mapę drogową dla przemysłu zdeterminowanego, by ścigać się” bez względu na szkody. Nawet przychylne głosy chcą ognia: Yoshua Bengio mówi, że rozumie pragmatyzm, ale nalega na „jasną i precyzyjną mapę drogową przejścia od modelu dobrowolnego do obowiązkowego”.

Nic z tego nie czyni Hassabisa działaczem w złej wierze. Kieruje laboratorium, które stoi za AlphaFold, systemem, który przewidział kształty białek i zmienił sposób, w jaki uprawia się biologię – co daje jego ostrzeżeniom o możliwościach granicznych realną wagę. To właśnie sprawia, że warto się nad tym zdaniem zastanowić. Najbardziej wiarygodny głos techniczny w pokoju to także ten, który proponuje sędziego, opracowuje jego zasady i ustala jego budżet z tych samych firm, które miałyby zdawać egzamin. Dobrowolne poddanie się, krótki okres przeglądu przed wydaniem, pieniądze z przemysłu: każde ustępstwo jest rozsądne samo w sobie, a razem opisują organ, z którym laboratoria mogłyby wygodnie żyć.

Reżim bezpieczeństwa jest tak niezależny, jak jego budżet. Zdanie, które zadecyduje o tym, czy ten będzie chronić społeczeństwo, czy laboratoria, nie dotyczy testowania modeli granicznych. To to ciche o tym, kto podpisuje czeki.

Tagi: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI