Szef OpenAI Sam Altman kreśli trzy scenariusze dla AI, dwa znane już z 2023 roku

Prezes OpenAI Sam Altman przedstawił pracownikom mapę możliwych zakończeń wyścigu do superinteligencji, a najbardziej wymowny jest fakt, jak niewiele jest w niej nowych pomysłów. Spośród trzech scenariuszy, które omówił z zespołem, dwa są bliskie koncepcjom spisanym przez jego własną firmę przed laty. Żadnego z nich nigdy nie wdrożono. Trzeci, który trafił na nagłówki, przywołał tylko po to, by go odrzucić.

Za etykietami kryje się w każdym przypadku to samo pytanie: kto będzie kontrolował moc obliczeniową, na której działają najbardziej zaawansowane modele. Relacjonowane wypowiedzi Altmana wyjaśniają też, dlaczego ta kwestia wciąż schodzi na dalszy plan.

Co Sam Altman powiedział pracownikom OpenAI o możliwym finale rozwoju AI

The Information jako pierwsze opisało wewnętrzną prezentację, powołując się na osoby zaznajomione ze sprawą; później temat podjęły The Decoder, Forbes i Latin Times. Relacja opiera się na anonimowych źródłach. Pierwsza opcja zakłada powołanie organizacji międzynarodowej na wzór Międzynarodowej Agencji Energii Atomowej, która egzekwowałaby normy bezpieczeństwa w laboratoriach pracujących nad najbardziej zaawansowaną AI: kontrolowała systemy, wymagała audytów oraz monitorowała wykorzystanie mocy obliczeniowej i energii. Dwie osoby powiedziały The Information, że Altman zdawał się popierać ten pomysł.

Polecana lekturaSam Altman, szef OpenAI, w ONZ: „SI powinna być tworzona dla ludzi, a nie tylko po to, by szybciej kręcić korbą maszyn…”

Drugą opcję nazwał „planem Demisa” — od Demisa Hassabisa, współzałożyciela Google DeepMind, który około dekadę temu zaproponował utworzenie dla AI instytucji na wzór CERN-u. W wersji Altmana czołowe laboratoria połączyłyby się w jeden podmiot albo działały pod jego auspicjami, a ten dostarczałby modele współpracującym państwom.

Trzecia opcja to „plan Eliezera”, nazwany tak na cześć Eliezera Yudkowsky’ego, teoretyka zajmującego się bezpieczeństwem AI. Jeden z twórców jako pierwszy osiąga samodoskonalącą się AI, a następnie wykorzystuje wynikającą z tego przewagę gospodarczą, by odciąć wszystkich rywali od mocy obliczeniowej; według określenia, które obiegło media, miałby „stopić wszystkie GPU konkurencji”. „Oczywiście uważam, że to fatalny pomysł” — miał powiedzieć Altman, dodając, że uwzględnił go dla „kompletności”.

OpenAI już w 2023 roku opisało większość tych scenariuszy

Organ nadzorczy to najstarsza propozycja na liście. W opublikowanym pod nazwiskami Altmana, prezesa OpenAI Grega Brockmana i ówczesnego głównego naukowca Ilyi Sutskevera wpisie firma przekonywała, że świat prawdopodobnie „ostatecznie będzie potrzebował czegoś na kształt MAEA dla prac nad superinteligencją” — instytucji zdolnej „kontrolować systemy, wymagać audytów” i ograniczać wdrażanie rozwiązań po przekroczeniu określonego progu możliwości lub mocy obliczeniowej.

W tym samym wpisie zarysowano dwie inne drogi. Jak napisano, najważniejsze rządy „mogłyby powołać projekt, do którego dołączyłaby znaczna część obecnych inicjatyw” — co jest bliskie pomysłowi połączenia firm, który Altman przypisuje teraz Hassabisowi. Branża mogłaby też „wspólnie uzgodnić”, że „tempo wzrostu możliwości AI na samym froncie rozwoju będzie ograniczone do określonego poziomu w skali roku”.

To ostatnie oznacza limit prędkości. Według The Decoder Altman miał wewnętrznie narzekać, że brakuje realnych propozycji wprowadzenia takiego „limitu prędkości” rozwoju AI. Jego firma opublikowała jedną z nich. Nigdy jednak nie powołała nikogo, kto miałby uprawnienia, by ją egzekwować.

Dlaczego pomysł organu nadzorczego pozostaje na papierze: OpenAI twierdzi, że nie może zwolnić

Wyjaśnienie padło podczas tego samego spotkania. Altman miał powiedzieć pracownikom, że realizacja dwóch pierwszych planów wymaga szerokiej koordynacji, a OpenAI nie może sobie teraz pozwolić na oddanie pola, zwłaszcza że zarówno ona, jak i Anthropic przygotowują się do wejścia na giełdę. Crypto Briefing wyjaśniło logikę inwestorów: firmy szykujące się do debiutu giełdowego wzmacniają swoją przewagę, a nie przekazują jej konsorcjum.

Agencja MAEA dla AI wymagałaby również, by Waszyngton i Pekin zgodzili się na inspekcje w swoich najbardziej wrażliwych laboratoriach. Jak zauważa Forbes, nawet amerykańska propozycja, by oba państwa informowały się wzajemnie o niebezpiecznych incydentach związanych z AI, pozostaje na razie zarysem, a nie porozumieniem.

Laboratoria tworzą nie MAEA, lecz odpowiednik FINRA

Projekt regulacyjny, który faktycznie jest obecnie realizowany, nie odpowiada żadnej z trzech opcji Altmana. OpenAI, Google i Anthropic pracują nad branżową organizacją samoregulacyjną Standards Authority for Frontier AI, wzorowaną na FINRA — prywatnym organie nadzorującym amerykańskich brokerów. Latin Times opisuje system testów przedpremierowych, zgłaszania incydentów i akredytacji audytorów, który nie będzie miał wiążących uprawnień egzekucyjnych; trzy laboratoria wciąż nie mogą też dojść do porozumienia, kto powinien testować nowe modele. Mark Zuckerberg z Meta i Jensen Huang z Nvidii argumentują, że takie zasady przede wszystkim chronią obecnych liderów rynku, a w Stanach Zjednoczonych już toczy się postępowanie antymonopolowe, w którym zarzucono, że koordynacja działań laboratoriów pod hasłem bezpieczeństwa jest formą kartelu.

Warto też przyjrzeć się samym nazwom. Pierwotny obraz Yudkowsky’ego — „spalić wszystkie GPU” — był eksperymentem myślowym dotyczącym tego, jak daleko musiałby posunąć się zgodny z ludzkimi wartościami system, by powstrzymać nieodpowiedzialny wyścig; autor zaznaczał, że nie chciałby, aby faktycznie do tego doszło. „Plan Eliezera” Altmana zmienia ten awaryjny hamulec w drogę do monopolistycznego zwycięstwa. Według relacji The Decoder opartej na doniesieniach jedna z osób uznała tę uwagę za przytyk pod adresem konkurenta, biorąc pod uwagę związki Yudkowsky’ego z Anthropic.

Według The Information OpenAI zamierza w ciągu roku zdecydować, którą drogą pójść. Branżowa organizacja ustanawiająca standardy planuje rozpocząć działalność pod koniec 2026 lub na początku 2027 roku.

Dopóki OpenAI nie podejmie decyzji, nadal pędzi jedyną drogą, której Altman nie uwzględnił na swojej liście: samym wyścigiem.

Tagi: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky

Więcej podobnych

Sam Altman nazywa debiut giełdowy OpenAI ‘nierozważnym’ — bezpieczeństwo to nie wszystko

Sam Altman o AI: „…korzystanie z niej nie podlega negocjacjom“

Sam Altman: „Jesteśmy już w osobliwości”

Przewodniczący Google DeepMind Demis Hassabis widzi AGI w ciągu trzech lat i chce poczekać z regulacjami

Demis Hassabis o tym, kto ma płacić za bezpieczeństwo AI: „Finansowanie musiałoby być znaczne i pochodzić głównie od branży“

OpenAI oferuje Waszyngtonowi 42 miliardy dolarów, by zablokować ustawę o 50-procentowym podatku od AI