Eliezer Yudkowsky, autor fanfika, który zamienił lęk przed AI w bestseller

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Urodzony	11 września 1979 Chicago, Stany Zjednoczone
Zawód	Pisarz i badacz AI

Gdy Sam Altman miał opowiadać pracownikom OpenAI, jak może zakończyć się wyścig o superinteligencję, jeden z trzech scenariuszy nosił czyjeś imię. „Plan Eliezera” zakłada, że jedno laboratorium jako pierwsze stworzy samodoskonalącą się AI i wykorzysta tę przewagę, by odciąć wszystkich rywali od mocy obliczeniowej. Altman wspomniał o nim tylko po to, by nazwać go fatalnym pomysłem. Sformułowanie, które obiegło media — „stopić wszystkie GPU pozostałych” — nawiązuje do przykładu, którym sam Eliezer Yudkowsky posłużył się w eseju o ryzyku związanym z AI. Jako ilustrację podał „spalenie wszystkich GPU”, od razu dodając: „Nie sądzę, żebyś naprawdę chciał tak postąpić z potężną AGI”.

To, że prezes firmy nazwał strategię jego imieniem, pokazuje, jak szeroko rozeszły się jego idee — a niemal cała ta droga prowadziła przez teksty. Yudkowsky jest badaczem AI bez dyplomu, a przede wszystkim płodnym autorem: napisał setki esejów na blogach, obszerną powieść o Harrym Potterze i bestseller, którego tytuł nie pozostawia wątpliwości.

Urodził się w Chicago 11 września 1979 roku i dorastał w rodzinie wyznającej nowoczesny judaizm ortodoksyjny; dziś jest osobą świecką. Przewlekłe problemy zdrowotne zmusiły go do przerwania nauki na etapie gimnazjum, a do liceum ani na studia nigdy nie poszedł. W 2000 roku, mając dwadzieścia lat, założył Singularity Institute for Artificial Intelligence, wspierany przez Briana i Sabine Atkinsów, by przyspieszyć nadejście AI. Wkrótce zaczął obawiać się tego, co sam postanowił stworzyć, a w 2005 roku instytut zajmował się już tym, jak ograniczać ryzyko związane z maszynami inteligentniejszymi od ich twórców. W 2013 roku organizacja zmieniła nazwę na Machine Intelligence Research Institute i przeniosła siedzibę do Berkeley.

Polecana lekturaSzef OpenAI Sam Altman kreśli trzy scenariusze dla AI, dwa znane już z 2023 roku

Na dobre z pisaniem ruszył w listopadzie 2006 roku, kiedy wraz z ekonomistą Robinem Hansonem został głównym autorem wpisów na Overcoming Bias, blogu grupowym poświęconym ludzkiej racjonalności. W lutym 2009 roku jego teksty stały się zalążkiem LessWrong — blogowej społeczności, której celem było „doskonalenie sztuki ludzkiej racjonalności”. Z czasem stała się ona głównym internetowym centrum ruchu określającego się mianem racjonalistycznego. Eseje Yudkowsky’ego, znane po prostu jako „The Sequences”, brały na cel błędy poznawcze, twierdzenie Bayesa i sposoby, w jakie inteligentni ludzie oszukują samych siebie. W 2015 roku MIRI zebrał ponad 300 z nich w Rationality: From AI to Zombies, a dwa lata później wydał Inadequate Equilibria — krótką książkę o tym, dlaczego społeczeństwa nie rozwiązują problemów, które można naprawić. Stuart Russell i Peter Norvig omawiają jego propozycje w swoim standardowym podręczniku o AI, a Nick Bostrom cytuje go w Superintelligence: Paths, Dangers, Strategies.

Potem przyszła pora na powieść. Harry Potter and the Methods of Rationality, znana fanom jako HPMOR, ukazywała się w odcinkach na FanFiction.Net od 28 lutego 2010 do 14 marca 2015 roku; liczy łącznie 122 rozdziały i ponad 660 tysięcy słów. Jej punkt wyjścia zmienia jeden szczegół kanonu. Petunia Evans wychodzi za mąż za oksfordzkiego profesora Michaela Verresa, a osierocony Harry dorasta, ucząc się w domu nauk ścisłych. Chłopiec, który trafia do Hogwartu, sprawdza więc magię metodą naukową i nie może znieść niespójności świata czarodziejów. W Ravenclawie zaprzyjaźnia się z Draco Malfoyem, Hermioną Granger i profesorem Quirrellem. Fabuła okazuje się mroczniejsza, niż sugerują żarty, ale jej prawdziwym tematem jest sposób myślenia.

Czytelnicy byli mocno podzieleni. W 2011 roku The Atlantic</em opisał burzę na forach fan fiction wywołaną „bluźnierczym — albo genialnym — podejściem do kanonu” i przytoczył opinię pisarza science fiction Davida Brina, który nazwał powieść „znakomitą serią, subtelną, dramatyczną i pobudzającą do myślenia”. Prawnik William Baude poszedł w The Washington Post jeszcze dalej: „to najlepsza książka o Harrym Potterze, jaką kiedykolwiek napisano, choć nie napisała jej J.K. Rowling”. Amanda Silberling z TechCrunch uznała ją za „naprawdę nużącą”. Yudkowsky odrzucił propozycję usunięcia elementów związanych z Rowling i wydania historii jako oryginalnej powieści — taką drogą przeszło Fifty Shades of Grey, wywodzące się z fan fiction do Twilight. „HPMOR jest nierozerwalnie związana z oryginalnymi powieściami o Harrym Potterze i można ją zrozumieć tylko na ich tle” — powiedział.

W karierze Yudkowsky’ego jest pewna ironia: człowiek najczęściej kojarzony z ostrzeżeniami przed AI przyciągnął też ludzi do jej tworzenia. W lutym 2023 roku Altman napisał, że Yudkowsky „zainteresował AGI wielu z nas”, pomógł zdobyć finansowanie dla DeepMind i odegrał „kluczową rolę w decyzji o założeniu OpenAI”. Tej wiosny Yudkowsky opublikował w magazynie Time tekst, w którym wezwał do bezterminowego, ogólnoświatowego moratorium na trenowanie dużych modeli AI. Później Time umieścił go na liście 100 najbardziej wpływowych osób w dziedzinie AI w 2023 roku.

Jego najbardziej bezpośrednia książka ukazała się 16 września 2025 roku. Napisana wspólnie z kolegą z MIRI, Nate’em Soaresem, i wydana przez Little, Brown, If Anyone Builds It, Everyone Dies przekonuje, że współczesne systemy AI się hoduje, a nie konstruuje: w procesie treningu otrzymują miliardy wartości liczbowych, których nie potrafią odczytać nawet ich twórcy. W rezultacie nikt nie może wiarygodnie wyznaczyć celów systemowi, który ostatecznie okaże się inteligentniejszy od nas. Jak twierdzą autorzy, ludzkość przegrałaby z superinteligencją tak, jak ludzie przegrywają z szachowym silnikiem Stockfish, a jedynym bezpiecznym rozwiązaniem jest skoordynowane wstrzymanie prac. Książka trafiła na listy bestsellerów „The New York Times” w kategorii książek non-fiction w twardej oprawie oraz na łączną listę dla tej kategorii.

Recenzje podzieliły odbiorców równie mocno jak powieść. David Shariatmadari napisał w The Guardian, że książka jest „tak klarowna, jak trudne do zaakceptowania są jej wnioski”. Ian Leslie na łamach The Observer</em chwalił jej „jasność, werwę i ledwie skrywaną radość”. Stephen Marche porównał ją do podręcznika scjentologii w The New York Times, a Adam Becker w The Atlantic</em ujął sprawę jeszcze dosadniej: „Po prostu się mylą”.

Debata przeniosła się od tamtej pory na ekran. Yudkowsky jest jednym z rozmówców — obok Yoshuy Bengia i Timnit Gebru — w The AI Doc: Or How I Became an Apocaloptimist, dokumencie Daniela Rohera o ojcostwie w epoce AI, który trafił na Netflix 15 września 2026 roku. Chłopiec-czarodziej przeprowadzający kontrolowane eksperymenty i współautor, który chce przerwać eksperyment, to ten sam pisarz. Wciąż zachęca czytelników, by podążali za tokiem rozumowania aż do końca, nawet jeśli ostatni wniosek okaże się niewygodny.

Tagi: sztuczna inteligencja, pisarze, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Udostępnij ten wpis

Więcej podobnych

Sam Altman: przyspiesza ku temu, co sam nazywa niebezpiecznym

Michael Polansky: architekt badań onkologicznych, którego czyjś sukces przez lata trzymał w cieniu

Mustafa Suleyman: szef AI w Microsofcie, który ostrzegał przed tym, co dziś buduje

OpenAI i Anthropic chcą spowolnić AI — i budują sobie fosę

Sam Altman: „Jesteśmy już w osobliwości”

Sergey Brin nie ma stanowiska w Google, a jego wpływ na Gemini rośnie