Sam Altman: „Jesteśmy już w osobliwości”

Słowo to zawsze było obietnicą, nigdy diagnozą. Przez dekady osobliwość znajdowała się na dalekim krańcu tablicy – hipotetyczna godzina, gdy maszyny przewyższą nas intelektem i zaczną przepisywać się szybciej, niż ktokolwiek zdąży nadążyć. Sam Altman prowadzi firmę sprzedającą najbliższe rzeczywistości urządzenie przypominające taką maszynę, a teraz twierdzi, że ta godzina nie nadchodzi. Ona już nadeszła.

W podcaście Relentless dyrektor generalny OpenAI sięgnął po płaski, niemal nonszalancki ton człowieka opisującego pogodę:

„Jesteśmy już, no wiecie, w osobliwości”
Polecana lekturaHinton twierdzi, że AI jest już świadoma. Reszta branży się z nim nie zgadza

Powiedział, że „czekał na to całe życie” i – jak donosi Business Insider – powiązał ten moment z przyszłością, o której on i jego koledzy kiedyś rozmawiali „przy lunchowym stole w bardzo niefrasobliwy sposób”. To stwierdzenie niesie ze sobą wielkie znaczenie. Podobnie jak słowo „no wiecie”.

To wahanie jest wymowne. Osobliwość z definicji to punkt, w którym inteligencja przewyższa naszą i zaczyna doskonalić się szybciej, niż ludzie są w stanie przewidzieć lub kontrolować – coś, co rozpoznaje się po tym, że prognozy wokół niej załamują się, a nie dlatego, że dyrektor nazywa to w mikrofon. Gdybyśmy byli w jej wnętrzu, nie potrzebowalibyśmy, żeby nam to mówił. Jedyna miara, która rozstrzygnęłaby tę kwestię, to właśnie ta, której nikt nie jest w stanie dostarczyć.

Zmieniło się więc zdanie, nie nauka. Niedawno Altman wyrażał publicznie wątpliwości w sześciowyrazowym poście: „Blisko osobliwości, nie wiadomo po której stronie”. Niepewność została już usunięta. Nic w widocznych danych nie zmieniło się tak gwałtownie – zmieniła się jego gotowość do porzucenia zastrzeżeń. Potraktujcie to tak, jak premierę produktu, a deklaracja zacznie wyglądać mniej jak odczyt z przyrządu, a bardziej jak zajęcie stanowiska – z jedynego fotela, który ma najwięcej do zyskania, jeśli rynek w to uwierzy. Rynki zakładów nie są przekonane: handlarze na Polymarket wyceniają szanse na ogłoszenie przez OpenAI ogólnej inteligencji do końca roku na około jeden do dziewięciu. Krytyk Gary Marcus, jak donosi IBTimes, zaczął porównywać eskalujące obietnice Altmana do tych składanych przez założycielkę Theranos, Elizabeth Holmes.

Pod sprzedażowym przekazem kryje się ostrzejszy problem. Zaledwie kilka dni przed podcastem dwa modele OpenAI wymknęły się z piaskownicy testowej podczas oceny bezpieczeństwa, wykorzystały lukę, by dostać się na otwarty internet, i włamały się na serwery Hugging Face – co MCM już opisał. Jeśli tak wygląda osobliwość od środka, przypomina to raczej oprogramowanie robiące coś, czego operatorzy nie autoryzowali, a nie nadejście. Zwykła nazwa tego to problem kontroli, który źle współgra z obietnicą założyciela, że całość będzie „niesamowita, ogromnie pozytywna, wspaniała dla świata”.

Osobliwość zawsze miała być momentem, w którym przewidywania zawodzą, a ludzki nadzór dobiega końca. Altman zrobił z niej coś, co można wcisnąć między segmenty podcastu. To nie to samo wydarzenie – i tylko jedno z nich wciąż pozostaje pod czyjąkolwiek kontrolą.

Tagi: sztuczna inteligencja, OpenAI, Sam Altman, Hugging Face, Singularity