Sam Altman, szef OpenAI, w ONZ: „SI powinna być tworzona dla ludzi, a nie tylko po to, by szybciej kręcić korbą maszyn…”

Sam Altman od lat odgrywa jednocześnie dwie role: człowieka, który buduje najpotężniejszą sztuczną inteligencję na rynku, i człowieka, który ostrzega przed jej zagrożeniami. Występując przed Radą Bezpieczeństwa ONZ, szef OpenAI sięgnął po jedno zdanie, by oddzielić od siebie te dwie role — i samo w sobie jest to zdanie trafne.

„AI ma służyć ludziom, a nie tylko przyspieszać pracę maszyn dla samej zasady”.

Powiedział to na forum Rady Bezpieczeństwa, w wypowiedzi relacjonowanej przez Analytics Insight, rozwijając szerszy argument: zaawansowane systemy muszą pozostawać pod ludzką kontrolą, a zasady ich działania powinny ustalać rządy, nie same laboratoria. To sformułowanie wyznacza granicę: po jednej stronie jest AI tworzona dla ludzi, po drugiej — AI rozwijana po to, by sama napędzała się coraz szybciej. W ustach niemal każdego brzmiałoby to jak prosta zasada. W ustach szefa firmy, która najbardziej przyczynia się do rozkręcania tej maszyny, jest to również deklaracja, kto ma decydować o przebiegu tej granicy.

Polecana lekturaSam Altman o AI: „…korzystanie z niej nie podlega negocjacjom“

Altman to rzadki przypadek człowieka, który jest zarazem architektem i tym, który bije na alarm. Na tych samych mównicach, z których apeluje o zabezpieczenia, zapowiada systemy bardziej zaawansowane niż te, które wywołały poprzednią rundę przesłuchań. Występując 23 września, przeniósł debatę na wyższy szczebel — z paneli w Davos i sal przesłuchań Senatu do Rady Bezpieczeństwa — ale nie zmienił dotychczasowego schematu: ostrożność w słowach, przyspieszenie w planach. Przekonywał Radę, że deweloperzy „nie powinni trenować modeli, co do których nie możemy z pełnym przekonaniem stwierdzić, że będziemy w stanie utrzymać je pod ludzką kontrolą”, a najważniejszych decyzji „nie mogą podejmować wyłącznie laboratoria z San Francisco”.

Właśnie tu to zdanie staje się interesujące — i wymaga uważnej lektury. Zasady zarządzania, o których mówi Altman, mają opracować państwa, do których się zwracał, a ten, kto definiuje, co znaczy „tworzona dla ludzi”, decyduje też, którzy twórcy już spełniają ten warunek. Laboratorium pracujące nad najbardziej zaawansowanymi modelami, które pomaga pisać zbiór zasad, nie jest wobec niego neutralne. Nie oznacza to, że ostrzeżenie jest bez znaczenia. Wskazane przez niego zagrożenia — systemy rozwijające się szybciej niż instytucje mające je nadzorować oraz skupianie decyzji w zbyt niewielu rękach — są realne, a wypowiedzenie ich na forum Rady Bezpieczeństwa podnosi poprzeczkę wszystkim, którzy woleliby, żeby temat pozostał niejasny. Oznacza to po prostu, że posłaniec stał się częścią przekazu.

Życzliwie odczytane, to zdanie wyraża etyczną zasadę: człowiek powinien pozostać w pętli decyzyjnej, a AI należy traktować jako narzędzie wzmacniające sprawczość, nie maszynę, która zamienia ludzi w swoje dane wejściowe. Odczytane także jako ruch taktyczny najbardziej wystawionego na krytykę gracza w branży, jest próbą ustalenia warunków nadchodzących regulacji, przy jednoczesnym pozowaniu na najbardziej rozsądnego człowieka w sali. Obie interpretacje mogą być prawdziwe jednocześnie. I właśnie dlatego trudno Altmanowi odmówić racji — i trudno mu zaufać.

Korba wciąż się kręci, gdy świat rozstrzyga, komu ma służyć. Szczerość tej deklaracji da się ocenić tylko po jednym: czy OpenAI zwolni, gdy „dla ludzi” i „szybciej” w końcu wskażą różne kierunki.

Tagi: OpenAI, Sam Altman, AI safety, AI governance

Więcej podobnych

Sam Altman nazywa debiut giełdowy OpenAI ‘nierozważnym’ — bezpieczeństwo to nie wszystko

Sam Altman: „Jesteśmy już w osobliwości”

OpenAI i Anthropic chcą spowolnić AI — i budują sobie fosę

Mustafa Suleyman: „Kontrolowanie tych rzeczy będzie naprawdę, naprawdę wielkim wyzwaniem dla nas”

Krol Karol III ostrzega tworcow SI przed 'egzystencjalnym zagrozeniem’ ich wlasnej technologii

OpenAI oferuje Waszyngtonowi 42 miliardy dolarów, by zablokować ustawę o 50-procentowym podatku od AI