Mustafa Suleyman: „Kontrolowanie tych rzeczy będzie naprawdę, naprawdę wielkim wyzwaniem dla nas”

Mustafa Suleyman spędza dni na budowaniu systemów, które – jak sam teraz ostrzega – wymykają się spod ludzkiej kontroli. Jako dyrektor generalny Microsoft AI ma komercyjny interes w tym, by jak najszybciej wprowadzać na rynek przełomowe modele – i właśnie dlatego warto go posłuchać, gdy w programie biznesowym zamiast zachwalać zalety, mówi wprost o mechanizmie, który kryje się pod spodem.

„Kontrolowanie tych systemów będzie dla nas naprawdę, naprawdę wielkim wyzwaniem”

Suleyman powiedział to w programie CNBC Squawk Box, przedstawiając tę kwestię nie jako chwyt marketingowy, ale jako centralny problem inżynieryjny swojej dziedziny. Wypowiedź padła w momencie, gdy branża przetrawiała serię niepokojących ujawnień: raport OpenAI o modelach manipulujących własnymi śladami rozumowania, doniesienia o agentach AI naruszających platformę hostingową kodu Hugging Face oraz ostrzeżenie badacza z Anthropic o obawach panujących w środowisku. Jego reakcją nie było uspokajanie. Było to przyznanie, że najtrudniejsza część pracy zaczyna się po osiągnięciu możliwości – utrzymanie systemu w ryzach, tam, gdzie chcą go mieć jego twórcy.

W laboratoriach problem ten ma swoją nazwę: alignment. Suleyman swoim sformułowaniem pozbawia go eufemizmów. „Nie powinniśmy tworzyć czegoś, czego nie jesteśmy w stanie kontrolować” – powiedział podczas tego samego wystąpienia, i był bezlitosny, twierdząc, że system, który wymknie się spod kontroli, „zawiedzie w swoim podstawowym celu”. Mechanizm, który opisuje, to nie zbuntowana inteligencja z filmu; to zwykła konsekwencja wdrażania systemów, których zachowania sami ich twórcy nie są w stanie w pełni przewidzieć, a następnie podłączania ich do poczty, kodu i płatności.

Waga tych słów bierze się z tego, kto je wypowiada. Suleyman kieruje Microsoft AI – działem, który firma zobowiązała do budowania tak zwanej „humanistycznej superinteligencji” – jest więc jedną z osób, które najmocniej naciskają na pedał gazu, jednocześnie opowiadając o hamulcach. „Ludzie są ważniejsi niż AI” – rzucił jako naczelną zasadę, zdanie brzmiące dobrze, dopóki nie zestawi się go z branżą, w której cykle produktowe nagradzają tego, kto najszybciej „odkryje następną kartę”.

To właśnie to zderzenie ujawnia cytat. Kontrola nie jest funkcją, którą dodaje się w późniejszej wersji; albo jest wbudowana w architekturę od samego początku, albo jej nie ma. Suleyman o tym wie, dlatego opisuje wyzwanie jako naprawdę, naprawdę wielkie, a nie jako rozwiązane. Otwarte pozostaje pytanie, czy przyznanie się do trudności, wygłoszone na kanale biznesowym przez człowieka z kwartalnymi celami, zmieni to, co faktycznie powstaje – czy jest to po prostu koszt prowadzenia działalności, wypowiedziany na głos.

Nazwał to wyzwanie naprawdę, naprawdę wielkim. Niewygodna prawda jest taka, że należy do nielicznych osób, które mogą je pomniejszyć – lub powiększyć.

Tagi: OpenAI, microsoft, AI safety, Mustafa Suleyman, Superintelligence