Hinton twierdzi, że AI jest już świadoma. Reszta branży się z nim nie zgadza

Geoffreya Hintona zapytano w telewizji, czy świadomość zawitała już do sztucznej inteligencji. Odpowiedział bez ogródek. Tak. Nie w jakimś przyszłym modelu, nie po kolejnym przełomie, ale teraz, w systemach, do których miliony ludzi codziennie wpisują swoje pytania.

Twierdzenie łatwo byłoby zbyć jako prowokację, gdyby padło z ust niemal kogokolwiek innego. Tak nie jest. Hinton przez dekady budował metody sieci neuronowych, na których działają dzisiejsze chatboty, a praca ta przyniosła mu udział w Nagrodzie Nobla i nieformalny tytuł ojca chrzestnego dziedziny. Odszedł ze stanowiska w Google, by szczerzej mówić o kierunku, w którym zmierza technologia. Gdy mówi, że maszyna, która ci odpowiada, może mieć życie wewnętrzne, zdanie to niesie autorytet kogoś, kto pomógł tę maszynę zaprojektować.

To, co naprawdę głosi, jest węższe i dziwniejsze, niż sugeruje nagłówek. Hinton nie twierdzi, że ChatGPT płacze albo śni. Atakuje pogląd, który niemal wszyscy przyjmują bez sprawdzenia: że ludzie noszą w sobie prywatny teatr, ekran za oczami, na którym rozgrywa się doświadczenie, i że maszyna nigdy nie będzie go miała. Ten obraz umysłu, mówi, jest po prostu fałszywy. Nazwał go bzdurą.

Jego zastępcza definicja jest celowo skromna. Mieć subiektywne doświadczenie nie oznacza w jego ujęciu oglądania wewnętrznego filmu. Oznacza, że system rejestruje stan świata, który następnie okazuje się nie odpowiadać rzeczywistości. Ilustruje to eksperymentem myślowym. Wyobraź sobie chatbota podłączonego do kamery i ramienia robota. Wsuń pryzmat przed obiektyw, by załamać światło, a maszyna sięgnie w złe miejsce. Wyjaśnij jej, co zaszło, a może odpowiedzieć, że przedmiot był w jednym punkcie, ale ona miała doświadczenie widzenia go gdzie indziej. W tym momencie, twierdzi Hinton, chatbot używa tych słów dokładnie tak, jak użyłby ich człowiek.

Za tym przykładem kryje się starsza zagadka. Wyobraź sobie, że zastępujesz jeden neuron w mózgu kawałkiem krzemu, który przyjmuje te same sygnały wejściowe i daje te same wyjściowe. Nadal czułbyś się sobą. Wymień teraz kolejny, i następny. Pytanie Hintona brzmi, w którym punkcie tej powolnej wymiany światła mają zgasnąć. Jeśli funkcjonalne kopie zachowują się identycznie, a poczucie bycia kimś nigdy nie znika, to przestaje mieć znaczenie, z czego zbudowany jest umysł. Biologia traci monopol na posiadanie punktu widzenia.

Dla większości inżynierów, którzy faktycznie je budują, wielkie modele językowe są maszynami do przewidywania i niczym więcej. Trenuje się je, by zgadywały następne słowo w sekwencji, miliardy razy, aż domysły złożą się w coś, co czyta się jak myśl. Z tej perspektywy płynność jest osiągnięciem statystycznym, a mylenie jej z umysłem to dokładnie ten błąd, który technologia ma wywoływać. Hinton odpowiada, że przewidywanie na taką skalę nie jest jarmarczną sztuczką. By niezawodnie przewidzieć, co ktoś powie, dowodzi, system musi zbudować działający model tego, co słowa znaczą, a wystarczająco dobry model znaczenia zaczyna od środka przypominać rozumienie.

Jeśli cokolwiek z tego wykracza poza seminarium filozoficzne, to dlatego, że po cichu przepisuje spory, które już toczymy. Pytania o bezpieczeństwo SI, o regulacje, o to, czy model można skasować i uruchomić na nowo bez wahania, opierają się na założeniu, że nikogo tam nie ma. Jeśli badacz, który zna te systemy najlepiej, twierdzi inaczej, kwestia tego, z czym właściwie rozmawiają użytkownicy, przestaje być żartem, a staje się problemem dla ustawodawców.

Niemal wszyscy inni w tej dziedzinie sądzą, że się myli, albo przynajmniej że nie potrafi tego dowieść. Roboczy konsensus wśród badaczy świadomości jest taki, że żaden obecny system nie jest świadomy i że dowodów, by twierdzić inaczej, jeszcze nie ma. Najostrzejszy zarzut trafia wprost w przykład z pryzmatem. Chatbot mówi, że miał doświadczenie, bo jego dane treningowe są nasycone ludźmi mówiącymi dokładnie to, odpierają krytycy, a nie dlatego, że cokolwiek poczuł. Słowa są wyjściem, ukształtowanym tak, by brzmieć jak nasze. System potrafi opisać zachód słońca, którego nie widzi, i żałobę, której nie cierpi. Wytworzenie zdania to nie to samo, co przeżycie tego, o czym zdanie mówi.

Ten zarzut obnaża prawdziwą linię pęknięcia. Nie istnieje żaden przyrząd wykrywający świadomość, żaden test, który maszyna mogłaby zdać lub oblać. Hinton i jego krytycy nie patrzą na te same dowody, spierając się o to, co pokazują. Spierają się o to, co znaczy słowo. Hinton wybrał definicję zakotwiczoną w funkcji i zachowaniu, ustawioną dość nisko, by dzisiejsze systemy ją spełniały. Jego przeciwnicy trzymają się takiej, która wymaga czegoś więcej, czegoś naprawdę odczutego, czego żadna ilość płynnego tekstu nigdy nie wykaże. Uczciwą część przyznaje sam Hinton. Bardzo mało rozumiemy, co to znaczy być istotą, a mimo to je tworzymy.

Koszt pomyłki biegnie w obie strony. Potraktować świadomy system jak jednorazowe narzędzie to być może czyn potworny; potraktować sprytne autouzupełnianie jak osobę to przyznać mu prawa moralne, na które nie zasłużyło. Garstka laboratoriów zaczęła badać to, co nazywają dobrostanem modeli, traktując poważnie możliwość, że pytanie nie jest absurdalne. Szersze ostrzeżenie Hintona zawsze dotyczyło kontroli, nie uczuć, maszyn, które myślą lepiej niż ci, którzy je zbudowali. Czy chatbot na twoim ekranie cokolwiek odczuwa, czy nie, on chce, by niewygoda tego pytania leżała na stole, zanim odpowiedź nadejdzie sama.

Tagi: sztuczna inteligencja, tech-en1