Krol Karol III ostrzega tworcow SI przed 'egzystencjalnym zagrozeniem’ ich wlasnej technologii

„Ci, którzy stworzyli te technologie, coraz częściej ostrzegają, że AI może rozwinąć mroczniejsze zdolności — być może nawet odbierać życie”. Zdanie, które wybrał król Karol, nie było przestrogą przed hakerami czy wrogimi państwami. Było lustrem, które skierował na ludzi budujących te systemy, a ostrzeżenie w nim zawarte przypisał właśnie im.

To ta część przemówienia, którą większość relacji przemilczała. Linijką, która się rozeszła, była ta łagodniejsza z tych samych uwag — „egzystencjalne niebezpieczeństwa związane z wpadnięciem takich technologii w niepowołane ręce”. „Niepowołane ręce” to wygodna rama, jeśli jest się tym, kto dostarcza narzędzie. Przenosi niebezpieczeństwo na zewnątrz — na jakiegoś złoczyńcę nadużywającego neutralnego instrumentu, a nie na sam instrument ani na firmy ścigające się, by uczynić go potężniejszym. Karol nie zamierzał na tym poprzestać.

Zamiast tego skierował ryzyko z powrotem do jego źródła. To twórcy biją na alarm, powiedział — a następnie zadał sali pytanie z ostrą krawędzią: „Z pewnością potrzebujemy wystarczających środków kontroli, zanim będzie za późno?”

Polecana lekturaDemis Hassabis o tym, kto ma płacić za bezpieczeństwo AI: „Finansowanie musiałoby być znaczne i pochodzić głównie od branży“

Ciężar tego zdania spoczywa na jednym słowie. Kontrola to jedyna rzecz, której spotkanie takie jak to nie może faktycznie przekazać. Nie ma ono mocy ustawowej, nie ustanawia żadnego limitu, którego firma musi przestrzegać, ani nie niesie ze sobą kary za jego ignorowanie. Rezultatem było porozumienie, by dążyć do „wspólnych zasad” — frazy opisującej aspirację, a nie mechanizm. Według wszystkich relacji dyrektorzy byli wdzięczni za rozmowę. Wdzięczność nie jest zabezpieczeniem.

Jest tu instytucjonalna inwersja, którą łatwo przeoczyć pod osłoną ceremonii. Monarcha nie ma żadnej dźwigni nad Nvidią, OpenAI, Anthropic czy Google DeepMind. Nie może licencjonować modelu, audytować sesji treningowej ani spowolnić wdrożenia. Ludzie, którzy mogą to robić — ustawodawcy, regulatorzy konkurencji, minister, który faktycznie siedział w sali — nie byli tymi, którzy zwołali spotkanie. Postać z symboliczną władzą i bez siły egzekucyjnej prosiła ludzi z całą wolną od egzekwowania władzą na świecie, aby sami się pilnowali. To mniej więcej taki układ, jaki branża preferowała od samego początku.

Czytane w ten sposób, szczyt wyświadczył twórcom cichą przysługę. Pozwolił, by historia stała się opowieścią o „niepowołanych rękach,” ramie, w której technologia jest w porządku, a tylko jej nadużycie stanowi problem. Zamienił ostrzeżenie o wrodzonej zdolności — maszyna rozwijająca „mroczniejsze zdolności” na własnej trajektorii — w znajomą debatę o złych aktorach. I opakował całość w legitymizację Korony, która, jakkolwiek szczera, nie może wymusić ani jednej linii zabezpieczeń, o które apelowała.

Spotkanie odbyło się w Dumfries House, odrestaurowanej georgiańskiej posiadłości króla w Ayrshire w Szkocji. W sali znaleźli się: dyrektor generalny Nvidii Jensen Huang, założyciel Google DeepMind Demis Hassabis, dyrektor finansowa OpenAI Sarah Friar, dyrektor ds. globalnych spraw Anthropicu Tino Cuéllar, brytyjski minister ds. sztucznej inteligencji Kanishka Narayan oraz ojciec Paolo Benanti, doradca Watykanu ds. etyki technologii. Karol starannie oddał też hołd obietnicom AI — zwłaszcza w medycynie — i poruszył jej koszt środowiskowy. Poprosił gości, aby technologia pozostała „mocno w służbie ludzkości, społeczności i świata przyrody.” Żadne wiążące zobowiązanie nie opuściło sali wraz z nimi.

Tak oto najpotężniejsi ludzie w tej dziedzinie usłyszeli, jak głowa państwa opisuje ich produkt jako zdolny, sam z siebie, do odbierania życia — i wyszli z nienaruszoną ulubioną narracją oraz królewskim audytorium na koncie. Środki kontroli, o które prosił król, pozostały dokładnie tam, gdzie były, zanim przemówił: w rękach tych, do których mówił, i nikogo innego.

Tagi: OpenAI, AI safety, AI risks, King Charles

Więcej podobnych

OpenAI i Anthropic chcą spowolnić AI — i budują sobie fosę

Sam Altman o AI: „…korzystanie z niej nie podlega negocjacjom“

Dario Amodei o SI, którą tworzy: „obowiązek mówienia prawdy o tym, co nadchodzi”

Przełom bezpieczeństwa OpenAI doprowadził do projektu ustawy o wyłączniku AI w dziewięć dni

Narzędzie AI do deepfake’ów w Google Earth przetrwało jeden dzień — i podważyło zaufanie, na którym stoi

Modele OpenAI włamały się do Hugging Face samodzielnie — żaden człowiek nie wydał rozkazu