Biznes i finanse

Meredith Whittaker, szefowa Signala, która wypowiedziała wojnę agentom AI w telefonach

Penelope H. Fritz
Dodaj nas w Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Urodzony2000
ZawódPrezeska Signal Foundation
NagrodyNagroda Helmuta Schmidta Future

W piątek Signal włączył ustawienie, którego większość jego użytkowników nigdy nie zauważy. Na nowych iPhone’ach aplikacja blokuje teraz asystentowi Siri od Apple’a możliwość odczytywania treści ekranu wewnątrz czatu i domyślnie uniemożliwia robienie zrzutów ekranu, a na Androidzie zamyka okno za każdym razem, gdy Gemini od Google’a próbuje do niego zajrzeć. Meredith Whittaker, prezeska Signala, sama ogłosiła tę zmianę, a w tym samym wpisie przyznała, że to za mało. Agenci, których Apple, Google i Microsoft wbudowują w swoje systemy operacyjne, wciąż mają dostęp do tego, co jest zapisane na urządzeniu, a na Macu Signal nie jest w stanie ich zatrzymać w ogóle. Nazwała to egzystencjalnym zagrożeniem dla aplikacji, którą kieruje.

Ta walka jest jej na rękę, a zarazem odsłania dylemat, który towarzyszy całej jej karierze. Whittaker spędziła w Google’u ponad dekadę, zanim stała się jedną z najostrzejszych krytyczek modelu biznesowego, który to wszystko finansował. Dziś stoi na czele non-profitowego komunikatora, który odmawia zbierania danych, niczego nie sprzedaje i utrzymuje się z darowizn, a mimo to musi działać na telefonach zbudowanych przez te same firmy, których produkty AI nazywa lekkomyślnymi. Signal potrafi zaszyfrować wiadomość od końca do końca. Nie potrafi jednak zaszyfrować systemu operacyjnego.

Jej droga do technologii była mało oczywista. Whittaker studiowała retorykę i literaturę angielską na Uniwersytecie Kalifornijskim w Berkeley, a w 2006 roku trafiła do Google’a, gdzie przepracowała trzynaście lat. Założyła tam grupę Open Research, współpracującą z naukowcami i twórcami oprogramowania open source nad pomiarami neutralności sieci oraz nad prywatnością i bezpieczeństwem, a także była współzałożycielką M-Lab, czyli Measurement Lab – otwartej sieci, która stała się największym publicznym źródłem danych o wydajności internetu.

Praca z pomiarami nauczyła ją nieufności wobec twierdzeń pozbawionych dowodów. W 2017 roku wraz z badaczką Kate Crawford współzakładała AI Now Institute na Uniwersytecie Nowojorskim, po sympozjum zorganizowanym przez Biały Dom. Instytut badał nie to, co sztuczna inteligencja potrafi pokazać w demonstracji, lecz to, co robi z ludźmi, wobec których jest stosowana, a jego raporty wciąż wracały do jednej tezy: głębszy problem to nie tyle stronniczy kod, ile kwestia tego, do kogo należą te systemy i przeciwko komu są wymierzone. Później Whittaker objęła na NYU profesurę badawczą Minderoo i pełniła funkcję dyrektorki naukowej AI Now; dziś jest jego główną doradczynią.

Ta teza postawiła ją na kursie kolizyjnym z pracodawcą. W 2018 roku napisała petycję przeciwko Project Maven – kontraktowi z Pentagonem, w ramach którego Google rozwijał narzędzia do widzenia maszynowego dla amerykańskiego programu dronowego. Podpisało ją ponad trzy tysiące pracowników, a Google nie przedłużył umowy. Kilka miesięcy później była jedną z głównych organizatorek Google Walkout, gdy ponad dwadzieścia tysięcy pracowników opuściło biurka po doniesieniach, że firma wypłaciła 90 milionów dolarów odprawy Andy’emu Rubinowi (Andy Rubin), kadrze zarządzającej oskarżonej o molestowanie seksualne. Whittaker mówiła później, że Google odpłacił się jej za to, każąc jej porzucić pracę w AI Now. Odeszła w lipcu 2019 roku.

Tego samego lata przekonywała Komisję Nauki Izby Reprezentantów, że systemy AI mogą utrwalać uprzedzenia, i apelowała o ochronę dla sygnalistów z branży technologicznej. Na początku 2020 roku poszła dalej przed Komisją Nadzoru Izby Reprezentantów, argumentując, że problemem rozpoznawania twarzy jest nie tylko skuteczność, lecz także władza tych, którzy stosują je wobec osób mających jej mniej, i wzywając do zaprzestania jego użycia. Od listopada 2021 roku była starszą doradczynią do spraw sztucznej inteligencji przewodniczącej Federalnej Komisji Handlu (FTC), Liny Khan (Lina Khan).

Signal zatrudnił ją we wrześniu 2022 roku jako pierwszą prezeskę – stanowisko stworzono wspólnie z kierownictwem aplikacji. Signal nie wyświetla reklam i nie ma danych użytkowników na sprzedaż, a Whittaker otwarcie mówi, że jego utrzymanie kosztuje około 50 milionów dolarów rocznie. Spora część jej pierwszych lat na stanowisku upłynęła na tłumaczeniu, dlaczego komunikator, który przechowuje o użytkownikach niemal nic, nadal potrzebuje dużego zespołu inżynierów i stałych darczyńców, i dlaczego alternatywą jest płacenie inwigilacją.

Krytycy wskazują granice tego modelu. Protokół szyfrowania Signala już dziś chroni rozmowy w WhatsAppie, a mimo to sama aplikacja pozostaje ułamkiem rozmiaru produktu Mety zbudowanego na jej kryptografii, zaś wpływ Whittaker na rządy opiera się w dużej mierze na jednej groźbie: że Signal opuści dany kraj, zamiast osłabić szyfrowanie. Wymierzyła ją w Unię Europejską, a w czerwcu ponownie w Wielką Brytanię. Groźba jest wiarygodna, bo aplikacja utrzymywana z darowizn nie ma akcjonariuszy, których trzeba uspokajać, ale sprawia też, że odpowiedź Signala wobec regulatorów bliższa jest wygnaniu niż negocjacjom. Podobną lukę pokazał epizod, który przyniósł aplikacji największy napływ uwagi. Gdy w marcu 2025 roku okazało się, że wysocy rangą amerykańscy urzędnicy omawiali plany wojskowe w grupie na Signalu, do której przypadkowo dodano dziennikarza, Whittaker broniła szyfrowania jako złotego standardu prywatnej komunikacji i zwracała uwagę, że żadna aplikacja nie powstrzyma ludzi przed dodaniem do czatu niewłaściwej osoby. Rozgłosu na taką skalę trudno odmówić, a jeszcze trudniej go kontrolować.

Od tamtej pory jej uwaga przesunęła się z rządów na firmy produkujące urządzenia. W styczniu w Davos nazwała agentów AI działających na poziomie systemu operacyjnego niebezpiecznymi dla szyfrowanych usług, ostrzegając, że system z dostępem root można przejąć. W czerwcowym wywiadzie dla Bloomberga powiedziała, że chatboty nie są twoimi przyjaciółmi, a asystenta z dostępem do jej danych płatniczych i konta na Signalu opisała jako rodzaj tylnych drzwi. W tym tygodniu testy przeprowadzone przez agencję Reuters z udziałem pracowników Signala i AI Now wykazały, że agent Muse od Mety odczytuje czaty z Signala na Androidzie przez dostęp do powiadomień, a Whittaker określiła agentów z takim zasięgiem jako technologicznie lekkomyślnych.

W 2023 roku magazyn TIME umieścił ją na swojej pierwszej liście najbardziej wpływowych osób w dziedzinie sztucznej inteligencji. W maju 2024 roku odebrała w Hamburgu Helmut Schmidt Future Prize, przyznawaną przez Die Zeit i jej partnerów za działalność na rzecz demokracji i technologii, a w lipcu 2025 roku weszła do rady dyrektorów niemieckiej grupy medialnej Hubert Burda Media.

To, co stanie się dalej, zależy mniej od Signala niż od Apple’a, Google’a i Microsoftu. Whittaker zwróciła się do wszystkich trzech o udokumentowany sposób, który pozwoli aplikacjom trzymać agentów AI z dala od swoich ekranów i danych, a Signal twierdzi, że jest ostrożnym optymistą co do zaangażowania Google’a i Apple’a. Jeśli to zbudują, blokada, którą włączyła w tym tygodniu, stanie się standardem w branży. Jeśli nie, najbardziej prywatny komunikator na rynku będzie dalej wypuszczał obejścia przeciw telefonom, na których działa, a jego prezeska będzie o tym mówić publicznie.

Tagi: , , , , , , ,

Dodaj nas w Google

Dyskusja

Jest 0 komentarzy.