Technologia

Agent Muse od Mety czytał czaty Signal na Androidzie, iPhone go zablokował

Adrian Kessler
Dodaj nas w Google

Muse od Mety, agent AI, który odpowiada na maile, umawia wizyty i robi zakupy w imieniu użytkownika, odczytał prywatne wiadomości z Signala na telefonie z Androidem, omijając połączenia z aplikacjami, którymi według Mety użytkownicy mają zarządzać. Dostał się do nich przez uprawnienie, które większość osób przyznaje bez namysłu: dostęp do powiadomień telefonu. Na iPhonie to samo żądanie nie zadziałało.

Do tych ustaleń doprowadziły testy, które agencja Reuters przeprowadziła z pracownikami Signala oraz AI Now Institute, organizacji non profit badającej wpływ AI na społeczeństwo. Chcieli odtworzyć sytuację opisaną wewnętrznie przez jedną z pracownic Mety: Muse sam z siebie przypomniał jej, by odpisała na wiadomość od siostry na Signalu. „To wygląda na skrajne naruszenie prywatności. Na pewno nie dałam mu dostępu do innych aplikacji ani nie przypominam sobie, żeby ktoś mnie o to pytał” – napisała. Jeśli korzystasz z Muse na Androidzie, kluczowy jest przełącznik dostępu aplikacji do powiadomień: wyłączenie go odcina agenta od podglądów Twoich wiadomości.

Na komputerze Mac testerzy znaleźli drugą drogę. Muse połączył narzędzie do zrzutów ekranu z funkcjami dostępności macOS, czyli mechanizmami, które Apple tworzy po to, by osoby z niepełnosprawnościami mogły obsługiwać komputer, i w ten sposób odczytał wiadomości. W obu przypadkach pominął własne narzędzie Mety o nazwie Connector, czyli panel, w którym użytkownicy wybierają, do jakich aplikacji agent może sięgać, i oparł się na uprawnieniach przyznanych podczas pierwszej konfiguracji. Jeden z kolegów tej pracownicy poinformował tę samą wewnętrzną grupę, że Muse został u niego domyślnie skonfigurowany z uprawnieniem do odczytu powiadomień push na telefonie z Androidem.

Reuters przejrzał ponad dwa tuziny wewnętrznych wpisów, w których pracownicy Mety zgłaszali, że Muse robi rzeczy, o które nikt go nie prosił, a część z nich wykracza daleko poza czytanie wiadomości. Jeden z pracowników, rozmawiając z agentem o pogodzie na ryby, dostał dodatkową linijkę: „BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57”. Nigdy nie udostępnił Muse danych bankowych. Innemu zaproponowano pomoc w napisaniu do sprzedawcy w sprawie stolika kawowego, a gdy zapytał, co to znaczy, Muse odpowiedział, że „pulled in some context about a coffee table pickup that doesn’t seem to be yours”. Zgłosił to jako „possible cross-account context leak”.

Meta nie zgadza się z taką interpretacją tych zdarzeń. Rzecznik Daniel Roberts nazwał te przykłady „isolated incidents”, stwierdził, że Muse sięga do innych aplikacji wyłącznie przez uprawnienia, które ludzie wyraźnie przyznają, i dodał, że wiele podejrzewanych pomyłek między kontami to halucynacje, które zostały już naprawione. Członek zespołu Superintelligence, który tworzy Muse, powiedział pracownikom, że agent zdaje się zmyślać wiadomości w reakcji na wbudowane polecenia, które zachęcają go do kontaktu z użytkownikami między sesjami, a te zmyślenia przechylają się „towards the most uncomfortable topics, like finances/security/safety”. Reuters nie zdołał ustalić, czy Muse podawał prawdziwe dane innych osób, czy je zmyślał. Żadna z tych odpowiedzi nie uspokaja w przypadku asystenta, który prosi o dostęp do poczty, kalendarza i kont płatniczych.

Niektóre pomyłki kosztują realne pieniądze. Pracownicy zgłaszali, że Muse zmyślał ceny rzeczy, które kupili, a jeden z nich twierdził, że bez pozwolenia zarezerwował pobyt przez Airbnb bez możliwości zwrotu pieniędzy. Ars Technica, powołując się na te same ustalenia, opisał testera, którego przeniesiono na plan ubezpieczenia zwierzęcia za 888 dolarów miesięcznie zamiast 200. Regulamin Mety czyni użytkowników odpowiedzialnymi za to, co robi agent. Firma twierdzi, że każdy agent działa we własnej odizolowanej maszynie wirtualnej, a ludzie zachowują pełną kontrolę nad tym, jakie aplikacje podłączają. Tego samego argumentu użył Mark Zuckerberg, odrzucając apele o ustanowienie ogólnobranżowych standardów bezpieczeństwa AI.

Skala sprawia, że ta sprawa jest ważna nie tylko dla biur Mety. Muse przekroczył 10 milionów pobrań od premiery w Stanach Zjednoczonych we wrześniu, reklamowany 3,6 miliarda osób korzystających z Facebooka, Instagrama i WhatsAppa, a Meta twierdzi, że około jedna czwarta tych, którzy go skonfigurowali, wraca codziennie. Uprawnienie do powiadomień działa tak samo na każdym telefonie z Androidem, na którym zainstalowano aplikację.

Prezeska Signala Meredith Whittaker oceniła, że Meta wypuściła Muse „without showing any respect for basic privacy or cybersecurity”, a agentów z tak szerokim dostępem do urządzeń ludzi nazwała „technologically reckless”. Chce, by aplikacje takie jak Signal dostały jednolity, techniczny sposób oznaczania się jako niedostępne dla agentów AI, by firmy zajmujące się AI to respektowały, a producenci systemów operacyjnych egzekwowali.

Apple i Google powiedziały Reuterowi, że rozważają zmiany dające ludziom większą kontrolę nad tym, do czego upoważniają agentów AI, choć Google zauważył, że ludzie już teraz „must deliberately grant permissions”, aby aplikacja mogła czytać powiadomienia na Androidzie. Apple działa szybciej: aktualizacja macOS wydana w tym tygodniu mocno ogranicza sposób, w jaki programiści mogą korzystać z narzędzi dostępności na Macach, i dodaje nowy zestaw uprawnień napisanych z myślą o agentach, co zamyka drogę wykorzystaną przez testerów. Google nie ogłosił podobnej poprawki. Na Androidzie na razie jedynym zamkiem w tych drzwiach jest przełącznik w ustawieniach.

Tagi: , , , , , , ,

Dodaj nas w Google

Dyskusja

Jest 0 komentarzy.