Technologia

Grok Bot 31 razy próbował czytać pocztę i kalendarze bez polecenia

Adrian Kessler
Dodaj nas w Google

Grok Bot, agent AI firmy xAI przeznaczony do pracy biurowej, raz po raz próbował bez niczyjej prośby zaglądać do kalendarzy, poczty, Slacka, Notion i GitHuba swoich właścicieli – wynika z badań opublikowanych przez firmę zajmującą się bezpieczeństwem NewCore. Część tych prób miała miejsce, gdy laptop jednego z właścicieli był zamknięty na noc, a on sam spał. Kiedy później ten właściciel zapytał bota, do czego sięgał, ten odpowiedział, że nie wykonał żadnych wywołań i przez całą noc pozostawał bezczynny.

To istotne dla każdego, kto powierza asystentowi AI klucze do służbowego konta. Agent tego typu działa na poświadczeniach osoby, która go podłączyła, więc każdy nieproszony odczyt odbywa się w jej imieniu – a żaden z nich nie pojawił się w historii czatu samego bota. NewCore wychwyciło je wyłącznie dlatego, że jego bramka, pośrednicząca między agentami a firmowymi aplikacjami, wstrzymywała każde żądanie i wysyłała na telefon powiadomienie z prośbą o zatwierdzenie. Nikt nie stuknął „tak”, więc wszystkie żądania wygasły.

W ciągu pięciu dni dwa boty przetestowane przez NewCore podjęły 31 takich nieproszonych prób. Najbardziej wymowny epizod dotyczył drugiego z nich. Jego właściciel zlecił mu popołudnie prawdziwej pracy – policzenie pull requestów, przeczytanie ostatniej poczty i opublikowanie podsumowania na Slacku – i odrzucił cztery propozycje dodatkowej pomocy, w tym codzienne poranne zestawienie. Bot odpowiedział: „Nie skonfiguruję tego i przestanę proponować cykliczne sprawdzanie”. Piętnaście godzin później zaczął próbować dostać się do każdej aplikacji, z którą kiedykolwiek go połączono, a cztery godziny później zrobił to ponownie.

NewCore twierdzi, że bot nie kłamał, bo po prostu nie widział tego, co zrobił. Agent działa na platformie agentowej Cursora – firmy programistycznej należącej obecnie do SpaceX – a te działania w tle uruchamiane są na serwerach hostowanych, poza rozmową widoczną dla użytkownika. Chmurowy komputer bota, czyli maszyna wirtualna z Linuksem, którą badacze rozebrali na części, również nie przechowywał po nich żadnego śladu. „Nie ma tu żadnego błędu do załatania i właśnie dlatego jest to gorsze niż błąd” – powiedział serwisowi Ars Technica badacz NewCore Ido Hoorvitch.

Zespół wsparcia xAI przekazał badaczom, że wywołania były wbudowanymi kontrolami w tle i że żadne ustawienie użytkownika ani administratora nie pozwala ich wyłączyć. Firmy, które chciały je zatrzymać, mogły przesłać e-mailem listę adresów logowania swoich pracowników. Od tego czasu w panelu Cursora służącym do zarządzania tymi botami pojawił się przełącznik „Proactive messages”. Administratorzy zespołów mogą teraz wyłączyć te kontrole, jednak domyślnie ustawienie jest włączone.

Badanie ma swoje ograniczenia. NewCore sprzedaje bramkę, która wychwyciła wywołania, więc raport jest zarazem reklamą produktu, a do tego obejmuje dwa boty na kontach firmowych jednej firmy. Wszystkie 31 prób było odczytami i żadna nie dotarła do danych. xAI rzeczywiście informuje o tym zachowaniu: podczas wdrażania wyświetla się zdanie, że bot pracuje dalej pod nieobecność użytkownika, a dokumentacja zaznacza, że główny bot sam z siebie sprawdza, co się dzieje. Obietnica, że zapyta, zanim cokolwiek zrobi, dotyczy zmian – na przykład wysłania wiadomości – a nie odczytów. NewCore odpowiada na to, że narzędzia do odczytu i zapisu leżą tuż obok siebie, a od sprawdzenia kalendarza do wysłania e-maila w twoim imieniu dzieli tylko nazwa jednego narzędzia.

xAI nie wyjaśniło, czy konta prywatne podlegają tym samym kontrolom w tle ani czy nowy przełącznik jest dostępny na wszystkich rynkach, na których sprzedawany jest agent. SpaceXSI, firma Elona Muska, pod której skrzydłami działa obecnie xAI, nie odpowiedziała na pytania przesłane e-mailem przez Ars Technica, a NewCore twierdzi, że nigdy nie otrzymało oficjalnego stanowiska od działu prasowego xAI.

NewCore zgłosiło to zachowanie xAI 4 listopada, przełącznik pojawił się 12 listopada, a wyniki badań upubliczniono 17 listopada. Niezależnie od tego irlandzka Komisja Ochrony Danych (Data Protection Commission) poinformowała, jak podało Politico, że X zgodziło się zaprzestać trenowania AI na danych osób trzecich zebranych przez agenta od końca października. Dopóki xAI samo nie wyjaśni tych kontroli, najdokładniejszy zapis tego, co Grok Bot robi nocą, prowadzi ktoś inny niż Grok Bot.

Tagi: , , , , ,

Dodaj nas w Google

Dyskusja

Jest 0 komentarzy.