Google usunęło AI do edycji map satelitarnych dzień po premierze

Google Earth przez dwie dekady stało się domyślnym punktem odniesienia dla każdego, kto próbuje zweryfikować, jak faktycznie wygląda świat fizyczny. Dziennikarze używają go do dokumentowania stref konfliktów. Badacze praw człowieka śledzą za jego pomocą ośrodki detencyjne. Inspektorzy ONZ zaglądają na niego z bezpieczeństwa swojego biura. Google na krótko dodało do niego coś nowego: generator obrazów AI podpięty bezpośrednio do mapy satelitarnej.

Narzędzie, zbudowane na Nano Banana 2 – własnym modelu generowania obrazów Google – działało zgodnie z przeznaczeniem. Użytkownicy wpisywali tekstową komendę – „pokaż Pompeje przed erupcją” albo „zmień tę linię brzegową w infografikę” – a AI nakładało wygenerowane obrazy na odpowiadające im współrzędne geograficzne. Łatwo było sobie wyobrazić uzasadnione zastosowania. Te niebezpieczne okazały się równie łatwe do wykonania.

Henk van Ess, dziennikarz śledczy, był jednym z pierwszych, którzy udokumentowali problem. W ciągu kilku godzin od premiery wygenerował fikcyjną elektrownię jądrową nad lokalizacją w Iranie. Efekt był na tyle przekonujący, że unaoczniał ryzyko. Jeszcze bardziej niepokojące okazało się to, co stało się, gdy przetestował wbudowane zabezpieczenie: Google osadziło znaki wodne SynthID – swoją warstwę uwierzytelniania AI – w każdym wygenerowanym obrazie. Van Ess je ominął, fotografując ekran zamiast robić zrzut ekranu. Zewnętrzne narzędzia do wykrywania AI oceniły powstały obraz jako tylko w 1% prawdopodobnie wygenerowany przez sztuczną inteligencję.

Obrona Google była technicznie trafna, ale praktycznie niewystarczająca. Firma zauważyła, że wygenerowane obrazy „nie pojawiały się w głównym widoku Google Earth dla innych użytkowników” – były przypisane do sesji, widoczne tylko dla twórcy. To rozróżnienie traci sens, gdy zrobisz zdjęcie ekranu i udostępnisz rezultat. Sfałszowany obraz satelitarny wrażliwego obiektu, krążący bez niczego poza podpisem, jest nie do odróżnienia od tego stworzonego w celu oszustwa.

Istnieje tu strukturalne napięcie, którego silniejsze zabezpieczenia mogą nie rozwiązać w pełni. Ta sama zdolność, która czyni generowanie obrazów AI użytecznym, czyni je też niebezpiecznym, gdy podstawowym źródłem są zaufane dane satelitarne. To zaufanie opiera się na założeniu, że to, co pokazuje Google Earth, odzwierciedla fizyczną rzeczywistość. W momencie, gdy wygenerowaną treść można nałożyć na rzeczywiste współrzędne – a warstwę uwierzytelniania pokonać aparatem – w tym założeniu pojawia się rysa, która nie znika, gdy funkcja zostanie wyłączona.

Funkcję wycofano 31 lipca, niespełna 24 godziny po premierze. Google przyznało, że widziało „zrzuty ekranu wygenerowanych obrazów, które wydają się naruszać nasze zasady” i zobowiązało się do wdrożenia „silniejszych zabezpieczeń” przed ewentualnym ponownym uruchomieniem. Nie podano żadnego terminu. Czas dodaje kolejną warstwę: od 2 sierpnia pełne przepisy wykonawcze EU AI Act obowiązują w całej Europie, nakazując oznaczanie treści generowanych przez AI, które mogą wprowadzać użytkowników w błąd – w tym, precyzyjnie, syntetycznych obrazów osadzonych w zaufanych źródłach informacji.

Tagi: Google, AI, Google Earth, zdjęcia satelitarne, deepfaki, dezinformacja