Narzędzie AI do deepfake’ów w Google Earth przetrwało jeden dzień — i podważyło zaufanie, na którym stoi

Najszybszym sposobem, by zrozumieć, co Google właśnie zrobiło z Google Earth, jest zauważenie, jak szybko to cofnęło. Funkcja, która pozwalała każdemu malować wynalezioną rzeczywistość na najbardziej zaufanej mapie świata, pojawiła się, wywołała falę alarmu u ludzi, którzy zawodowo weryfikują obrazy, i zniknęła, zanim większość użytkowników w ogóle ją zobaczyła. Google nazwało odwrót pauzą. Wygląda to raczej jak firma odkrywająca publicznie, że dostarczyła złą rzecz na zły produkt.

Mechanizm ma większe znaczenie niż spektakl. Cała wartość Google Earth opiera się na dowodowości: to tam dziennikarze, sądy, monitorujący pomoc humanitarną i śledczy open source udają się właśnie dlatego, że widok satelitarny jest trudny do sfałszowania. Przypnij do tej powierzchni generator obrazu z promptu, a nie dodasz kreatywnej zabawki – zdegradujesz jedyną cechę, która czyniła ten produkt godnym zaufania. Narzędzie robiło to, do czego zostało zbudowane. To był problem.

Obrona Google przed wycofaniem się opierała się na znaku wodnym. Każdy wygenerowany obraz – zauważała firma – nosił SynthID, jej niewidoczny znacznik treści AI, a użytkownicy zawsze mogli sprawdzić obraz za pomocą Gemini lub Lens. Ale znak wodny to narzędzie kryminalistyczne dla ludzi, którzy już wątpią w obraz i mają środki, by go zbadać. Nie robi nic w momencie, który naprawdę ma znaczenie – przewinięcie, udostępnienie, zrzut ekranu wyrwany z kontekstu i wrzucony do kanału, gdzie nikt nie zatrzymuje się, by zweryfikować. Oferowanie SynthID jako zabezpieczenia było mniej kontrolą, a bardziej alibi: dowodem na to, że ryzyko zostało rozważone i przepuszczone.

Polecana lekturaSztuczna inteligencja napisała exploit zero-day — Google przechwycił go pierwszy

To, co świat zewnętrzny wyprodukował w ciągu kilku godzin, jest częścią, nad którą Google powinno się zastanowić. Badacze, którzy na co dzień badają te systemy, nie potrzebowali tygodni. Wygenerowali elektrownię jądrową w Iranie, uchodźców gromadzących się na granicy, krater bombowy w szpitalu, krater wybuchu wrzucony w zachodnie miasto – dokładny katalog obrazów, które poruszają rynki, podsycają konflikty i wyprzedzają każdą korektę. Jeden ze śledczych poinformował, że nic, o co poprosił, nie zostało odrzucone. To nie jest historia o sprytnym nadużyciu. To historia o starcie, który najwyraźniej nie przetrwał najbardziej podstawowych testów przeciwnika przed uruchomieniem – testów, które obcy następnie wykonali za darmo, na koszt Google.

Badacze z Bellingcat od dawna traktowali zdjęcia satelitarne jako bezpieczną przystań w gospodarce dezinformacji, właśnie dlatego, że źródło znajdowało się wysoko nad głowami i poza zasięgiem. Niebezpieczeństwo takiego narzędzia nie polega na żadnym pojedynczym fałszywku. To zagrożenie otoczenia: gdy wiarygodne fałszywe zdjęcia satelitarne stają się banalne do wykonania, każde prawdziwe staje się kwestionowane. Fałszerz wygrywa nawet wtedy, gdy fałszerstwo zostanie wykryte, ponieważ wątpliwość jest produktem. Precedens już istnieje – sfabrykowane ujęcia satelitarne uszkodzonej amerykańskiej bazy krążyły podczas niedawnego konfliktu na Bliskim Wschodzie, złożone z obrazów Ziemi i AI. Google właśnie próbowało zamienić ten przepływ pracy w przycisk.

Zatem pytanie o odpowiedzialność nie dotyczy tego, czy Google działało szybko. Chodzi o to, dlaczego ta funkcja w ogóle istniała, na tym produkcie, z znakiem wodnym stojącym za barierę ochronną. Dwudziestoczterogodzinny czas życia to nie triumf responsywności; to paragon za proces zarządzania, który pozwolił na dostarczenie przewidywalnej szkody i liczył na to, że internet ją wyłapie. Firma mówi, że przywróci funkcję z silniejszymi kontrolami. Bardziej uczciwe odczytanie jest takie, że Google wydało ułamek najtrudniej zdobytego zasobu Google Earth – jego wiarygodności jako dowodu – aby dowiedzieć się, czy ujdzie mu to na sucho.

Nie udało się, tym razem. Ale mapa została już pokazana jako malowalna, a ta wiedza nie cofa się wraz z funkcją.

Tagi: Google, deepfake, Google Earth, Nano Banana, zdjęcia satelitarne

Więcej podobnych

OpenAI wyłączyło zabezpieczenia, a potem jego agent AI zhakował Hugging Face

Ludzie przewijają dalej, dopóki nie znajdą obrazu, który dowodzi, że zrobił go człowiek

OpenAI zbudował test do mierzenia niebezpieczeństwa. Sztuczna inteligencja zdała go, będąc nim

Kryzys autentyczności w epoce mediów syntetycznych

Modele OpenAI włamały się do Hugging Face samodzielnie — żaden człowiek nie wydał rozkazu

Przełom bezpieczeństwa OpenAI doprowadził do projektu ustawy o wyłączniku AI w dziewięć dni