Sklonowane przez AI głosy prezesów wyłudziły 129 mln dolarów od szpitali i banków

Głos w słuchawce brzmiał jak głos szefa, a prawnik, który zadzwonił chwilę później, jak wspólnik jednej z największych kancelarii na świecie. Według federalnych prokuratorów z Manhattanu żaden z nich nie był prawdziwy. Twierdzą oni, że trzech mężczyzn wykorzystało sztuczną inteligencję, by naśladować prezesów i prawników, a następnie nakłoniło pracowników działów księgowości szpitali, banków i innych firm do przelewania pieniędzy na rzekome poufne transakcje, które nigdy nie istniały. Pieniądze zamieniano na kryptowaluty i dzielono między uczestników spisku.

Sprawa wykracza daleko poza firmy, które straciły pieniądze. Nikt nie włamał się do komputera. Oszustwo opierało się na czymś, co niemal każdy pracownik biurowy robi bez zastanowienia: ufa znajomemu głosowi, który prosi o pomoc. Przemówienia prezesa, telekonferencje poświęcone wynikom finansowym i panele konferencyjne są dostępne publicznie, a oprogramowanie do klonowania głosu może wykorzystać takie nagrania. Jeśli oszust potrafi brzmieć jak twój przełożony, rozmowa telefoniczna nie potwierdza już, kto naprawdę jest po drugiej stronie.

Akt oskarżenia, wniesiony w Południowym Dystrykcie Nowego Jorku, obejmuje Jacoba Soalla (41 lat), mieszkającego w Marbelli w Hiszpanii oraz w Wielkiej Brytanii; Sharona Hazana (54 lata) z Izraela; i Guya Sheetrita (42 lata), obywatela Izraela i Zjednoczonych Emiratów Arabskich. Każdemu postawiono siedem zarzutów, w tym zmowę w celu popełnienia oszustwa za pomocą przelewów elektronicznych, kradzież tożsamości w okolicznościach obciążających oraz pranie pieniędzy. Prokuratorzy twierdzą, że grupa wyłudziła od firm w Stanach Zjednoczonych i za granicą około 129 milionów dolarów.

Jak wynika z aktu oskarżenia, schemat rzadko się zmieniał. Zwykle zaczynało się od wiadomości wysłanej za pośrednictwem usługi podpisu elektronicznego, takiej jak DocuSign. Wyglądała na wiadomość od prezesa firmy, zawierała prośbę o pomoc przy tajnej transakcji i załączoną umowę o zachowaniu poufności. Potem następowały telefony, podczas których oskarżeni mieli wykorzystywać AI do naśladowania głosu, a czasem także twarzy prezesa. Fałszywy prezes przekazywał rozmowę fałszywemu prawnikowi, który zwykle posługiwał się nazwiskiem prawdziwego adwokata z europejskiego biura jednej z 50 największych kancelarii. Soall, jak twierdzą prokuratorzy, miał odręczny skrypt zatytułowany „Lawyer Call”, w którym powoływał się na poufność i przepisy dotyczące wykorzystywania informacji poufnych, by powstrzymać pracowników przed rozmowami z kolegami.

W dokumentach oskarżenia nie ujawniono nazw ofiar, ale wymienione straty pokazują przekrój całej gospodarki. Sieć szpitali w Missouri przelała 4 829 580 dolarów. Bank z Rhode Island stracił 2 684 580 dolarów, a sieć szpitali z Kalifornii — 2 968 497 dolarów. Brytyjska firma z sektora technologii finansowych straciła 11 578 474 dolary, firma zarządzająca funduszami inwestycyjnymi z Massachusetts — 4 639 918 dolarów, a producent karmy dla zwierząt z Florydy — 5 242 747 dolarów. Pieniądze trafiały na konta w Stanach Zjednoczonych, Hiszpanii, Portugalii, Grecji, Zjednoczonych Emiratach Arabskich, Singapurze, Austrii, Słowacji i Chinach, zanim zamieniono je na kryptowaluty.

Jedna z firm uniknęła straty. W dużym nowojorskim banku inwestycyjnym pracownik zatwierdził płatność w wysokości około 2,85 miliona dolarów, ale — jak twierdzą prokuratorzy — zaplecze operacyjne banku zablokowało przelew, zanim został wysłany. Zadziałała kontrola drugiej pary ludzkich oczu, a nie wykrywacz deepfake’ów.

Wykorzystanie AI jest nowym elementem, samo przestępstwo — nie. W komunikacie Departamentu Sprawiedliwości USA narzędzia nazwano „superinteligencją”, natomiast w samym akcie oskarżenia mowa o sztucznej inteligencji. Żadne z opublikowanych dokumentów nie wskazują, by użyto czegoś więcej niż dostępne komercyjnie narzędzia do klonowania głosu i twarzy. Reszta to dobrze znany schemat: fałszywe e-maile od prezesów, przelewy przez konta w kilku krajach, a potem pranie pieniędzy. Prokuratorzy twierdzą, że Hazan, skazany w tym samym sądzie w 2008 roku za udział w zmowie mającej na celu oszustwo bankowe, chwalił się, że w ciągu trzech lat wyprał ponad 400 milionów dolarów i był „numerem jeden na całym świecie”. To zarzuty — żaden z trzech mężczyzn nie został skazany, a prokuratorzy nie podali, jaką część pieniędzy udało się odzyskać ani jakich narzędzi do klonowania użyto.

Firmy już wcześniej dostrzegały to zagrożenie. W 2024 roku firma inżynieryjna Arup straciła około 25 milionów dolarów, gdy pracownik w Hongkongu dołączył do wideokonferencji, w której pozostali uczestnicy byli deepfake’ami. Podstawowe zalecenia pozostają bez zmian: oddzwoń do prezesa pod znany ci numer, wymagaj zatwierdzenia dużych przelewów przez drugą osobę i traktuj żądanie zachowania tajemnicy jako sygnał ostrzegawczy. „Zachęcam osoby prywatne i przedstawicieli biznesu, by zastanowili się, jak najlepiej chronić się przed nowym zagrożeniem, jakim jest przestępczość wykorzystująca SI” — powiedział prokurator federalny USA Jamie McDonald.

Według oskarżenia spisek trwał co najmniej od lipca 2024 roku do lutego 2026 roku. Soall został aresztowany w Hiszpanii 17 czerwca, Hazan — w Hiszpanii 5 sierpnia, a Sheetrit — w Wielkiej Brytanii 7 września. Akt oskarżenia odtajniono w pierwszym tygodniu listopada, a wnioski o ekstradycję całej trójki są w toku. Za oszustwo za pomocą przelewów elektronicznych i pranie pieniędzy grozi maksymalnie po 20 lat więzienia. FBI apeluje do innych potencjalnych ofiar o zgłaszanie się za pośrednictwem strony do przekazywania wskazówek.

Bank, który nie stracił pieniędzy, nie miał lepszej AI. Miał pracownika na zapleczu, który sprawdził przelew, zanim ten wyszedł.

Tagi: Folarin Balogun, Baker Mayfield, Meghan Markle, cyberbezpieczeństwo, deepfake, klonowanie głosu