Technologia

Nowy regulamin Wells Fargo przerzuca na klienta błędy jego agenta AI

Susan Hill
Dodaj nas w Google

Wells Fargo przepisuje umowę dotyczącą swojej aplikacji i strony internetowej tak, by wszystko, co zewnętrzny agent AI zrobi na koncie klienta, było traktowane jak czynność samego klienta. Bank deklaruje, że będzie wykonywał polecenia agenta bez ich sprawdzania, nie będzie obserwował jego działań, a jego pomyłki zapisze na konto klienta. „Korzystanie z jakiegokolwiek agenta AI odbywa się NA WŁASNE RYZYKO” – czytamy w nowych zasadach, zapisanych wersalikami.

Dla każdego, kto powierzył hasło do bankowości botowi zakupowemu albo asystentowi budżetowemu, oznacza to zmianę w tym, kto płaci, gdy oprogramowanie się pomyli. Podwójna płatność, zamówienie złożone dziesięciokrotnie czy przelew uruchomiony przez podstawioną stronę internetową obciążą posiadacza rachunku, a nie bank – chyba że przepisy stanowią inaczej. Nikt nie musi niczego podpisywać: klientów, którzy po zmianie nadal korzystają z bankowości internetowej, uznaje się za tych, którzy ją zaakceptowali. „Konsumenci upoważniają do realizacji celów, a nie do każdego kliknięcia” – powiedziała Wired Kacy Kim, profesor marketingu na Bryant University, badająca zachowania konsumenckie.

Definicja jest szeroka. Wells Fargo nazywa „agentem AI” każde oprogramowanie, które podejmuje „autonomiczne, częściowo autonomiczne lub nieautonomiczne działania” w czyimś imieniu, a to sięga znacznie dalej niż chatboty sprzedawane jako osobiści asystenci. Klient ponosi koszt tego, że agent źle zrozumie polecenia, zrobi coś, o co nikt nie prosił, zadziała na podstawie „zmanipulowanych danych wejściowych” albo przekroczy przyznane mu uprawnienia. Te same zasady dotyczą agentów obsługiwanych przez osoby, które klient wpuszcza na konto, a osoby poniżej 18. roku życia w ogóle nie mogą podłączać żadnego agenta.

Wyłączenie agenta również spoczywa na kkkliencie. Zgodnie z regulaminem klienci muszą samodzielnie odebrać mu dostęp, zachować dowody, że to zrobili, i przekazać je, jeśli bank o to poprosi. Dopóki nie powiadomią Wells Fargo, odpowiadają za wszystko, co agent zrobi. To zgodne z logiką amerykańskiego przepisu o transferach elektronicznych, Regulation E, który traktuje przelewy wykonane przez osobę, której udostępniono kartę lub dane logowania, jako autoryzowane do chwili, gdy klient poleci bankowi je zatrzymać.

Wells Fargo wciąż wpuszcza agentów, co plasuje go po liberalnej stronie branży, która zamyka drzwi. Według Wired JPMorgan Chase zmienił regulamin, by zakazać zewnętrznych agentów logujących się danymi klienta, Bank of America ostrzegł klientów, by nie udostępniali agentom swoich loginów, a Citibank i PNC dodały własne ostrzeżenia. Morgan Stanley zablokował zewnętrznych agentów na swoich platformach – podał Axios. Wells Fargo zachował prawo do odcięcia połączeń, z których korzystają agenci, lub do zablokowania dowolnego agenta.

Opór wykracza poza bankowość. Amazon zablokował agentowi Muse firmy Meta możliwość dokonywania zakupów w swoim sklepie, a United Airlines oświadczyły, że osobiste boty nie będą mogły kupować biletów dla podróżnych. American Express jest w relacji Wired rzadkim wyjątkiem: firma powiedziała, że niektóre błędy agentów, na przykład zamówienie zbyt wielu sztuk towaru, mogą w przyszłości kwalifikować się do zwrotu, jeśli kupujący nie odzyska pieniędzy od sprzedawcy.

Jak bardzo nowe brzmienie zmieni praktykę, nie wiadomo. Jego klauzule wielokrotnie odsyłają do „prawa lub regulacji”, a żaden sąd nie rozstrzygnął, kto ponosi stratę, gdy agent włączony przez klienta zrobi coś, czego klient nigdy nie zamierzał. Grono odbiorców jest też niewielkie. „Wszystkie nasze dane pokazują, że większość ludzi w ogóle nie wie, czym są agenci, a tym bardziej z nich nie korzysta” – powiedziała Wired Sucharita Kodali, analityczka Forrester. A banki nie są przeciwne agentom jako takim. „Zamykają drzwi przed zewnętrznymi agentami i budują własnych” – stwierdził Luca Cian, profesor University of Virginia, badacz psychologii konsumenckiej i sztucznej inteligencji. Własny asystent generatywnej AI Wells Fargo obsłużył już ponad miliard interakcji.

Nowe zasady obejmują wyłącznie klientów amerykańskiej bankowości internetowej i mobilnej Wells Fargo, a wszystkie dotąd wymienione banki są amerykańskie. W Unii Europejskiej przepisy o płatnościach już teraz kierują aplikacje, które odczytują dane lub przesuwają pieniądze, ku licencjonowanym połączeniom udostępnianym przez bank zamiast wspólnego hasła, co zostawia mniej miejsca dla agentów logujących się jako klient.

Zaktualizowana umowa Wells Fargo wchodzi w życie we wtorek, 24 listopada, i obowiązuje każdego, kto po tym dniu nadal korzysta ze strony internetowej lub aplikacji banku. Zakaz JPMorgan wobec agentów używających danych logowania pojawił się pod koniec października, tego samego dnia, w którym Bank of America wysłał swoje ostrzeżenie. Wells Fargo zachował też możliwość zobowiązania klientów do rejestrowania agentów w banku, co dałoby mu listę botów, których – jak twierdzi – nie obserwuje.

Tagi: , , , , ,

Dodaj nas w Google

Dyskusja

Jest 0 komentarzy.