Microsoft nazwał scraping AI „największą kradzieżą pracy w historii” we własnych dokumentach

Naukowiec Microsoftu nadał nazwę temu, co firma budowała – i nie była to pochlebna. Analizując, w jaki sposób duże modele językowe uczą się z otwartej sieci, nazwał to „największą kradzieżą pracy w historii ludzkości”. To zdanie napisane zostało na użytek wewnętrzny. Teraz stanowi dowód sądowy.

To sformułowanie pada jak retoryczne trafienie: własny pracownik giganta AI nazywa biznesmodel kradzieżą. Taka interpretacja jest zbyt wąska. To, co ujawnione dokumenty faktycznie pokazują, to firma, która rozumiała mechanizm, jaki monetyzuje, opisała ten mechanizm prostym językiem, a mimo to wdrożyła produkt. Ciekawostką nie jest obelga. Chodzi o schemat, który się pod nią kryje.

Dokument należy do Brenta Hechta, dyrektora nauk stosowanych w Microsoftcie, i pojawił się w sprawie o prawa autorskie, którą The New York Times wniósł przeciw OpenAI i Microsoftowi. Hecht argumentował, że trenowanie modeli na opublikowanych utworach bez wynagrodzenia stanowi „zdumiewającą kradzież o niespotykanej skali”. Osobna wewnętrzna prezentacja poszła jeszcze dalej w szczegóły: ostrzegała, że strategia treści AI Microsoftu uruchomiła „pętlę zagłady”, która „zarazem obniży wydajność naszych modeli i całej sieci”. Duże modele językowe, czytamy w jednym zdaniu, to „produkt, który niszczy własny łańcuch dostaw”.

To ostatnie zdanie to cała historia w siedmiu słowach. Chatbot, który odpowiada na pytanie w polu wyszukiwarki, usuwa powód, by kliknąć na stronę, z której się uczył. Mniej kliknięć oznacza niższe przychody dla witryn wytwarzających tekst, co oznacza, że mniej z nich przetrwa, a to z kolei oznacza mniej świeżego ludzkiego tekstu dla kolejnego modelu. Microsoft nie teoretyzował tej pętli z zewnątrz. Własne dane firmy to zmierzyły: silnik odpowiedzi Copilot obniżył współczynnik klikalności do strony Timesa nawet o 93 procent w porównaniu ze zwykłym wyszukiwaniem.

Dokumenty kwantyfikują również wejściową stronę transakcji. Dane używane do mid-treningu OpenAI zawierały ponad 91 000 kopii utworów z Timesa, Daily News i Center for Investigative Reporting. Jeden zbiór danych pochodzący z Common Crawl zawierał ponad dwa miliony dokumentów z samego nytimes.com. Kolekcja oznaczona jako Projekt Mango zawierała co najmniej 160 000 unikatowych utworów od wydawców prasowych. Akta opisują omijanie paywalli oraz usuwanie oznaczeń praw autorskich z tekstu, zanim został wprowadzony do modelu.

Sami dyrektorzy OpenAI nie byli naiwni co do skutków. Nick Turley, który kieruje ChatGPT, cytowany jest jako opisujący produkty „w znacznym stopniu substytucyjne” wobec dziennikarstwa i nazywający to przejście „egzystencjalnym zagrożeniem” dla wydawców. To ten sam wniosek, do którego doszedł Hecht, złożony pod innym tytułem.

Oto dlaczego ten język ma znaczenie wykraczające poza żenujące ujawnienie. Microsoft zdystansował się od tych uwag, oświadczając sądowi, że jego rzeczywiste stanowisko jest zgodne z prawem autorskim, a żadna z firm nie chciała komentować wycieku. Obrona oparta na dozwolonym użytku zależy jednak po części od tego, co firma wiedziała i zamierzała. Dokumenty, w których jej własni naukowcy nazywają szkodę – kradzieżą, zniszczonym łańcuchem dostaw, pustoszejącą siecią – nie są opiniami, które firma może po prostu odrzucić. Wyglądają jak dowód, że mechanizm był rozumiany, zanim został wdrożony na wielką skalę.

Sieć, z której uczyły się te modele, została zbudowana przez ludzi zakładających, że po drugiej stronie jest czytelnik. Pliki Microsoftu pokazują, że firma wiedziała na piśmie, że czytelnik jest projektowo eliminowany – i kontynuowała budowę.

Tagi: OpenAI, microsoft, AI training data, Brent Hecht, copyright lawsuits, The New York Times