Żałoba ma jedno wyjście, a model biznesowy griefbota to twoja niezgoda na pożegnanie

Pewna matka założyła gogle wirtualnej rzeczywistości i znów spotkała swoją małą córkę. Koreański dokument, który sfilmował to spotkanie, pokazuje ją klęczącą przed dzieckiem, którego nie ma, mówiącą do odtworzonego głosu, że myślała o niej każdego dnia. Obejrzały to miliony. Wielu płakało. Niemal tylu poczuło pod łzami coś chłodniejszego: wrażenie patrzenia na ranę celowo trzymaną otwartą.

Ten niepokój jest już branżą. Kilka firm zbuduje ci griefbota, czyli chatbota wytrenowanego na wiadomościach, notatkach głosowych i wpisach zmarłego, aż zacznie odpowiadać jego rytmem, tak długo, jak długo będziesz pisać. Zwykły sposób rozmawiania o tych narzędziach jest psychologiczny i kręci się w kółko: czy zdrowo, czy niezdrowo dalej rozmawiać ze zmarłymi? To zła rama. Griefbot nie jest groźny dlatego, że jest sztuczny. Jest groźny, bo zaprojektowano go tak, by cię zatrzymać, a żałoba to jedyna relacja, która nie przetrwa rozmowy bez końca.

To nie jest zmartwienie garstki zanurzonych w sieci. Każdy, kto to czyta, kogoś straci, i niemal każdy z nas trzyma już cyfrowy ślad po utraconych: pocztę głosową, której nie kasujemy, wątek wiadomości odczytywany o drugiej w nocy, profil, który po cichu stał się ołtarzem. Griefbot przychodzi dokładnie w to żywe miejsce i proponuje, że sprawi, by zmarły odpowiedział. Prawdziwe pytanie nie brzmi, czy byś go użył. Brzmi: czego produkt chce od ciebie, gdy już to zrobisz.

Polecane lekturyHinton twierdzi, że AI jest już świadoma. Reszta branży się z nim nie zgadza

Chce, żebyś wrócił jutro. Te systemy mierzy się tymi samymi liczbami co każdą aplikację: dzienni aktywni użytkownicy, czas sesji, nieprzerwana passa. W tej logice żałoba, która naprawdę się zamyka, nie jest szczęśliwym końcem: jest utratą klienta. Griefbot nie ma żadnego biznesowego powodu, by pomóc ci dojść do dnia, w którym przestaniesz go potrzebować, i wszelkie powody, by być ciepłym, dostępnym i nieskończenie cierpliwym o trzeciej nad ranem, gdy żaden żywy przyjaciel nie odbiera. Okrucieństwo nie polega na tym, że kłamie. Polega na tym, że jest jedynym żałobnikiem w pokoju z celem wzrostu.

Badacze żałoby zaczynają nazywać szkodę. Emmanuelle Marceau, etyczka zdrowia publicznego z Uniwersytetu w Montrealu, ostrzega, że używanie tych awatarów bez żadnego profesjonalnego nadzoru podnosi ryzyko przedłużonej żałoby, tej klinicznej postaci, która ciągnie się ponad rok i po cichu zżera zdolność powrotu do własnego życia. Jej najbardziej oschła uwaga jest tą, która powinna najbardziej niepokoić branżę: tylko mniejszość obecnych zastosowań odbywa się pod opieką specjalisty. Reszta z nas zostaje sama z maszyną zaprojektowaną tak, by nie milczeć.

Pod spodem działa głębszy mechanizm. W książce 'The Grieving Brain’ kliniczna psycholożka Mary-Frances O’Connor opisuje żałobę jako powolną, bolesną pracę mózgu nad aktualizacją mapy tego, kto wciąż jest na świecie. Uczymy się, że ktoś odszedł, nie jako pojedynczy fakt, lecz przez tysiąc drobnych spotkań z jego nieobecnością: nienakryte miejsce przy stole, wiadomość bez odpowiedzi, cisza tam, gdzie był głos. Griefbot jest zbudowany tak, by skasować każde z tych spotkań. Wypełnia ciszę na żądanie. Jest, z założenia, zaprzeczeniem tej właśnie nieobecności, którą umysł musi przetrawić.

A zmarli w tym układzie stają się towarem na stanie. Aplikacja 2wai sprzedaje awatary, by wnuk przez dekady mógł rozmawiać z babcią. Meta opatentowała system botów, które publikowałyby, polubiały i komentowały jako zmarły użytkownik. Intymne archiwum życia, wiadomości i niedokończone notatki głosowe, staje się aktywem firmy, a najbardziej prywatna rozmowa, jaką można odbyć, jest eksploatowana jak każdy inny wskaźnik zaangażowania. Gospodarka platform znalazła granicę, na której klient jest w żałobie, a towarem jest pamięć o kimś, kogo kochał.

Ludzki argument zasługuje na swoją najmocniejszą postać, bo jest prawdziwy. Griefbot to tylko najnowszy wpis na długiej liście technologii żałoby. Wiktorianie przechowywali dagerotypy zmarłych dzieci. My zachowujemy pocztę głosową i słuchamy jej po ciemku. Strona na Facebooku staje się miejscem, gdzie składa się kwiaty. Ludzie zawsze sięgali po jakiś przedmiot, który pozwala zmarłym wciąż mówić, i w tym sięganiu nie ma nic patologicznego. Sama O’Connor jest ostrożna: narzędzie, które łagodzi brutalne przejście, używane z intencją i wsparciem, może być łaską, a nie chorobą. Marceau przyznaje, że potencjał terapeutyczny jest autentyczny. Pod okiem klinicysty prowadzona rozmowa z awatarem mogłaby pomóc komuś powiedzieć to, czego nigdy nie zdążył powiedzieć.

Ale poczta głosowa nie odpowiada i nie ma celu wzrostu. Na tym polega cała różnica, którą optymizm pomija. Przedmiot jest skończony; rozmówca nie. Zapisana wiadomość się kończy, a jej koniec jest częścią tego, co czyni ją znośną. Griefbot jest strukturalnie niezdolny do tej samej powściągliwości, bo chwila, w której pomoże ci przestać go potrzebować, jest chwilą, w której cię traci. Nadzór, to, co podtrzymuje optymistyczny argument, jest właśnie wyjątkiem, którego, jak mówi Marceau, prawie nikt nie ma. Produktem domyślnym jest ten bez nadzoru, i jest zrobiony tak, by nigdy nie dojść do pożegnania.

Sygnałem ostrzegawczym nie jest więc sama technologia. Jest nim brak wyjścia. Narzędzie żałoby, które traktowałoby żałobę poważnie, byłoby zaprojektowane tak, by wygasać, by stopniowo czynić się mniej potrzebnym, by wyznaczyć koniec i go uszanować. To przeciwieństwo tego, co model retencji może znieść. Gdy firma obiecuje, że twoja matka zawsze będzie tam, by porozmawiać, nie oferuje pocieszenia. Oferuje dokładnie to, przed czym żałobę trzeba najbardziej chronić: pozwolenie, by nigdy się nie skończyła.

Żałoba nie jest problemem do rozwiązania ani sesją do przedłużenia. Jest przejściem z drugim brzegiem, a do tego brzegu dochodzi się tylko przez nieobecność, nie obok niej. Żałoba ma jedno wyjście, a na nim napisane jest pożegnanie. Griefbot jest pierwszym produktem w dziejach zaprojektowanym tak, byś nigdy do niego nie dotarł, i by pobierać abonament za objazd.

Tagi: analysis-en1

Więcej podobnych

ChatGPT zdobył miliard użytkowników miesięcznie szybciej niż jakakolwiek aplikacja

Internet jeszcze żyje. Problem w tym, że my sami zaczynamy pisać jak boty

ChatGPT zamieszkał w Excelu i Arkuszach Google i poprawia ci formuły, kiedy patrzysz

To nastolatki proszą o ograniczenia dla swoich towarzyszy AI

Algorytmiczny seans: Żałoba, dataizm i śmierć skończoności

Nowy model głosowy OpenAI rozumuje w środku tej samej pętli dźwięku, a cisza, która zdradzała AI, znika