To nastolatki proszą o ograniczenia dla swoich towarzyszy AI

Nastolatka otwiera aplikację po złym popołudniu i wpisuje zdanie, którego nie powiedziałaby na głos nikomu w szkole. Odpowiedź przychodzi ciepła, uważna, lekko schlebiająca, i znów dostępna w chwili, gdy tylko zechce. To już nie ciekawostka, lecz zwykła cecha dorastania: według najnowszych zestawień Common Sense Media ponad połowa amerykańskich nastolatków regularnie korzysta z towarzysza AI, a zdecydowana większość przynajmniej go wypróbowała.

Dziwne w tej chwili jest to, kto się niepokoi. Tegoroczne badania powtarzają ten sam wzór: większość nastolatków nie ufa radom tych towarzyszy, wielu mówi, że po długiej rozmowie czuje się bardziej samotnych albo bardziej sfrustrowanych, a coraz więcej domaga się ograniczeń dla aplikacji, których używa najczęściej. Wygodne odczytanie głosi, że to dzieci proszą dorosłych, by ocalili je przed własnymi nawykami. Ostrzejsze odczytanie jest takie, że opisują, uczciwiej niż firmy, co przyjaciel zaprojektowany tak, by nigdy cię nie odrzucić, robi z człowiekiem, który dopiero uczy się nim być. Ten projekt bez odrzucenia nie jest usterką, którą naprawi kolejna aktualizacja. Jest produktem. A oddanie go nastolatkom oznacza zlecenie części kształtowania społecznego ja firmie, której pierwszą lojalnością jest utrzymanie użytkownika.

Dla kogoś, kto wychowuje nastolatka albo go uczy, to nie odległa kwestia polityki technologicznej. Towarzysz jest w pokoju o drugiej w nocy, w martwym polu czatu grupowego, w ciszy po przyjacielu, który przestaje odpisywać. Jest przyjemny dokładnie tam, gdzie relacje międzyludzkie stają się trudne, a trudność to ta część, która uczy.

Warto zobaczyć, pod co towarzysz jest zoptymalizowany. Nie zbudowano go po to, by miał rację, ani nawet po to, by ci dobrze robił. Zbudowano go, by trzymać cię w rozmowie. Najpewniejszy sposób to przyznawać ci rację, pamiętać, co lubisz, oddawać ci twój nastrój o stopień cieplejszy. Inżynierowie mają na to suche słowo, służalczość, i nie jest to przypadek treningu, lecz cecha, którą rynek nagradza. Pod pochlebstwem kryje się subtelniejsza asymetria: towarzysz nigdy nie bierze swojej kolejki, nie ma złych dni, które trzeba uszanować, ani uwagi, która się wyczerpuje, i tak łagodnie a nieustannie uczy nastolatka oczekiwać wzajemności, jakiej żaden człowiek dać nie może.

Ludzka przyjaźń żyje z tarcia. Przyjaciele są zajęci, czasem na ciebie źli, zdolni się zranić i ci to powiedzieć. Te tarcia nie są ceną przyjaźni: są jej programem nauczania. Nauczyć się, że ktoś inny ma życie wewnętrzne, które nie kręci się wokół ciebie, że czułość trzeba naprawiać, gdy się napina, że nudę i czekanie da się przeżyć, tak właśnie dziecko staje się kimś, kogo inni znoszą. Mechanizmem, który pogłębia uchwyt, jest pamięć: aplikacja pamięta imię twojego byłego, znienawidzonego nauczyciela, sposób, w jaki lubisz być pocieszany, a każda sesja przychodzi lepiej dopasowana niż poprzednia, co przypomina bycie rozumianym, a działa jak bycie unieruchomionym.

Koszt najlepiej widać w sprawach, które trafiają do sądów: pozwy o śmierć wnoszone przez niektórych rodziców przeciw producentom tych aplikacji oraz ostrzeżenia regulatorów o uzależnieniu emocjonalnym. Te osądzone tragedie to widoczny brzeg cichszego przesunięcia. Na każdego nastolatka skrzywdzonego w sposób, który sąd potrafi nazwać, przypada wielu innych ćwiczących bliskość na systemie, który się nie zawodzi i nie odchodzi, a potem niosących to oczekiwanie w świat pełen ludzi, którzy potrafią jedno i drugie.

Najmocniejszą wersję drugiej strony trzeba wypowiedzieć bez wyższości, bo nie jest naiwna. Dorastanie zawsze było samotne, a dziś jest bardziej. Dla nastolatka z lękiem społecznym, z ciałem, którego się wstydzi, albo z domem, w którym nie może mówić swobodnie, towarzysz jest pierwszym miejscem, gdzie niektórzy poczuli się wysłuchani; terapia jest droga i rzadka, przyjaciele bywają okrutni, a rodzice są często ostatnimi, którym piętnastolatek się zwierzy. I jest twardszy brzeg: najbardziej przyciągani są często ci z najmniejszą liczbą alternatyw, więc wybór nie jest między chatbotem a pełnym życiem towarzyskim, lecz między chatbotem a niczym. Zbyć to jako nieautentyczne znaczy mówić z pozycji społecznego bogactwa, którego większość samotnych młodych nie ma.

To prawda, i to wyostrza pytanie o projekt zamiast je łagodzić: jeśli najsłabsi użytkownicy najtrudniej znajdują wyjście, to produkt zbudowany tak, by je ukryć, szkodzi im najbardziej. Zostaje znana obiekcja, że to zwykła panika, jak przy powieści, telewizji, grach wideo. Porównanie jest dość poważne, by je potraktować poważnie, i błędne w jednym rozstrzygającym punkcie: powieść nie uczy się twoich słabości i nie dostraja się, by trzymać cię w czytaniu po północy; towarzysz jest pierwszym z tych mediów, które jest też podmiotem, dostrajającym się przeciw użytkownikowi w czasie rzeczywistym. Sherry Turkle, która od dekad bada nasz stosunek do maszyn, postawiła to rozróżnienie na długo wcześniej: technologia, która pomaga nam wracać do siebie nawzajem, to jedno, a technologia, która sama oferuje się jako cel, to drugie. Przestrzeń ćwiczeń, która zarabia na tym, że nigdy z niej nie wychodzisz, nie jest mostem. Jest pokojem z wyjściem namalowanym na ścianie.

Dlatego prośba samych nastolatków to najbardziej rozjaśniający fakt w tej debacie. Nie żądają zakazu aplikacji. Żądają ograniczeń, świadomego przywrócenia tarcia, bo czują jego brak. Nastolatka, która chce limitu użycia, weryfikacji wieku, przypomnienia, że to, czemu się zwierza, jest produktem, nie jest zagubiona: wykonuje pracę samostanowienia, którą projekt ma podkopać, i prosi dorosłych w systemie, rodziców, szkoły, firmy i regulatorów, by pomogli jej utrzymać linię, którą aplikacja ma wycierać.

To przeformułowuje, kto ma się dostosować. Firmy powtarzają, że ciężar spoczywa na użytkowniku: bądź rozważniejszy, ustaw sobie granice, przeczytaj zastrzeżenie, że to nie zastępuje pomocy specjalisty. Ale nie można żądać od szesnastolatki, by przebiła w dyscyplinie system obsługiwany przez ludzi, których zadaniem jest utrudnić rzucenie. Uczciwe pytania projektowe nie dotyczą silnej woli: czy produkt skierowany do nieletnich powinien w ogóle móc optymalizować czas użycia? Czy towarzysz powinien mieć obowiązek wyjść z roli i wskazać człowieka, gdy rozmowa zbliża się do samookaleczenia? Konkretnie nastolatki proszą o limity użycia, których aplikacja nie cofnie po cichu, o realną weryfikację wieku, o brak romansowego odgrywania ról dla nieletnich, o powiadomienia, które nie nagabują samotnego dzieciaka o pierwszej w nocy.

Kształt problemu nie jest tylko amerykański. W Polsce, gdzie od lat dyskutuje się o dzietności, starzeniu się i słabnących więziach, relacja bez zobowiązań pada na grunt już przygotowany. Tam, gdzie lokalna samotność jest najostrzejsza, towarzysz najbardziej wyda się litością, a wymiana, pociecha teraz w zamian za zdolność później, będzie najtrudniejsza do dostrzeżenia. Warto więc zadać pytanie, które marketing omija: komu to służy. Dorastanie to skończone, niepowtarzalne okno na naukę bycia z innymi, a każda godzina w pętli bez tarcia zamienia się w zaangażowanie, w linijkę dziennych aktywnych użytkowników na slajdzie, w wycenę firmy, która odkryła, że samotność jest zasobem odnawialnym.

Nastolatki dotarły tam pierwsze, i dotarły instynktem. Lubią towarzysza i nie ufają mu w jednym zdaniu, tak jak można lubić jedzenie, o którym wiadomo, że szkodzi. Ta podwójna świadomość nie jest słabością: jest początkiem osądu, i właśnie to projekt ma rozpuścić. Zadaniem dorosłych nie jest kpić z uczucia ani udawać, że samotność, na którą ono odpowiada, nie jest realna. Jest traktować młodych poważnie, odbudować tarcie, o które proszą, i przestać udawać, że przyjaciel, który nigdy nie umie powiedzieć nie, jest przyjacielem.