Ludzie pytają AI o zdrowie psychiczne, bo odpowiada, a nie dlatego, że pomaga

Coś się niepostrzeżenie zmieniło w tym, jak ludzie radzą sobie w najgorsze noce. Kiedy umysł zwraca się przeciwko sobie i nie ma do kogo zadzwonić, coraz więcej dorosłych otwiera zamiast tego chatbota – nie dlatego, że są przekonani, iż ich rozumie, i często nawet nie dlatego, że to pomaga, ale dlatego, że odpowiada. To jest niewygodne sedno zakrojonego na szeroką skalę nowego badania dotyczącego zdrowia psychicznego – i jest dziwniejsze, niż sugeruje nagłówek.

Najbardziej oczywista interpretacja to opowieść o zaufaniu: ludzie powierzający swoje wewnętrzne życie maszynom. Ale zaufanie to niewłaściwa perspektywa. To, co opisują liczby, nie jest tak naprawdę oceną, czy technologia jest dobra. To ocena dostępności – prostego faktu, że chatbot jest, a specjalista nie.

Badanie, przeprowadzone przez ubezpieczyciela AXA wraz z agencją badawczą Ipsos na grupie 19 000 dorosłych w 18 krajach, wykazało, że 63% już zwróciło się do narzędzi AI z pytaniami dotyczącymi swojego zdrowia psychicznego. To, co sprawia, że warto się zatrzymać nad tą liczbą, to sprzeczność, która jej towarzyszy. Aż 45% było niezadowolonych z otrzymanych odpowiedzi. A jednak 38% stwierdziło, że ufa tym platformom bardziej niż ludzkiemu specjaliście ds. zdrowia psychicznego. Ludzie są niezadowoleni z porad, a mimo to po nie sięgają.

To ma sens tylko wtedy, gdy jakość nigdy nie była czynnikiem decydującym. Chatbot został zaprojektowany tak, by generować płynną odpowiedź, a nie poprawną; nie ma obowiązku opieki ani obowiązku eskalacji, gdy wykryje, że ktoś jest w niebezpieczeństwie. Po prostu odpowiada, natychmiast, za darmo, bez skierowania i wielomiesięcznego oczekiwania. „AI jest dostępne 24/7, jest darmowe i jest na twoim telefonie, gdy jesteś sam o 23:00” – ujęła to szefowa działu zdrowia w AXA. To cała propozycja wartości. I to także cały problem.

Badanie wskazuje na koszt tej wymiany. Wśród osób korzystających z chatbota w sprawach zdrowia psychicznego 42% stwierdziło, że prawie zawsze stosuje się do udzielonych porad – a 28% powiedziało, że działanie zgodnie z rekomendacją chatbota doprowadziło ich do szkodliwych zachowań. Narzędzie bez klinicznej odpowiedzialności jest traktowane jako pierwszy responder przez osoby najmniej zdolne do przyswojenia błędnej odpowiedzi.

Zestawmy to z tym, jak formalne systemy opieki zdrowotnej przyjmują tę samą technologię, a wyłonią się dwa równoległe światy. Osobny obrazek z Biura Europejskiego WHO, pierwszy tego rodzaju we wszystkich 27 państwach członkowskich UE, wykazał, że prawie trzy czwarte z nich już korzysta z diagnostyki wspomaganej AI, a około sześć na dziesięć wdraża chatboty wspierające zaangażowanie pacjentów. Wewnątrz kliniki AI działa w otoczeniu nadzoru, zarządzania i mechanizmów odpowiedzialności medycznej. Na zewnątrz, po stronie konsumenckiej, te same modele działają bez tego wszystkiego – bez informowania, co potrafią, a czego nie, bez przekazania pacjenta, gdy pojawi się ryzyko.

Osoby, które trafiają do drugiego systemu, to w przeważającej mierze ci, którzy są wykluczeni z pierwszego. Jak ujął to jeden z lekarzy komentujących badanie, ludzie włączają AI do swojego życia emocjonalnego „nie jako dodatek do dobrze funkcjonującego systemu opieki zdrowotnej, ale jako dostępny punkt wejścia do opieki, która dla większości pozostawała poza zasięgiem”. Motorem jest koszt i dostępność, a nie przekonanie, że maszyna wie lepiej. Wskaźnik niezadowolenia jest tego dowodem: użytkownicy widzą różnicę. Mimo to z niej korzystają, bo alternatywą jest nic.

Nie oznacza to, że AI nie ma miejsca w zdrowiu psychicznym. Klinicyści widzą w nim realne zastosowanie – triaż, ciągłość między wizytami, pomost dla osób, które inaczej nie dostałyby nic. Ale najszybciej rozprzestrzenia się wersja niekontrolowana – i rozprzestrzenia się właśnie tam, gdzie stawka jest najwyższa. Rozwiązanie, które wciąż się pojawia, jest nieefektowne: narzędzia, które jasno mówią, czym nie są, i przekazują osobę wykwalifikowanemu człowiekowi, gdy tylko wyczują, że ktoś jest zagrożony.

Poczekalnia nie opustoszała, bo ludzie wyzdrowieli. Opustoszała, ponieważ dla większości drzwi nigdy nie były otwarte. AI nie wygrało sporu o opiekę. Po prostu podniosło słuchawkę – a po drugiej stronie nikt nie ma obowiązku zauważyć, że rozmowa poszła źle.

Tagi: WHO, badanie AXA Ipsos, chatboty, zdrowie cyfrowe, zdrowie psychiczne AI