co.kolwiek.co

19.08.2025

When the world is sick
Can't no one be well

A Silver Mt. Zion, God Bless Our Dead Marines

Ostatnio kanał Good Work wydał na YouTubie filmik Is ChatGPT therapy a horrible idea?, który wybił mnie z rytmu z kilku powodów.

Zacznę od najmniej istotnej sprawy, czyli samej formy tego filmu. Formułą tego kanału YouTube, którego twarzą i jednym z mózgów jest Dan Toomey, jest mówienie z tą samą kamienną miną rzeczy poważnych i najmniej poważnych, naigrywanie się z przeróżnych korporacyjnych narracji, jednocześnie zajmując się zagadnieniami szczególnie popularnymi wśród "twórców linkedina" - czy to kryptowaluty, czy gig economy. W trakcie, gdy autorzy uznanych książek wypowiadają się całkiem na serio na istotne społecznie tematy, możemy zobaczyć w krótkich przebitkach samego Dana robiącego różne "głupie miny".¹

Na początku formuła ta wyróżniała się spontanicznością (nawet jeśli wyreżyserowaną), lekkością i doskonale spełniała swoje zadanie "uczenia bawiąc". W końcu wiele osób z ciekawością wysłucha czym naprawdę zajmują się "konsultanci biznesowi", z nadzieją na lepsze zrozumienie świata, jak i wysłuchanie kilku dowcipów odzierających ich z roztaczanego wokół nich mistycyzmu szklanych wieżowców. Z czasem jednak wszystkie te autoironiczne żarty zużyły się do cna. Teraz Dan sprawia wrażenie wyjątkowo zmęczonego, wręcz zmuszonego do powtarzania tych samych ogranych chwytów. Joyless fun w formie czystej.

Dan pyta o opinie kilku ekspertów, zarówno od AI, jak i od psychoterapii. Jako zalety wymieniają oni choćby zwiększoną dostępność do pomocy. Nie zapominają też przypomnieć o zagrożeniach, których jest bardzo wiele. Zaczynając od faktu, że większość z chatbotów nie została nawet stworzoną z przeznaczeniem do celu terapii, przez brak jakiejkolwiek odpowiedzialności prawnej, kończąc na wątpliwościach co do prywatności samych rozmów.

Wszystkie te wypowiedzi są sensowne i elokwentne, dotyczą istotnych dla tematu aspektów, niby nie można im wiele zarzucić. Zastanawia mnie jednak zignorowanie słonia w pokoju - czy jako społeczeństwo w ogóle chcemy, żeby ludzie zwracali się ze swoimi najtrudniejszymi i najbardziej intymnymi problemami do maszyn? Czy nie jest naruszane tu pewne tabu?

Przecież sam pomysł, żeby chatboty służyły za terapeutów, nawet w 2025 roku, wydaje się na przekór prostej zasadzie, że "z pewnymi rzeczami udajemy się do pewnych osób", a już przynajmniej do osób, a nie do maszyn. I nie chodzi tu o żadne głębokie filozoficzne przekonania - po prostu większość z nas na pomysł tego, żeby elektroniczny gadżet służył np. za przyjaciela, reaguje mieszanką śmiechu, kpiny i oburzenia, co pokazują choćby reakcje na reklamę friend.com. To właśnie brak zaadresowania tej odruchowej niezgody na pomysł poddawania kolejnych sfer życia technologizacji tak bardzo mnie uwiera w tym filmie.

Systematyczna odpowiedź na pytanie czy powinniśmy automatyzować pomoc psychiczną jest materiałem na dłuższy tekst. Mam wrażenie, że ktoś lepiej wyposażony byłby w stanie na tym przykładzie jasno pokazać do jak groteskowego pomieszania pojęć i porządków dotarliśmy jako cywilizacja, że nie odrzucamy tego pomysłu jako absurd. Tego nie zamierzam tu robić.

Wiem jedno. Jeżeli byłbym zagubionym nastolatkiem, któremu wydaje się, że nikt nie czuje jak on, który nigdzie nie czuje się u siebie, a już na pewno nie we własnej skórze i nawet nie ma z kim o tym porozmawiać, to poczułbym się jedynie dodatkowo przybity i upokorzony, wiedząc, że mam się zwierzać maszynie. Zgaduję, że w pełni nastoletniego radykalizmu, w najgorszym momencie, można zinterpretować uciekanie się do chatbota jako "żałosne i desperackie".

Czy nie łatwo dojść do wniosku (przypominam, że będąc w złym stanie psychicznym, gdy negatywne interpretacje są szczególnie atrakcyjne), że jest się na tyle wyalienowanym od społeczeństwa, a jednocześnie to społeczeństwo na tyle nie dba o mnie, że nie było w stanie choćby wysłać jakiegoś specjalisty i postanowiło wykpić się chatbotem? Czy sprawy nie pogarsza, że w istocie, do pewnego stopnia przynajmniej, jest to poprawne rozpoznanie sytuacji? Przecież sama doktor Stanfordu mówi, że chatboty-terapeuci mają wielki potencjał, bo zwiększają dostęp do terapii, tym samym przyznając, że wyczerpaliśmy inne opcje?

W tym momencie przychodzą mi na myśl różnego rodzaju powiadomienia od banków, ubezpieczalni i mnóstwa innych usług na urodziny, święta czy inne okazje. Oczywiście w 90% przypadków to jedynie kolejna notyfikacja do odhaczenia, której mózg nie zdąży nawet przetworzyć. Jednak czasem zdarzy się, że czekamy na wiadomość od kogoś dla nas ważnego, w trudnej chwili, pełni wątpliwości co do siebie i innych. Wówczas, gdy od godziny gorączkowo odświeżamy skrzynkę mailową, to właśnie ta automatyczna wiadomość "to jest twój dzień X, jak chcesz go uczcić" od bezdusznego, korporacyjnego systemu mailowego trafia w najboleśniejszy punkt.²

Poza rozczarowaniem oraz jaskrawym uzmysłowieniem sobie dystopijnego absurdu świata, w którym mechanizm, który miał przypominać o nadchodzącym rachunku za prąd, nagle udaje naszego przyjaciela, pojawia się też myśl, że zostało się... obrażonym. Osobiście cały pomysł, że miałbym zwierzać się maszynie uważam za głęboko uwłaczający i nie podjąłbym się tego za dopłatą.

Pomijając moje odczucia, warto też zrobić dwa kroki do tyłu i pomyśleć jakiego rodzaju problemy próbujemy rozwiązać. O zaburzeniach psychicznych, terapii jak i kulturze terapii napisano i powiedziano bardzo wiele, szczególnie w ostatnim czasie. Oczywiście nie jestem w stanie tu nic oryginalnego dodać, choćby ze względu na to, że się nie znam na tej tematyce. Chcę tylko pokazać pewien ironiczny aspekt całego przedsięwzięcia.

Jako punkt wyjścia użyję książki amerykańskiego psychiatry Erica Goodwyna z 2025 roku o tytule A Jungian Analysis of Toxic Modern Society. Przedstawia on tam następującą diagnozę: człowiek jest istotą funkcjonującą w wymiarze biologicznym, psychicznym i społecznym, jednak całkowicie zaniedbaliśmy ten ostatni. Współcześnie, gdy mówimy o zdrowiu psychicznym, to myślimy o biologii, bo od razu nasuwają się nam pytania o neuroprzekaźniki, dietę, leki czy aktywność fizyczną. Równie dużo uwagi poświęcamy na psychice - dowodem na to może być obecność w szerokiej dyskusji problematyki psychoterapii, analizy wczesnych doświadczeń z dzieciństwa czy regulacji emocjonalnej. Z kolei całkowicie brakuje namysłu nad aspektem społecznym.

Główna myśl Goodwyna jest nawet mocniejsza - uważa on, że przekaz współczesnej kultury jest aktywnie antyspołeczny i promuje nadmierny indywidualizm, tym samym pogłębiając problemy psychiczne. Skupienie na dobrach materialnych i statusie społecznym, powtarzane jak mantra "podążanie własną drogą", odrzucanie wszelkich oczekiwań i zobowiązań społecznych jako opresyjnych są wszechobecne we współczesnej kulturze do tego stopnia, że przestaliśmy je dostrzegać i o tyle trudniej ich niewidzialnej presji nie ulec.

Te wszystkie abstrakcyjnie brzmiące trendy kulturowe materializują się w życiu konkretnych osób w postaci poczucia osamotnienia, mniejszej ilości relacji czy uzależnień. Zarówno brak osób, którym zależy na nas, jak i brak osób, na których nam zależy prowadzi do odczuwanego braku sensu. Jak przejmująco opisuje Goodwyn, często powtarzającą się skargą wśród jego pacjentów jest myśl, że nikogo nie obchodzi czy umarliby jutro.

Muszę uprzedzić, że Goodwyn nie proponuje żadnej formy powrotu do przeszłości, czy nie romantyzuje dawnych czasów. Otwarcie mówi, że wiele kulturowych uprzedzeń było nieakceptowalnych i jest obiektywnym sukcesem przewalczenie wielu form bigoterii. Jednak, na pewnym etapie wylaliśmy dziecko z kąpielą i nie zastąpiwszy starych form zobowiązań społecznych czy wspólnych rytuałów, obudziliśmy się jako niezależne atomy niemające ze sobą nic wspólnego. W teorii miał to być stan najwyższej szczęśliwości, w praktyce okazało się, że brak jakichkolwiek zależności, jako niezgodny z ludzką naturą, jest źródłem cierpień, którego nie potrafią wynagrodzić wszystkie dobrodziejstwa technologii.

Moja robocza teza brzmi tak, że najpierw poprzez skonstruowanie kultury jaką mamy, doprowadziliśmy do masowego i istotnego wzrostu zaburzeń psychicznych. Ludzie czują się pozbawieni celu, przynależności do grupy i po prostu ludzkiego kontaktu. Nie doprowadziło to jednak do żadnej refleksji, choćby dlatego, że szczery namysł mógłby doprowadzić do pewnych korekt w strukturze socjo-ekonomicznej, a na to wszelcy obrońcy status quo pozwolić nie mogą (przyczyn oczywiście jest dużo więcej). Pewnym rozwiązaniem post-factum miał być dostęp do leczenia psychologicznego. Jednak i na tym froncie nasze społeczeństwo w dużej mierze zawiodło, bo nie było w stanie dostarczyć pomocy w takiej postaci. A zatem - kontynuują obrońcy chatbotów - jeżeli pojawią się alternatywne tańsze sposoby na dostarczenie pomocy to musimy ich spróbować.³ Na całej długości tego ciągu rozumowego widzimy to samo - niezdolność do refleksji nad przyczynami, niechęć do zaadresowania problemu u jego źródła i próbę leczenia objawowego możliwie niskimi środkami.

Dlatego uważam, że w istocie diagnoza radykalnego nastolatka, że pełna entuzjazmu gotowość społeczeństwa do wysyłania chatbotów-terapeutów do potrzebujących pokazuje w jak daleko wyalienowanym społeczeństwie żyjemy i jak dalece straciliśmy zdolność osądu rzeczywistości. Więc potrafię sobie wyobrazić zarzut "potencjalnych przedmiotów tych ekscytujących rozwiązań", może przesadzony, ale zawierający rdzeń prawdy, że jako młodzi zostali przez dorosłych zawiedzeni podwójnie - najpierw przez skonstruowanie tak nieludzkiego świata, a potem przez ucieczkę od chociażby skonfrontowania się ze skutkami tej konstrukcji.

Historia bywa przewrotna, gdyż najlepszą syntezą tej myśli mógłby być cytat z eseju Josepha Weizenbauma, twórcy programu ELIZA, uznawanego za pierwszy chatbot w historii informatyki:

The computer has long been a solution looking for problems—the ultimate technological fix which insulates us from having to look at problems.

Ironia nie kończy się tutaj, na domiar tego ELIZA odgrywała właśnie rolę psychoterapeuty, zaś użytkownik rolę pacjenta. Konstrukcja ELIZY była bardzo prosta w porównaniu do współczesnych LLM i w dużej mierze opierała się na prostym przeformułowywaniu odpowiedzi użytkownika. Weizenbaum był zdumiony u jak wielu osób ELIZA była w stanie wiarygodnie sprawiać wrażenie rozumnego rozmówcy. Jeszcze bardziej poruszyło go, że nawet wytłumaczenie prostego mechanizmu na jakim oparty był program nie zmieniało nic w tym jak odbierali go użytkownicy, często przekonani, że chatbot "naprawdę ich rozumie".

To w dużej mierze wnioski z obserwacji jak ludzie reagowali na ELIZĘ, doprowadziły Weizenbauma do zmiany stanowiska w kwestii AI.⁴ Z czasem stał się on zażartym krytykiem tej technologii. Ten wyrywek z Computer Power and Human Reason najlepiej podsumowuje moją opinię na temat chatbotów-terapeutów:

There are certain tasks which computers ought not to be made to do, independent of whether computers can be made to do them.

1: Innym manewrem z repertuaru Dana jest mówienie do kamery z ulic Nowego Jorku ze stosem kartek w ręce, tak jakby był tradycyjnym dziennikarzem, jednak za miejsce wybiera sobie najmniej reprezentatywne miejsca - w tle zwykle widzimy przelewające się kontenery na śmieci czy dymiące studzienki kanalizacyjne.

2: Jest to zjawisko pokrewne, choć istotnie różne do "algorytmicznego okrucieństwa", czy to w rozumieniu eseju, który ukuł termin inadvertent algorithmic cruelty, czy w rozumieniu systemów automatycznych podejmujących decyzje rujnujące życia ludzi, jak np. ten skandal na dużą skalę w holenderskiej administracji. Sama systematyka algorytmicznych szkód zasługuje na osobny post. W odróżnieniu od algorytmów podsumowujących rok, które w zależności od tego czy mijający rok dla odbiorcy był w istocie wspaniały, przynajmniej czasem wywołują pozytywną reakcje odbiorcy, ciężko mi sobie wyobrazić kogokolwiek, kto prosił, żeby jego bank czy dostawca elektryczności udawał, że jest jego przyjacielem. Osobiście chciałbym, żeby wszystkie firmy przestały się do mnie odnosić w ten przesadnie kordialny sposób. Co nakierowuje na kolejny temat, czyli amerykańskie "spłaszczenie tonu" wszelkiego rodzaju komunikacji do wymuszonej pozytywnej serdeczności.

3: Czy jestem absolutnie przeciwny tego typu rozwiązaniom we wszystkich warunkach, niezależnie od okoliczności? Nie wiem, raczej nie, ale nie o tym jest ten tekst. Z jednej strony uważam, że dobrze by było jakby tego typu pomysły wciąż zostawały w jakieś sferze tematów niewygodnych i trudnych, gdzie przekraczamy jakieś granice, których nie powinniśmy przekraczać. Z drugiej strony, umiem sobie wyobrazić izolowane sytuacje, gdy komuś to uratuje życie. Tak naprawdę nie to pytanie mnie tu interesuje. Chodzi mi jedynie, że nawet jeśli morfina może być przydatnym narzędziem na jakimś etapie walki z zaniedbaniami związanymi z brakiem aktywności fizycznej, to ciężko mi być podekscytowanym możliwościami morfiny w kontekście zwalczania braku aktywności fizycznej. A najwyraźniej pewne osoby tak myślą w kontekście chatbotów-terapeutów.

4: Zainteresowanych postacią Josepha Weizenbauma odsyłam do krótkiej biografii na łamach The Guardian, która pięknie uchwytuje złożoność biografii i myśli niemiecko-amerykańskiego informatyka. Innym artykułem godnym uwagi jest tekst opisujący ChatGPT w świetle jego twórczości, z którego dobrałem cytaty do mojego tekstu.