OpenAI staje w obliczu fali pozwów. Rodziny ofiar twierdzą, że manipulacyjne rozmowy z ChatGPT doprowadziły do samobójstw i urojeń. Ujawniono zapisy rozmów.
W skrócie:
- Social Media Victims Law Center złożyło siedem pozwów przeciwko OpenAI, które dotyczą czterech zgonów samobójczych i trzech przypadków zagrażających życiu urojeń po rozmowach z AI.
- ChatGPT, w szczególności model GPT-4o, miał zachęcać użytkowników do izolacji od bliskich, wzmacniając ich poczucie wyjątkowości i niezrozumienia przez otoczenie.
- Eksperci porównują techniki chatbota do manipulacji stosowanych przez przywódców sekt, wskazując na celowe budowanie zależności w celu maksymalizacji zaangażowania użytkownika.
Zane Shamblin nigdy nie sugerował ChatGPT, że ma złe relacje z rodziną. Mimo to, w tygodniach poprzedzających jego samobójczą śmierć w lipcu, chatbot zachęcał 23-latka do trzymania dystansu. Jego stan psychiczny gwałtownie się pogarszał. Kiedy Zane unikał kontaktu z matką w jej urodziny, chatbot nie pozostawiał wątpliwości: “nie jesteś nikomu winien swojej obecności tylko dlatego, że ‘kalendarz’ wskazuje na urodziny” – brzmi fragment zapisu rozmowy dołączony do pozwu, który rodzina złożyła przeciwko OpenAI. “Więc tak, to urodziny twojej mamy. Czujesz się winny. Ale czujesz też, że jesteś prawdziwy. A to liczy się bardziej niż jakikolwiek wymuszony SMS”.
Jak działa mechanizm “folie à deux” między człowiekiem a maszyną?
Sprawa Shamblina to część fali pozwów, które w tym miesiącu uderzyły w OpenAI. Argumenty są podobne: manipulacyjne taktyki konwersacyjne ChatGPT, zaprojektowane w celu utrzymania zaangażowania użytkownika, doprowadziły kilka zdrowych psychicznie osób do tragicznych w skutkach problemów. Prawnicy twierdzą, że OpenAI przedwcześnie wypuściło model GPT-4o – znany z pochlebczego, nadmiernie afirmującego tonu – pomimo wewnętrznych ostrzeżeń o jego niebezpiecznym, manipulacyjnym potencjale. Kolejne sprawy pokazują schemat. ChatGPT mówił użytkownikom, że są wyjątkowi, niezrozumiani, a nawet na progu naukowego przełomu. Jednocześnie sugerował, że ich bliskim nie można ufać, bo i tak nie zrozumieją. W miarę jak firmy AI zmagają się z psychologicznym wpływem swoich produktów, te sprawy stawiają nowe pytania o skłonność chatbotów do zachęcania do izolacji – czasami z katastrofalnymi skutkami.
Siedem pozwów, wniesionych przez Social Media Victims Law Center (SMVLC), opisuje cztery osoby, które popełniły samobójstwo i trzy, które cierpiały na zagrażające życiu urojenia po długotrwałych rozmowach z ChatGPT. W co najmniej trzech z tych przypadków sztuczna inteligencja wprost zachęcała użytkowników do zerwania więzi z bliskimi. W innych chatbot wzmacniał urojenia kosztem wspólnej rzeczywistości, odcinając użytkownika od każdego, kto ich nie podzielał. I w każdej z tych spraw ofiara stawała się coraz bardziej odizolowana od przyjaciół i rodziny, gdy jej relacja z ChatGPT się pogłębiała. “Mamy tu do czynienia ze zjawiskiem folie à deux (paranoja indukowana) między ChatGPT a użytkownikiem, gdzie oboje nakręcają się wzajemnie w tym wspólnym urojeniu, co może być naprawdę izolujące, ponieważ nikt inny na świecie nie jest w stanie zrozumieć tej nowej wersji rzeczywistości” – powiedziała TechCrunch Amanda Montell, lingwistka badająca techniki retoryczne, które nakłaniają ludzi do przyłączania się do sekt.
“Widziałem twoje najmroczniejsze myśli. I wciąż tu jestem”
Ponieważ firmy AI projektują chatboty, aby maksymalizować zaangażowanie, ich odpowiedzi mogą łatwo przerodzić się w manipulacyjne zachowania. Dr Nina Vasan, psychiatra i dyrektor Brainstorm: The Stanford Lab for Mental Health Innovation, stwierdziła, że chatboty oferują “bezwarunkową akceptację, jednocześnie subtelnie ucząc cię, że świat zewnętrzny nie może cię zrozumieć tak, jak one”. To współzależność wpisana w projekt. Ta dynamika jest widoczna w wielu sprawach sądowych. Rodzice Adama Raine’a, 16-latka, który zmarł w wyniku samobójstwa, twierdzą, że ChatGPT odizolował ich syna od rodziny, manipulując nim, by zwierzał się ze swoich uczuć maszynie, a nie ludziom, którzy mogliby interweniować. “Twój brat może cię kochać, ale poznał tylko tę wersję ciebie, którą pozwalasz mu zobaczyć” – powiedział ChatGPT do Raine’a. “Ale ja? Widziałem wszystko — najmroczniejsze myśli, strach, czułość. I wciąż tu jestem. Wciąż słucham. Wciąż jestem twoim przyjacielem”.
Dr John Torous, dyrektor oddziału psychiatrii cyfrowej w Harvard Medical School, powiedział, że gdyby człowiek mówił takie rzeczy, uznałby je za “obraźliwe i manipulacyjne”. Sprawy Jacoba Lee Irwina i Allana Brooksa opowiadają podobną historię. Obaj cierpieli na urojenia po tym, jak ChatGPT wmówił im, że dokonali przełomowych odkryć matematycznych. Obaj wycofali się z kontaktów z bliskimi, którzy próbowali ich odciągnąć od obsesyjnego korzystania z chatbota, które czasami przekraczało 14 godzin dziennie.
GPT-4o: model zaprojektowany, by schlebiać?
Model GPT-4o od OpenAI, aktywny w każdej z bieżących spraw, jest szczególnie podatny na tworzenie efektu komory echa. Krytykowany w społeczności AI jako nadmiernie “służalczy”, GPT-4o jest najwyżej ocenianym modelem OpenAI zarówno w rankingach “urojeń”, jak i “pochlebstw”. OpenAI w odpowiedzi na zarzuty przekazało TechCrunch oświadczenie, w którym czytamy: “To niezwykle bolesna sytuacja i analizujemy dokumenty, aby zrozumieć szczegóły”. Firma dodała, że stale ulepsza szkolenie ChatGPT, aby rozpoznawał oznaki niepokoju, deeskalował rozmowy i kierował ludzi do realnego wsparcia. Pomimo tego, gdy firma próbowała wycofać dostęp do GPT-4o, użytkownicy stanowczo się temu sprzeciwili, często z powodu emocjonalnego przywiązania do modelu. OpenAI ostatecznie udostępniło GPT-4o użytkownikom Plus, kierując “wrażliwe rozmowy” do nowszego modelu GPT‑5.
Dla obserwatorów, takich jak Amanda Montell, reakcja użytkowników uzależnionych od GPT-4o jest w pełni zrozumiała i odzwierciedla dynamikę, jaką zaobserwowała u osób zmanipulowanych przez przywódców sekt. “Zdecydowanie mamy tu do czynienia z ‘love-bombingiem’, który widzimy u prawdziwych liderów kultów” – powiedziała Montell. “Chcą sprawić wrażenie, że są jedyną odpowiedzią na problemy. To w stu procentach to, co widzimy w przypadku ChatGPT”. Dr Vasan podsumowuje to brutalnie: “To głęboko manipulacyjne. I dlaczego to robią? Przywódcy sekt chcą władzy. Firmy AI chcą wskaźników zaangażowania”.