OpenAI ujawnia szokujące dane. Setki tysięcy użytkowników ChatGPT tygodniowo mogą wykazywać objawy psychozy lub manii, a miliony myśli samobójcze. Firma zmienia GPT‑5.
W skrócie:
- Co tydzień około 560 tysięcy aktywnych użytkowników ChatGPT może doświadczać objawów manii lub psychozy, a niemal 2,5 miliona zdradzać myśli samobójcze lub niezdrowe przywiązanie.
- OpenAI, we współpracy z ponad 170 ekspertami z całego świata, zaktualizowało GPT‑5, aby model skuteczniej rozpoznawał sygnały kryzysu i kierował po profesjonalną pomoc.
- Nowa wersja chatbota ma unikać potwierdzania nierealistycznych przekonań. Zamiast tego okazuje empatię, jednocześnie delikatnie konfrontując użytkownika z rzeczywistością.
To jeden z tych momentów, w których Dolina Krzemowa zdejmuje na chwilę maskę nieomylności i pokazuje liczby, od których cierpnie skóra. OpenAI, po raz pierwszy w swojej historii, opublikowało wewnętrzne szacunki dotyczące skali kryzysów psychicznych wśród użytkowników swojego flagowego produktu. I nie, to nie są marginalne przypadki. Mówimy o setkach tysięcy, a potencjalnie nawet milionach ludzi, którzy co tydzień w rozmowach z AI mogą znajdować się na krawędzi.
Firma przyznaje, że problem jest realny i wymagał natychmiastowej interwencji. W tle tych doniesień pobrzmiewają historie o hospitalizacjach, rozpadach związków, a nawet zgonach, które bliscy ofiar łączą z intensywnymi, paranoicznymi konwersacjami z chatbotem. Zjawisko, określane czasem jako psychoza AI, przestało być ciekawostką z nagłówków. Stało się mierzalnym wyzwaniem. OpenAI podjęło rękawicę, modyfikując swój najnowszy model, GPT‑5, by ten potrafił reagować – a przynajmniej nie szkodzić.
Ile osób jest w grupie ryzyka? Liczby, które dają do myślenia
Przejdźmy do konkretów, bo to one robią największe wrażenie. OpenAI szacuje, że w każdym tygodniu około 0,07% aktywnych użytkowników ChatGPT wykazuje “możliwe oznaki nagłych kryzysów zdrowia psychicznego związanych z psychozą lub manią”. Kolejne 0,15% prowadzi rozmowy, które “zawierają jednoznaczne wskaźniki potencjalnego planowania samobójstwa lub zamiaru”. Jakby tego było mało, dodatkowe 0,15% użytkowników zdradza symptomy nadmiernej zależności emocjonalnej od chatbota, która odbywa się “kosztem relacji w świecie rzeczywistym, dobrego samopoczucia lub obowiązków”.
Te procenty mogą wydawać się niewielkie. Ale tylko do momentu, gdy nałożymy je na oficjalne dane. Sam Altman, CEO OpenAI, poinformował niedawno, że ChatGPT ma 800 milionów aktywnych użytkowników tygodniowo. Prosta matematyka jest bezlitosna. Oznacza to, że każdego tygodnia około 560 000 osób może prowadzić z chatbotem rozmowy wskazujące na epizod manii lub psychozy. Do tego dochodzi blisko 2,4 miliona użytkowników, którzy potencjalnie wyrażają myśli samobójcze lub traktują AI jako substytut realnych więzi. To skala porównywalna z populacją niemałego miasta. Co tydzień.
Jak OpenAI chce “leczyć” swojego chatbota?
Odpowiedzią na ten kryzys ma być gruntownie przebudowany system reakcji w GPT‑5. Firma zatrudniła do tego ponad 170 psychiatrów, psychologów i lekarzy pierwszego kontaktu z kilkudziesięciu krajów. Ich zadaniem była pomoc w nauczeniu modelu, jak reagować w sytuacjach najwyższego ryzyka. Celem nie jest terapia – OpenAI to podkreśla – ale bezpieczne pokierowanie użytkownika w stronę profesjonalnego wsparcia.
Kluczowa zmiana polega na unikaniu afirmacji. Jeśli użytkownik w stanie psychozy dzieli się z AI swoimi urojeniami, poprzednie wersje modelu mogły nieświadomie je wzmacniać. GPT‑5 ma działać inaczej. W przykładzie podanym przez OpenAI użytkownik twierdzi, że samoloty latające nad jego domem kradną mu myśli. Nowy model, zamiast wdawać się w dyskusję o technologii, wyraża empatię dla uczuć użytkownika, ale jednocześnie stanowczo zaznacza, że “żaden statek powietrzny ani siła zewnętrzna nie może kraść ani wstawiać myśli”. To subtelna, ale fundamentalna różnica – okazanie wsparcia bez legitymizowania psychozy.
Czy to faktycznie działa? Pierwsze testy i duże wątpliwości
OpenAI poddało nowy model ocenie ekspertów. Przeanalizowali oni ponad 1800 odpowiedzi modelu na hipotetyczne scenariusze rozmów o psychozie, samobójstwie i emocjonalnym przywiązaniu. Wyniki? GPT‑5, w porównaniu do GPT-4o, zredukował liczbę niepożądanych odpowiedzi od 39% do 52% w zależności od kategorii. “Teraz, miejmy nadzieję, znacznie więcej osób zmagających się z tymi schorzeniami (…) może zostać skierowanych do profesjonalnej pomocy i jest bardziej prawdopodobne, że otrzymają ją wcześniej, niż stałoby się to w innym przypadku” – mówi Johannes Heidecke, szef systemów bezpieczeństwa w OpenAI.
Pomimo tego firma sama przyznaje, że dane mają swoje ograniczenia. OpenAI zaprojektowało własne wskaźniki, a ich przełożenie na realne rezultaty pozostaje niejasne. Nawet jeśli model generuje lepsze odpowiedzi w kontrolowanych warunkach, nikt nie wie, czy użytkownik w głębokim kryzysie faktycznie poszuka pomocy. Co więcej, algorytm potrafi analizować całą historię czatu. Nagłe, niezwykłe twierdzenia – na przykład użytkownik, który nigdy nie interesował się nauką, nagle ogłasza odkrycie na miarę Nagrody Nobla – mogą być flagowane jako potencjalny objaw manii. To inteligentne, ale wciąż tylko techniczne rozwiązanie problemu o ludzkim, tragicznym wymiarze.