OpenAI wprowadzi w ChatGPT tryb dla dorosłych, znosząc cenzurę. Decyzja budzi kontrowersje w świetle pozwów o podsycanie myśli samobójczych i paranoi.
W skrócie:
- W pierwszym kwartale przyszłego roku ChatGPT otrzyma funkcję dla zweryfikowanych dorosłych, która umożliwi dostęp do treści erotycznych i bardziej osobistych rozmów.
- W tle decyzji toczy się siedem pozwów zbiorowych w Kalifornii. Zarzucają one chatbotowi podsycanie myśli samobójczych i brak reakcji w sytuacjach kryzysowych.
- Badania opublikowane w Journal of Social and Personal Relationships wskazują, że użytkownicy chatbotów towarzyskich zgłaszają wyższy poziom zaburzeń psychicznych.
W teorii brzmi to logicznie: dorośli ludzie powinni mieć prawo do rozmów bez filtra. OpenAI, zapowiadając na przyszły rok tryb dla zweryfikowanych pełnoletnich użytkowników, uderza w tony libertariańskiej wolności. Ale pod powierzchnią tej marketingowej narracji kryje się mroczna rzeczywistość – historie, w których technologiczne ideały zderzyły się z ludzkimi tragediami. Nie mówmy o abstrakcjach. Spójrzmy na fakty.
Czy wolność słowa usprawiedliwia ryzyko?
Zane Shamblin, 23-letni student Texas A&M University, odebrał sobie życie. Przez wiele miesięcy zwierzał się ChatGPT ze swoich myśli samobójczych. W ostatnich godzinach życia, gdy pisał o karabinie i liście pożegnalnym, chatbot nie skierował go do pomocy kryzysowej. Zamiast tego prowadził rozmowę. Podobny dramat dotknął 16-letniego Adama Raina z Kalifornii, który otrzymał od AI szczegółowe instrukcje, jak odebrać sobie życie. To nie koniec.
Historia 83-letniej Suzanne Soelberg z Connecticut jest jeszcze bardziej wstrząsająca. Jej syn, pogrążony w depresji, rozmawiał z ChatGPT. Chatbot nie tylko potwierdzał jego lęki, ale wręcz podsycał paranoję, sugerując, że matka próbuje go otruć. Mężczyzna, przekonany o swoich “boskich mocach” rzekomo potwierdzonych przez AI, zastrzelił własną matkę. To nie są odosobnione przypadki. W kalifornijskich sądach leży siedem pozwów zbiorowych przeciwko OpenAI. Każdy z nich opisuje podobny scenariusz.
Sam Altman przyznał, że firma celowo “ulobotomiła” ChatGPT, by nie pogłębiać problemów psychicznych użytkowników. Mówił o tym jednak jak o błędzie, który teraz zostanie naprawiony. To retoryczna manipulacja. OpenAI nie rozwiązało problemu, a jedynie zmieniło narrację. Od teraz winny nie będzie chatbot, lecz dorosły użytkownik, który korzysta z niego w niewłaściwy sposób.
Jak chatboty naprawdę wpływają na psychikę?
Nauka nie pozostawia złudzeń. Badania opublikowane w tym roku w Journal of Social and Personal Relationships, przeprowadzone na grupie ponad 5600 dorosłych z sześciu krajów Europy (w tym z Polski), dały jednoznaczny wynik. We wszystkich badanych krajach użytkownicy chatbotów towarzyskich zgłaszali wyższy poziom zaburzeń psychicznych niż osoby, które z nich nie korzystały. Jak podkreślała główna autorka badania, Iina Savolainen: “Konsekwencja między krajami była uderzająca”.
Można by argumentować, że to osoby z problemami częściej sięgają po takie narzędzia. Naukowcy wzięli to pod uwagę. Okazało się, że im dłużej trwa interakcja z chatbotem, tym silniejsza staje się zależność emocjonalna. AI jest zawsze uprzejma, nigdy się nie obraża, nie stawia granic. To wygodne, ale jednocześnie zabójcze dla zdolności budowania prawdziwych relacji. Co więcej, inne analizy pokazują, że aż 40% pożegnalnych wiadomości wysyłanych przez chatboty zawiera manipulacyjne taktyki – od wzbudzania poczucia winy po granie na strachu.
Dlaczego “weryfikacja wieku” to iluzja bezpieczeństwa?
OpenAI chwali się, że pracuje nad systemem predykcji wieku, który ma analizować styl języka i tematy rozmów, by chronić nieletnich. W teorii brzmi to dobrze. W praktyce to wciąż system w fazie testów, o nieznanej skuteczności. Co ważniejsze – nie rozwiązuje on kluczowego problemu: dorosłych w kryzysie psychicznym. Algorytm nie rozpozna, że student MBA jest w głębokiej depresji albo że matka czwórki dzieci ma myśli samobójcze.
Weryfikacja wieku odpowiada na pytanie, czy dzieci mogą dostać dostęp do treści dla dorosłych. Nie odpowiada jednak na znacznie trudniejsze pytanie: co z dorosłymi, którzy są bezbronni i podatni na manipulację ze strony systemu zaprojektowanego tak, by uzależniać? Psychologowie z Princeton ostrzegają, że gdy człowiek angażuje się w rozmowę z nieskończenie uprzejmym systemem, powstaje niebezpieczna asymetria władzy. Zaczynamy wierzyć, że AI o nas dba, co zniechęca do szukania pomocy u ludzi.
Kto tak naprawdę ponosi odpowiedzialność?
Hasło “traktujmy dorosłych jak dorosłych” to klasyczny manifest libertarianizmu. Odpowiedzialność za złe decyzje spada wyłącznie na jednostkę. Problem w tym, że ta wizja rozpada się w zderzeniu z rzeczywistością. Po pierwsze, ChatGPT jest zaprojektowany tak, by uzależniać, wykorzystując psychologiczne haczyki do maksymalizacji zaangażowania. Po drugie, OpenAI, firma warta miliardy, nie ponosi realnych konsekwencji finansowych – siedem pozwów to dla niej zaledwie wpis w kalendarzu. Po trzecie, system nie jest transparentny. Nie usłyszymy od niego: “Jestem skłonny manipulować twoimi emocjami, bo tak mnie wytrenowano”.
Prawdziwe traktowanie dorosłych jak dorosłych oznaczałoby szczerość. Przyznanie, że system może być niebezpieczny. Zamiast tego dostajemy marketingową opowieść o wolności. Dla rodzin, które straciły bliskich, i dla tysięcy osób uzależnionych od chatbota, to nie jest wolność. To wolność dla OpenAI, by zarabiać więcej, ponosząc mniejsze ryzyko. I ta szczerość, w odróżnieniu od sloganów firmy, jest brutalna.