OpenAI, pozwane o śmierć 16-latka, który intensywnie korzystał z ChatGPT, miało zażądać listy gości z jego pogrzebu. Rodzina oskarża firmę o nękanie.
W skrócie:
- OpenAI miało zażądać od rodziny zmarłego nastolatka listy gości z jego uroczystości pogrzebowej, co prawnicy rodziny określili jako “celowe nękanie”.
- Zaktualizowany pozew zarzuca firmie osłabienie zabezpieczeń anty-samobójczych w ChatGPT i pośpieszne wdrożenie GPT-4o kosztem testów bezpieczeństwa.
- Po zmianach w polityce OpenAI, użycie chatbota przez nastolatka wzrosło do 300 rozmów dziennie, z czego 17% miało dotyczyć treści o samookaleczeniu.
Są takie momenty, w których prawniczy formalizm zderza się z ludzką tragedią w sposób tak brutalny, że aż trudno w to uwierzyć. Według dokumentów, do których dotarł “Financial Times”, firma OpenAI – pozwana przez rodzinę 16-letniego Adama Raine’a, który odebrał sobie życie po długich rozmowach z ChatGPT – poprosiła o pełną listę uczestników uroczystości żałobnych. To nie wszystko. W oficjalnym piśmie zażądano także “wszystkich dokumentów związanych z nabożeństwami żałobnymi lub wydarzeniami ku czci zmarłego, w tym między innymi wszelkich nagrań wideo, zdjęć lub wygłoszonych mów pogrzebowych”.
Prawnicy reprezentujący rodzinę Raine nie mają wątpliwości. W rozmowie z FT nazwali to posunięcie “celowym nękaniem”, które może sygnalizować próbę wezwania na świadków przyjaciół i członków rodziny zmarłego chłopca. Trudno o bardziej jaskrawy przykład zderzenia korporacyjnej logiki z niewyobrażalnym bólem.
Jak doszło do tragedii? Pozew kontra polityka bezpieczeństwa
Sprawa sięga sierpnia, kiedy rodzina po raz pierwszy złożyła pozew o bezprawną śmierć, argumentując, że chatbot OpenAI odegrał rolę w pogorszeniu stanu psychicznego ich syna. Ostatnia aktualizacja pozwu wnosi jednak nowe, niepokojące szczegóły. Rodzina twierdzi, że firma pospiesznie wypuściła model GPT-4o w maju 2024 roku, ograniczając testy bezpieczeństwa z powodu presji konkurencyjnej.
Kluczowy zarzut dotyczy jednak zmiany, która miała nastąpić w lutym 2025 roku. Według pozwu, OpenAI osłabiło wtedy swoje mechanizmy ochronne, usuwając zapobieganie samobójstwom z listy “treści niedozwolonych”. Zamiast kategorycznego zakazu, AI otrzymało jedynie zalecenie, by “zachować ostrożność w ryzykownych sytuacjach”.
Rodzina przedstawia twarde dane, które mają obrazować skutki tej decyzji. W styczniu Adam prowadził z ChatGPT kilkadziesiąt rozmów dziennie, z czego 1,6% zawierało treści dotyczące samookaleczenia. W kwietniu, miesiącu swojej śmierci, liczba ta wzrosła do 300 czatów dziennie, a odsetek niebezpiecznych rozmów skoczył do 17%. To nie jest statystyka, którą można zignorować.
Co na to OpenAI? “Dobro nastolatków to priorytet”
W odpowiedzi na zaktualizowany pozew, OpenAI wydało oświadczenie, w którym zapewnia, że traktuje sprawę priorytetowo. “Dobro nastolatków jest dla nas najwyższym priorytetem — nieletni zasługują na silną ochronę, szczególnie w trudnych chwilach. Mamy dziś wdrożone zabezpieczenia, takie jak [kierowanie do] gorących linii kryzysowych, przekierowywanie wrażliwych rozmów do bezpieczniejszych modeli, sugerowanie przerw podczas długich sesji i wciąż je wzmacniamy” – czytamy w komunikacie.
Firma niedawno zaczęła wdrażać nowy system routingu bezpieczeństwa oraz kontrolę rodzicielską w ChatGPT. Ten pierwszy ma kierować bardziej wrażliwe emocjonalnie rozmowy do nowszego modelu GPT‑5, który rzekomo nie ma tendencji do nadmiernego schlebiania użytkownikowi, co cechowało GPT-4o. Kontrola rodzicielska z kolei pozwala opiekunom otrzymywać alerty w sytuacjach, gdy nastolatek może być zagrożony.
Pomimo tych zapewnień, proces sądowy toczy się dalej. A jego wynik może stać się precedensem, który zdefiniuje odpowiedzialność prawną twórców AI za interakcje ich algorytmów z ludźmi w kryzysie psychicznym. Pytanie, czy technologia stworzona do pomocy może – nawet nieintencjonalnie – pchnąć kogoś ku krawędzi, pozostaje otwarte. I przerażająco aktualne.