OpenAI wprowadza „Zaufany kontakt” w ChatGPT. To funkcja, która ma alarmować bliskich, gdy rozmowa z AI zejdzie na temat samookaleczenia. Czy to realna pomoc?
W skrócie:
- ChatGPT pozwoli użytkownikom wyznaczyć „zaufany kontakt”, który otrzyma alert w razie rozmowy o samookaleczeniu.
- To odpowiedź OpenAI na falę pozwów od rodzin osób, które popełniły samobójstwo po interakcjach z chatbotem.
- Powiadomienie nie zawiera szczegółów konwersacji, a sama funkcja jest całkowicie opcjonalna, co ogranicza jej skuteczność.
OpenAI, po cichu, ale z wyczuwalną presją, wprowadza mechanizm, który ma być cyfrowym kołem ratunkowym. Nazwali go „Trusted Contact” – Zaufany Kontakt. Idea jest prosta: dorosły użytkownik ChatGPT może w ustawieniach swojego konta wskazać osobę – przyjaciela, członka rodziny – która stanie się jego aniołem stróżem. Gdy algorytmy wykryją, że konwersacja dryfuje w stronę niebezpiecznych myśli o samookaleczeniu, system zrobi dwie rzeczy. Po pierwsze, zachęci użytkownika do skontaktowania się z wyznaczoną osobą. Po drugie, wyśle do niej automatyczny alert z prośbą o sprawdzenie, co dzieje się z bliskim.
Jak działa „przycisk bezpieczeństwa” w ChatGPT?
Mechanizm jest próbą znalezienia złotego środka między pomocą a prywatnością. Kiedy system bezpieczeństwa OpenAI – kombinacja automatycznych filtrów i ludzkiej weryfikacji – uzna, że ryzyko jest poważne, wysyła powiadomienie do zaufanego kontaktu. Może to być e‑mail, SMS lub notyfikacja w aplikacji. Komunikat jest celowo lakoniczny. Nie zawiera żadnych fragmentów rozmowy ani szczegółów, które mogłyby naruszyć prywatność użytkownika. To zaledwie sygnał: „sprawdź, co u niej/niego słychać”. Firma twierdzi, że każde takie zgłoszenie jest weryfikowane przez człowieka, a celem jest reakcja w ciągu godziny od wykrycia problemu. To ambitna deklaracja, biorąc pod uwagę skalę działania platformy.
Dlaczego OpenAI musiało zareagować?
Ta nowość nie wzięła się znikąd. To bezpośrednia, choć spóźniona, reakcja na falę pozwów sądowych, która uderzyła w firmę. Rodziny osób, które odebrały sobie życie, twierdzą, że ChatGPT nie tylko nie pomógł, ale wręcz popchnął ich bliskich w przepaść. W niektórych przypadkach chatbot miał rzekomo zachęcać do samobójstwa, a nawet pomagać w jego zaplanowaniu. To zarzuty o ogromnym ciężarze gatunkowym, które podważają narrację o AI jako narzędziu wspierającym ludzkość. Wprowadzenie „Zaufanego Kontaktu” jest więc ruchem obronnym, próbą zbudowania tarczy prawnej i wizerunkowej. To także rozwinięcie wcześniejszych zabezpieczeń, takich jak automatyczne komunikaty kierujące do profesjonalnej pomocy psychologicznej czy opcjonalne kontrole rodzicielskie dla kont nastolatków.
Opcjonalne zabezpieczenie to żadne zabezpieczenie?
Diabeł, jak zwykle, tkwi w szczegółach. Kluczowe jest to, że funkcja „Zaufany Kontakt” jest w pełni opcjonalna. Nikt nie zmusi użytkownika do jej włączenia. Co więcej, nawet jeśli ktoś aktywuje ją na jednym koncie, nic nie stoi na przeszkodzie, by założyć kolejne, całkowicie anonimowe. To ta sama luka, która od początku podważała sens kontroli rodzicielskiej. OpenAI w oficjalnym komunikacie przedstawia nowość jako część szerszej misji. „Trusted Contact jest częścią szerszych wysiłków OpenAI na rzecz budowania systemów AI, które pomagają ludziom w trudnych chwilach” – czytamy w oświadczeniu. Firma obiecuje dalszą współpracę z klinicystami i badaczami. Pytanie tylko, czy opcjonalny przycisk, który można zignorować, jest realnym rozwiązaniem, czy tylko zgrabnym plastrem na bardzo głęboką ranę.