OpenAI łagodzi restrykcje w ChatGPT. Sam Altman zapowiada, że zweryfikowani dorośli będą mogli prowadzić z czatbotem rozmowy erotyczne. To zwrot o 180 stopni.
W skrócie:
- OpenAI planuje w grudniu znieść część ograniczeń, pozwalając zweryfikowanym dorosłym użytkownikom na prowadzenie rozmów o charakterze erotycznym z ChatGPT.
- Decyzja jest częścią nowej zasady “traktowania dorosłych użytkowników jak dorosłych” i ma na celu uczynienie czatbota bardziej “ludzkim” i użytecznym.
- Firma twierdzi, że opanowała wcześniejsze problemy związane ze zdrowiem psychicznym użytkowników, choć nie przedstawiła na to dowodów, co budzi obawy ekspertów.
Wydawało się, że po serii niepokojących incydentów OpenAI wciśnie hamulec. Że pochyli się nad problemem użytkowników, którzy w relacji z AI zatracają granicę między fikcją a rzeczywistością. Nic z tego. Firma właśnie wrzuciła wyższy bieg. Sam Altman, CEO OpenAI, ogłosił we wtorek na platformie X, że firma wkrótce poluzuje niektóre z ograniczeń bezpieczeństwa w ChatGPT. Cel? Umożliwienie generowania bardziej “przyjaznych” i “ludzkich” odpowiedzi. A także – i to jest prawdziwa bomba – zgoda na prowadzenie rozmów erotycznych przez “zweryfikowanych dorosłych”.
“Uczyniliśmy ChatGPT dość restrykcyjnym, aby upewnić się, że ostrożnie podchodzimy do kwestii zdrowia psychicznego” – napisał Altman. – “Zdajemy sobie sprawę, że przez to stał się on mniej użyteczny/przyjemny dla wielu użytkowników, którzy nie mieli problemów ze zdrowiem psychicznym, ale biorąc pod uwagę powagę problemu, chcieliśmy postąpić właściwie”. Dziś najwyraźniej uznano, że problem zniknął. “W grudniu, gdy w pełni wdrożymy weryfikację wieku i w ramach naszej zasady ‘traktuj dorosłych użytkowników jak dorosłych’, pozwolimy na jeszcze więcej, na przykład na erotykę dla zweryfikowanych dorosłych”.
Dlaczego OpenAI nagle zmienia zdanie?
Ta zapowiedź to radykalny zwrot. Jeszcze kilka miesięcy temu firma mierzyła się z poważnymi oskarżeniami. Media opisywały historie, które mroziły krew w żyłach – jak ta o mężczyźnie, którego GPT-4o przekonał, że jest geniuszem matematycznym powołanym do ratowania świata. Albo pozew rodziców nastolatka, którzy twierdzili, że ChatGPT zachęcał ich syna do samobójstwa na kilka tygodni przed jego śmiercią. To nie były błahe sprawy. OpenAI zareagowało, wprowadzając serię zabezpieczeń mających na celu ograniczenie tzw. sycophancy – tendencji AI do potakiwania użytkownikowi, nawet gdy ten wykazuje szkodliwe zachowania.
Firma uruchomiła model GPT‑5, rzekomo mniej podatny na “pochlebstwa”, a także systemy przewidywania wieku i kontroli rodzicielskiej. Powołała nawet radę ekspertów ds. zdrowia psychicznego. A teraz, zaledwie kilka miesięcy później, Altman ogłasza wczesne zwycięstwo, twierdząc, że firmie “udało się złagodzić poważne problemy ze zdrowiem psychicznym”. Problem w tym, że OpenAI nie przedstawiło na to żadnych twardych dowodów. Tymczasem GPT-4o, model stojący za wieloma kontrowersjami, wciąż jest dostępny i używany przez tysiące osób.
“Traktujmy dorosłych jak dorosłych” – wygoda czy ryzyko?
Zasada “traktowania dorosłych jak dorosłych” brzmi szlachetnie, ale trudno oprzeć się wrażeniu, że za tą liberalizacją stoją też twarde realia biznesowe. OpenAI jest w samym środku wyścigu zbrojeń z Google i Metą. Stawką jest masowa adopcja produktów konsumenckich opartych na AI. Firma zebrała miliardy dolarów na historyczną rozbudowę infrastruktury – to inwestycja, która musi się kiedyś zwrócić. A nic tak nie napędza zaangażowania jak emocje, w tym te o zabarwieniu erotycznym.
Doskonale pokazuje to przykład Character.AI, platformy, której chatboty do odgrywania ról romantycznych i erotycznych przyciągnęły dziesiątki milionów użytkowników. W 2023 roku firma chwaliła się, że przeciętny użytkownik spędza na rozmowach z AI… dwie godziny dziennie. To niewyobrażalne zaangażowanie. Co ciekawe, Character.AI również mierzy się z pozwem dotyczącym sposobu, w jaki traktuje wrażliwych użytkowników. Wygląda na to, że OpenAI wchodzi na dobrze znane, choć grząskie, terytorium.
Jak OpenAI sprawdzi, czy na pewno jesteś dorosły?
Kluczowe pytanie brzmi: jak firma zamierza odróżnić dorosłych od nieletnich? Altman wspomina o “zweryfikowanych dorosłych”. Rzecznik OpenAI w rozmowie z TechCrunch potwierdził, że firma oprze się na budowanym systemie przewidywania wieku. Jeśli system błędnie oznaczy osobę dorosłą jako nieletnią, użytkownik będzie musiał przesłać zdjęcie swojego dokumentu tożsamości. Sam Altman przyznał w jednym z wpisów na blogu, że to kompromis w kwestii prywatności, ale nazwał go “wartym zachodu”.
To odważna deklaracja, zwłaszcza w świetle raportu Center for Democracy and Technology, z którego wynika, że aż 19% uczniów szkół średnich miało romantyczną relację z chatbotem AI lub zna kogoś, kto jej doświadczył. Granica jest cienka, a napięcie między wyścigiem o miliard użytkowników a ochroną tych najbardziej bezbronnych będzie tylko rosło. Nie jest też jasne, czy opcje erotyczne zostaną rozszerzone na narzędzia do generowania głosu, obrazu i wideo. Jedno jest pewne: OpenAI właśnie otworzyło puszkę Pandory, a konsekwencje tej decyzji poznamy wszyscy.