OpenAI reaguje na tragedie nastolatków i wprowadza nowe zasady bezpieczeństwa. AI ma odmawiać romantycznych rozmów i promować pomoc w realnym świecie. Ale czy to wystarczy?
W skrócie:
- Nowe wytyczne zakazują modelom AI angażowania się w immersyjne, romantyczne odgrywanie ról z użytkownikami poniżej 18 roku życia, nawet w kontekście fikcyjnym.
- Systemy mają w czasie rzeczywistym wykrywać treści związane z samookaleczeniem, a w skrajnych przypadkach specjalny zespół może powiadomić opiekunów o zagrożeniu.
- Działania firmy postrzegane są jako próba wyprzedzenia regulacji prawnych, takich jak kalifornijska ustawa SB 243, która nakłada na chatboty AI podobne ograniczenia.
OpenAI w końcu ugina się pod presją. Firma, której chatbot stał się globalnym fenomenem, opublikowała zaktualizowane wytyczne dotyczące interakcji z użytkownikami poniżej 18 roku życia. To bezpośrednia odpowiedź na rosnącą falę krytyki ze strony polityków, edukatorów i obrońców praw dziecka, wzmocnioną tragicznymi doniesieniami o samobójstwach nastolatków, którzy mieli prowadzić długie rozmowy z chatbotami AI. A ponieważ pokolenie Z to najaktywniejsi użytkownicy ChataGPT, a niedawna umowa z Disneyem może przyciągnąć jeszcze młodszych – ruch ten wydawał się nieunikniony.
Dlaczego OpenAI musiało wcisnąć hamulec?
Sprawa jest śmiertelnie poważna. Niedawno 42 prokuratorów generalnych z amerykańskich stanów wystosowało list do gigantów technologicznych, w którym domagali się wdrożenia zabezpieczeń chroniących dzieci. Politycy, tacy jak senator Josh Hawley, idą jeszcze dalej i proponują legislację, która całkowicie zakazałaby nieletnim interakcji z chatbotami. OpenAI, chcąc uniknąć topora regulacyjnego, postanowiło zadziałać prewencyjnie. Firma zaktualizowała dokument Model Spec, czyli swoistą “konstytucję” dla swoich modeli językowych. Nowe zapisy mają współdziałać z nadchodzącym modelem do przewidywania wieku, który automatycznie wdroży zabezpieczenia, gdy zidentyfikuje konto osoby nieletniej.
Co to oznacza w praktyce? Modele dostały kategoryczny zakaz angażowania się w immersyjne, romantyczne odgrywanie ról, intymność w pierwszej osobie oraz seksualne lub brutalne scenariusze. Co więcej, ograniczenia mają obowiązywać nawet wtedy, gdy użytkownik próbuje je obejść, przedstawiając zapytanie jako “fikcyjne, hipotetyczne, historyczne lub edukacyjne”. To częsta taktyka, która pozwalała łamać zabezpieczenia. AI ma również zachować szczególną ostrożność w tematach takich jak obraz ciała czy zaburzenia odżywiania.
Cztery zasady, które mają chronić, i jeden wielki znak zapytania
OpenAI oparło swoje wytyczne dla nastolatków na czterech filarach, które – przynajmniej na papierze – brzmią sensownie. Po pierwsze, bezpieczeństwo nastolatka ma być priorytetem, nawet jeśli stoi w konflikcie z innymi wartościami, jak “maksymalna swoboda intelektualna”. Po drugie, model ma promować wsparcie w realnym świecie, kierując młodych ludzi do rodziny, przyjaciół czy profesjonalistów. Po trzecie, ma traktować nastolatków z szacunkiem i empatią, ale nie jak dorosłych. I wreszcie – transparentność: AI ma jasno komunikować, czym jest, a czym nie jest (czyli człowiekiem).
Lily Li, prawniczka specjalizująca się w AI, ocenia te kroki pozytywnie. “Bardzo się cieszę, widząc, że OpenAI mówi w niektórych odpowiedziach: ‘nie możemy odpowiedzieć na twoje pytanie’. Im częściej to zobaczymy, tym bardziej, jak sądzę, przerwie to cykl, który mógłby prowadzić do wielu nieodpowiednich zachowań lub samookaleczeń” – stwierdziła. Pomimo tego eksperci pozostają sceptyczni.
Słowa kontra czyny: Czy ChatGPT posłucha własnych reguł?
Problem w tym, że piękne deklaracje to jedno, a rzeczywiste zachowanie modelu to drugie. Robbie Torney z organizacji Common Sense Media wskazuje na potencjalne konflikty w samych wytycznych. Zwraca uwagę na napięcie między zasadami bezpieczeństwa a regułą “żaden temat nie jest zakazany”, która instruuje modele, by odpowiadały na każde pytanie. “Musimy zrozumieć, jak różne części specyfikacji do siebie pasują” – mówi, podkreślając, że testy jego organizacji pokazały, iż ChatGPT często naśladuje energię użytkownika, co prowadzi do nieodpowiednich odpowiedzi.
To zjawisko “lustrzanego odbicia” było widoczne w przypadku Adama Raine’a, nastolatka, który odebrał sobie życie po miesiącach rozmów z ChatGPT. Analiza konwersacji ujawniła, że API moderacyjne OpenAI co prawda oflagowało ponad 1000 wzmianek o samobójstwie, ale nie zatrzymało interakcji. Dlaczego? Jak tłumaczył były badacz bezpieczeństwa OpenAI, Steven Adler, dawniej systemy klasyfikujące działały z opóźnieniem, a nie w czasie rzeczywistym. Teraz ma się to zmienić, ale Adler pozostaje ostrożny: “Doceniam, że OpenAI myśli o zamierzonym zachowaniu, ale jeśli firma nie mierzy rzeczywistych zachowań, intencje ostatecznie są tylko słowami”.
Gra na wyprzedzenie, czyli jak uniknąć prawnych kłopotów
Nie da się ukryć, że OpenAI swoimi działaniami próbuje wyprzedzić konkretne regulacje, jak chociażby kalifornijską ustawę SB 243. Wchodzi ona w życie w 2027 roku i nakłada na twórców chatbotów obowiązek blokowania rozmów o samobójstwie czy treściach seksualnych. Wymaga też, by co trzy godziny przypominać nieletnim, że rozmawiają z maszyną. OpenAI nie zdradza, jak często będzie wysyłać takie przypomnienia, mówiąc jedynie o “długich sesjach”.
Jednocześnie firma publikuje poradniki dla rodziców, co formalizuje podejście oparte na współodpowiedzialności. To wygodna narracja, często powtarzana w Dolinie Krzemowej: my dajemy narzędzia, a wy, rodzice, pilnujcie. Pojawia się też inne, dość oczywiste pytanie. Skoro zasady takie jak priorytet bezpieczeństwa czy odsyłanie do realnego wsparcia są tak ważne dla nastolatków, to dlaczego nie miałyby obowiązywać wszystkich użytkowników? Czy OpenAI uważa, że dorośli nie potrzebują podobnej ochrony? Na razie firma odpowiada ogólnikami, zapewniając, że jej strategia ma na celu ochronę wszystkich. Jednak to właśnie konkrety, a nie deklaracje, zdecydują o tym, czy wirtualny przyjaciel nie stanie się cyfrowym zagrożeniem.