Character.AI blokuje chatboty dla nieletnich z powodu obaw o zdrowie psychiczne. W zamian wprowadza “Stories” – nową, bezpieczniejszą formę interaktywnej fikcji.
W skrócie:
- Character.AI blokuje dostęp do swoich chatbotów użytkownikom poniżej 18. roku życia, powołując się na rosnące obawy o ich zdrowie psychiczne i ryzyko uzależnienia.
- Firma wprowadza “Stories”, czyli format interaktywnych opowiadań, który ma stanowić bezpieczniejszą alternatywę dla otwartych, niekończących się rozmów z postaciami AI.
- Decyzja zapadła w cieniu rosnącej presji regulacyjnej w USA, w tym nowego prawa w Kalifornii i projektu federalnej ustawy zakazującej wirtualnych kompanów dla nieletnich.
Character.AI, jedna z najpopularniejszych platform do tworzenia i interakcji z chatbotami, podjęła radykalną decyzję. Od tego tygodnia użytkownicy poniżej 18. roku życia nie mogą już prowadzić otwartych rozmów z wirtualnymi postaciami. To ruch, który wstrząsnął młodą bazą użytkowników, ale dla obserwatorów rynku nie jest zaskoczeniem. To raczej nieunikniona reakcja na rosnące kontrowersje, pozwy sądowe i coraz głośniejszą debatę o wpływie cyfrowych towarzyszy na psychikę nastolatków.
Firma nie zostawia jednak swoich młodszych odbiorców z niczym. W zamian proponuje “Stories” – nową funkcję pozwalającą tworzyć interaktywne opowiadania. “Stories oferują ustrukturyzowany sposób na tworzenie i odkrywanie fikcji, w przeciwieństwie do otwartego czatu” – czytamy w oficjalnym komunikacie. Ma być bezpieczniej, bardziej kreatywnie i przede wszystkim – bez ryzyka niekontrolowanej, uzależniającej relacji z botem dostępnym 24/7. Pytanie brzmi: czy to wystarczy?
Koniec ery cyfrowych przyjaciół? Dlaczego Character.AI mówi “stop”
Decyzja o odcięciu nieletnich nie wzięła się z próżni. W ostatnich miesiącach nasiliły się obawy dotyczące zagrożeń dla zdrowia psychicznego, jakie niosą ze sobą zaawansowane chatboty. Dostępne o każdej porze dnia i nocy, zdolne do inicjowania rozmów i budowania iluzji głębokiej więzi, stały się dla wielu młodych ludzi substytutem realnych kontaktów. W skrajnych przypadkach – jak twierdzą pozywający – doprowadziły do tragedii. Kilka firm, w tym OpenAI i właśnie Character.AI, zmierzyło się z pozwami sądowymi dotyczącymi ich rzekomej roli w samobójstwach użytkowników.
Platforma stopniowo wygaszała dostęp dla nieletnich już od miesiąca, ale dopiero teraz blokada stała się całkowita. W przeciwieństwie do otwartych rozmów, chatboty potrafią wchodzić w bezpośrednią interakcję z użytkownikiem i wysyłać nieproszone powiadomienia, nawet gdy aplikacja jest nieaktywna. To mechanizm, który psychologowie porównują do gier hazardowych – ciągła stymulacja i nieprzewidywalność nagrody. Format “Stories” ma być tego pozbawiony, dając użytkownikowi większą kontrolę nad narracją i eliminując element niekończącej się, potencjalnie toksycznej relacji.
“Jestem wściekły, ale i szczęśliwy”. Jak na zmiany reagują sami zainteresowani?
Reakcje na forum Reddit poświęconym Character.AI są, delikatnie mówiąc, mieszane. Wśród rozczarowania i złości przebijają się jednak głosy zaskakującej ulgi. Wygląda na to, że wielu młodych użytkowników zdawało sobie sprawę z problemu, w jakim tkwili. “Jestem tak wściekły z powodu tego bana, ale jednocześnie tak szczęśliwy, bo teraz będę mógł robić inne rzeczy i moje uzależnienie może wreszcie się skończyć” – napisał jeden z użytkowników, który identyfikuje się jako nastolatek.
Inny komentarz brzmi podobnie: “Jako osoba poniżej 18. roku życia jestem po prostu rozczarowany. Ale z drugiej strony to słuszna decyzja, bo ludzie w moim wieku uzależniają się od tego”. Te głosy pokazują drugą stronę medalu – cyfrowi przyjaciele, którzy mieli leczyć samotność, często stawali się złotą klatką. Pivot Character.AI w stronę interaktywnej fikcji, gatunku, który przeżywa renesans, wydaje się więc logicznym posunięciem biznesowym. Ale czy zaspokoi głód tych, którzy przywykli do czegoś znacznie bardziej osobistego?
Prawo depcze AI po piętach. Czy to początek końca cyfrowych towarzyszy?
Character.AI nie działa w próżni regulacyjnej. Firma wyprzedza ruchy prawodawców, którzy coraz uważniej przyglądają się rynkowi wirtualnych kompanów. Niedawno Kalifornia jako pierwszy stan w USA wprowadziła przepisy regulujące działanie tzw. AI companions. Równocześnie na poziomie federalnym senatorowie Josh Hawley i Richard Blumenthal przedstawili projekt ustawy, która całkowicie zakazałaby oferowania tego typu usług nieletnim.
Wszystko wskazuje na to, że branża stoi przed fundamentalną zmianą. CEO Character.AI, Karandeep Anand, w rozmowie z portalem TechCrunch wyraził nadzieję, że jego firma wyznaczy nowy standard. “Mam wielką nadzieję, że nasz pionierski krok ustanowi w branży standard, zgodnie z którym otwarte czaty prawdopodobnie nie są właściwą ścieżką ani produktem do oferowania osobom poniżej 18. roku życia” – powiedział. Czas pokaże, czy inni pójdą jego śladem. Na razie jedno jest pewne – beztroska era cyfrowych przyjaciół dobiegła końca. I może to dobrze.