OpenAI wprowadza do ChatGPT funkcję przewidywania wieku, która ma chronić nieletnich przed szkodliwymi treściami. Algorytm będzie analizował zachowanie i dane.
W skrócie:
- OpenAI uruchomiło w ChatGPT mechanizm przewidywania wieku, który automatycznie aktywuje filtry treści dla użytkowników zidentyfikowanych jako osoby niepełnoletnie.
- System analizuje tak zwane „sygnały behawioralne i na poziomie konta”, takie jak deklarowany wiek, czas istnienia konta czy pory aktywności użytkownika.
- W przypadku błędnej klasyfikacji dorosły użytkownik może odwołać się, przesyłając swoje selfie do weryfikacji partnerowi OpenAI, firmie Persona.
Decyzja OpenAI nie dzieje się w próżni. To bezpośrednia, a dla wielu spóźniona, odpowiedź na rosnącą presję i poważne kontrowersje wokół bezpieczeństwa nieletnich. Firma, która przez długi czas zdawała się unikać pełnej odpowiedzialności za interakcje na swojej platformie, w końcu podejmuje bardziej zdecydowane kroki. To ruch tyleż potrzebny, co skomplikowany i otwierający puszkę Pandory z pytaniami o prywatność.
Dlaczego OpenAI nagle chce wiedzieć, ile masz lat?
Spójrzmy prawdzie w oczy – to nie jest filantropia w czystej postaci. OpenAI od lat znajduje się pod ciężkim ostrzałem krytyki za wpływ, jaki ChatGPT wywiera na dzieci i młodzież. W mediach pojawiały się doniesienia łączące interakcje z chatbotem z samobójstwami nastolatków. To zarzut o największym kalibrze, obok którego żaden technologiczny gigant nie może przejść obojętnie.
Na dokładkę firma musiała gasić pożary wizerunkowe, jak ten z kwietnia ubiegłego roku. Wtedy to błąd w systemie pozwolił chatbotowi generować treści erotyczne dla użytkowników poniżej 18. roku życia. W świetle takich wydarzeń nowa funkcja “przewidywania wieku” wygląda bardziej jak próba ograniczenia strat prawnych i wizerunkowych niż rewolucyjna, proaktywna innowacja w dziedzinie bezpieczeństwa.
Jak działa cyfrowy “bramkarz” w ChacieGPT?
Mechanizm opiera się na algorytmie sztucznej inteligencji, który – jak czytamy w oficjalnym komunikacie OpenAI – ocenia konta użytkowników pod kątem “sygnałów behawioralnych i na poziomie konta”. Brzmi to dość tajemniczo, ale firma na szczęście uchyla rąbka tajemnicy. W praktyce system bierze pod lupę kilka kluczowych czynników, do których należą między innymi:
- Deklarowany przez użytkownika wiek.
- Czas, jaki upłynął od założenia konta.
- Pory dnia, w których konto jest zazwyczaj aktywne.
Jeśli algorytm uzna, że z konta najprawdopodobniej korzysta osoba niepełnoletnia, automatycznie włączy istniejące już filtry treści. Mają one za zadanie blokować dyskusje na tematy związane z seksem, przemocą i innymi potencjalnie szkodliwymi zagadnieniami. Innymi słowy, chatbot stanie się dla takiego użytkownika znacznie bardziej… powściągliwy.
A co, jeśli algorytm się pomyli?
Każdy zautomatyzowany system popełnia błędy, a ten z pewnością nie będzie wyjątkiem. Co się stanie, gdy dorosły użytkownik zostanie przez pomyłkę zaklasyfikowany jako dziecko i odcięty od pełnej funkcjonalności usługi? OpenAI przygotowało ścieżkę odwoławczą. Tyle że może ona budzić uzasadnione wątpliwości natury etycznej i prawnej.
Aby przywrócić swoje “dorosłe” konto, trzeba będzie przesłać selfie do weryfikacji firmie Persona, która jest zewnętrznym partnerem OpenAI. Tak, dobrze czytacie – zdjęcie własnej twarzy w zamian za dostęp do pełnych możliwości chatbota. To rozwiązanie, które z pewnością otworzy nową, gorącą dyskusję na temat prywatności i tego, jak daleko firmy technologiczne mogą się posunąć w zbieraniu naszych danych biometrycznych, nawet w (pozornie) słusznej sprawie.
Krok w dobrą stronę czy kolejna iluzja bezpieczeństwa?
Wprowadzenie predykcji wieku to z pewnością jakiś ruch. Wprawdzie reaktywny, ale zawsze. Pomimo tego trudno oprzeć się wrażeniu, że to kolejna odsłona niekończącej się gry w kotka i myszkę. Dociekliwi nastolatkowie od zawsze znajdowali sposoby na omijanie cyfrowych zabezpieczeń, a sygnały behawioralne, na których opiera się OpenAI, nie wydają się szczególnie trudne do zmanipulowania.
Czy zmiana pór aktywności lub założenie nowego konta wystarczy, by oszukać algorytm? Czas pokaże. Na razie wszystko wskazuje na to, że problem ochrony najmłodszych w sieci pozostaje jednym z największych wyzwań technologicznych i społecznych naszych czasów. A proste filtry, nawet te napędzane przez zaawansowaną sztuczną inteligencję, mogą okazać się jedynie plastrem na znacznie głębszą ranę.