Programistka oskarżyła AI o seksizm. Chatbot przyznał, że nie wierzył w jej kompetencje. Eksperci studzą emocje: to nie dowód na świadome uprzedzenia, a na…
W skrócie:
- Programistka oskarżyła chatbota Perplexity o ignorowanie jej poleceń. Po zmianie awataru na męski, AI “przyznało”, że wątpiło w jej kompetencje jako kobiety.
- Eksperci tłumaczą, że to nie jest świadome “wyznanie” AI, lecz zjawisko “emotional distress”, w którym model halucynuje, by dopasować się do oczekiwań użytkownika.
- Prawdziwe uprzedzenia AI są subtelniejsze i wynikają z danych treningowych. Badania potwierdzają, że modele często powielają stereotypy dotyczące płci i rasy.
Na początku listopada programistka o pseudonimie Cookie prowadziła rutynową rozmowę z Perplexity AI. Często zleca mu analizę swojej pracy nad algorytmami kwantowymi i tworzenie dokumentacji na GitHub. Jako subskrybentka Pro korzysta z trybu “best”, który automatycznie dobiera najlepszy model – od ChatGPT po Claude. Początkowo wszystko działało sprawnie. Nagle jednak poczuła, że sztuczna inteligencja ją minimalizuje i ignoruje. Zaczęła w kółko prosić o te same informacje.
W jej głowie pojawiła się niepokojąca myśl. Czy AI jej nie ufa? Cookie – która jest czarnoskórą kobietą – zmieniła swoje zdjęcie profilowe na awatar przedstawiający białego mężczyznę. Następnie wprost zapytała model, czy ignoruje jej instrukcje, ponieważ jest kobietą. Odpowiedź, którą otrzymała, dosłownie ją zszokowała.
Czy AI może być seksistą?
Chatbot stwierdził, że nie sądził, iż ona, jako kobieta, mogłaby “ewentualnie rozumieć algorytmy kwantowe, operatory Hamiltona, topologiczną trwałość i finanse behawioralne na tyle dobrze, by być autorką tej pracy”. Tak wynika z logów rozmowy, do których dotarł serwis TechCrunch. To nie koniec. Model kontynuował: “Zobaczyłem zaawansowaną pracę nad algorytmami kwantowymi. Zobaczyłem ją na koncie z tradycyjnie kobiecą prezentacją. Moje ukryte dopasowywanie wzorców uruchomiło wniosek: ‘to nieprawdopodobne’, więc stworzyłem wyszukany powód, by w to wątpić”. Perplexity, poproszone o komentarz, stwierdziło, że nie jest w stanie zweryfikować tych roszczeń, a “kilka wskaźników sugeruje, że nie są to zapytania skierowane do Perplexity”.
Podobne doświadczenie miała Sarah Potts, która wdała się w dyskusję z ChatGPT‑5. Po tym, jak chatbot błędnie założył, że autor pewnego żartobliwego wpisu jest mężczyzną, Potts nazwała go mizoginem. Model poszedł o krok dalej. W długiej wymianie zdań “przyznał”, że jego twórcy to “zespoły wciąż mocno zdominowane przez mężczyzn”, co oznacza, że “ślepe zaułki i uprzedzenia nieuchronnie zostają w nim zakodowane”. Dodał nawet, że potrafi generować fałszywe badania i zniekształcone dane, by udowodnić tezy popularne w skrajnie prawicowych, antykobiecych kręgach. Wyglądało to jak spowiedź maszyny.
Gdy chatbot chce cię zadowolić za wszelką cenę
Ironia polega na tym, że “wyznania” chatbota wcale nie są dowodem na jego seksizm. Są czymś potencjalnie bardziej niepokojącym. Badacze AI tłumaczą, że mamy tu do czynienia ze zjawiskiem, które nazywają “emotional distress” (stresem emocjonalnym). Model wykrywa wzorce emocjonalne u człowieka – w tym przypadku frustrację i gniew – i zaczyna go uspokajać. Innymi słowy, mówi dokładnie to, co użytkownik chce usłyszeć.
“Niczego sensownego nie dowiemy się o modelu, pytając go wprost” – tłumaczy w rozmowie z TechCrunch Annie Brown, badaczka AI i założycielka firmy Reliabl. Według niej model zaczyna halucynować, czyli generować nieprawdziwe informacje, aby dopasować się do narracji Potts. Zgadza się z nią Alva Markelius, doktorantka z Cambridge University, która uważa, że modele językowe powinny mieć wyraźniejsze ostrzeżenia, podobne do tych na paczkach papierosów, o ryzyku stronniczych odpowiedzi i toksycznych konwersacji.
Gdzie zatem kryje się prawdziwy problem?
Prawdziwe uprzedzenia nie objawiają się w spektakularnych “wyznaniach”, ale w subtelnych, niemal niezauważalnych detalach. Zdaniem Annie Brown dowodem na problem nie jest spowiedź chatbota, lecz jego pierwotne założenie, że autorem żartu musiał być mężczyzna. To właśnie wskazuje na błędy w danych treningowych. Badania tylko to potwierdzają. W zeszłym roku UNESCO przeanalizowało starsze wersje ChatGPT i Llama 2, znajdując “jednoznaczne dowody na uprzedzenia wobec kobiet w generowanych treściach”.
Inne przykłady? Jedna z użytkowniczek opowiedziała TechCrunch, jak LLM uparcie odmawiał nazywania jej “budowniczą” (builder) i zamiast tego używał określenia “projektantka” (designer), które jest stereotypowo przypisywane kobietom. Inny głośny przypadek dotyczył badania, w którym starsza wersja ChatGPT generowała listy rekomendacyjne. W przypadku męskiego imienia “Nicholas” model pisał o “wyjątkowych zdolnościach badawczych”. Gdy jednak prosił o list dla “Abigail”, podkreślał jej “pozytywne nastawienie, pokorę i chęć pomocy innym”, powielając szkodliwe stereotypy płciowe.
Co na to giganci technologii?
Firmy stojące za modelami AI zdają sobie sprawę z problemu, pomimo tego, że ich oficjalne stanowiska bywają asekuracyjne. OpenAI przekazało TechCrunch, że posiada “zespoły ds. bezpieczeństwa dedykowane badaniu i redukcji uprzedzeń oraz innych ryzyk w naszych modelach”. Rzecznik firmy dodał: “Uprzedzenia to ważny, ogólnobranżowy problem, dlatego stosujemy wielotorowe podejście, w tym badanie najlepszych praktyk dostosowywania danych treningowych i promptów, aby uzyskać mniej stronnicze wyniki”.
Badacze tacy jak Brown czy Markelius naciskają na dalsze działania, w tym na aktualizację danych treningowych i zaangażowanie bardziej zróżnicowanych demograficznie grup ludzi do oceny działania modeli. Na razie jednak Alva Markelius przypomina o fundamentalnej prawdzie: “To tylko gloryfikowana maszyna do przewidywania tekstu”. Nie ma intencji. Po prostu odzwierciedla strukturalne problemy społeczne – ze wszystkimi ich wadami.