Kobiety na LinkedIn podejrzewają nowy algorytm AI o dyskryminację. W ramach eksperymentu #WearthePants zmieniły płeć w profilu. Efekt? Zasięgi wzrosły o 238%.
W skrócie:
- Użytkowniczki LinkedIn, w tym założycielki firm, zmieniły płeć w swoich profilach, aby sprawdzić, czy nowy algorytm AI faworyzuje mężczyzn.
- W niektórych przypadkach impresje postów wzrosły nawet o 238% w ciągu zaledwie jednego dnia po zmianie płci z żeńskiej na męską w ustawieniach.
- LinkedIn oficjalnie zaprzecza, by płeć była sygnałem dla algorytmu, ale eksperci wskazują na możliwość istnienia ukrytych, niejawnych uprzedzeń w modelu.
Pewnego listopadowego dnia strateżka produktowa, nazwijmy ją Michelle, zalogowała się na swoje konto na LinkedIn i zmieniła płeć na męską. Jak powiedziała portalowi TechCrunch, zmieniła też imię na Michael. To nie był kaprys. To był eksperyment – część szerszej akcji #WearthePants, w której kobiety testowały hipotezę, że nowy algorytm platformy jest uprzedzony i faworyzuje mężczyzn. Od miesięcy wielu aktywnych użytkowników narzekało na spadki zaangażowania i zasięgów. Zbiegło się to w czasie z oświadczeniem Tima Jurki, wiceprezesa ds. inżynierii w LinkedIn, który w sierpniu przyznał, że platforma “całkiem niedawno” wdrożyła duże modele językowe (LLM) do lepszego dopasowywania treści.
Michelle miała powody do podejrzeń. Ma ponad 10 000 obserwujących i anonimowo pisze posty dla swojego męża, który ma ich zaledwie 2000. Pomimo tego oboje notowali podobną liczbę wyświetleń. “Jedyną znaczącą zmienną była płeć” – stwierdziła.
Jak narodził się bunt #WearthePants?
Inicjatywa #WearthePants zaczęła się od dwóch przedsiębiorczyń – Cindy Gallop i Jane Evans. Zapytały dwóch mężczyzn, czy opublikują dokładnie te same treści co one. Chciały sprawdzić, czy płeć rzeczywiście jest powodem, dla którego tak wiele kobiet odczuwa spadek zaangażowania. Gallop i Evans mają łącznie ponad 150 000 obserwujących. Mężczyźni biorący udział w teście mieli ich wtedy około 9400. Wyniki? Post Gallop dotarł do zaledwie 801 osób, podczas gdy identyczny post opublikowany przez mężczyznę zobaczyło 10 408 użytkowników – czyli ponad 100% jego obserwujących. To był sygnał dla innych.
Marilynn Joyner, założycielka firmy, również zmieniła płeć w profilu. Regularnie publikuje na LinkedIn od dwóch lat i w ostatnich miesiącach zauważyła spadek widoczności. “Zmieniłam płeć z żeńskiej na męską, a moje zasięgi skoczyły o 238% w ciągu jednego dnia” – powiedziała w rozmowie z TechCrunch. Podobne rezultaty zgłosiły Megan Cornish, Rosie Taylor, Jessica Doyle Mekkes i dziesiątki innych kobiet.
Czy algorytm LinkedIn jest “bro-coded”?
Eksperci od algorytmów społecznościowych zgadzają się, że bezpośredni seksizm raczej nie wchodzi w grę. Problem może leżeć znacznie głębiej – w ukrytych uprzedzeniach. Brandeis Marshall, konsultantka ds. etyki danych, tłumaczy, że platformy to “złożona symfonia algorytmów, które jednocześnie i nieustannie pociągają za określone matematyczne i społeczne dźwignie”. Zmiana zdjęcia czy imienia to tylko jedna z nich. To, co widzimy, to skomplikowany problem. Marshall dodaje, że większość tych platform “wrodzenie ma wbudowany biały, męski, zachodniocentryczny punkt widzenia”, ponieważ właśnie takie osoby najczęściej trenowały modele. A te, ucząc się na treściach tworzonych przez ludzi, przejmują nasze uprzedzenia – w tym seksizm i rasizm.
Michelle, kobieta, od której zaczęliśmy tę historię, zauważyła coś jeszcze. W tygodniu, w którym publikowała jako “Michael”, delikatnie zmieniła ton swoich wpisów. Zaczęła pisać w bardziej uproszczonym, bezpośrednim stylu – tak, jak zazwyczaj robi to dla swojego męża. Wtedy jej zasięgi skoczyły o 200%, a zaangażowanie wzrosło o 27%. Doszła do wniosku, że system nie jest “jawnie seksistowski”, ale zdaje się uznawać style komunikacji powszechnie kojarzone z kobietami za “mniej wartościowe”. Stereotypowo męski styl pisania jest postrzegany jako bardziej zwięzły, a kobiecy – jako bardziej miękki i emocjonalny. Jeśli model LLM jest nauczony promować ten pierwszy, mamy do czynienia z subtelnym, ukrytym uprzedzeniem.
Co na to LinkedIn? Mur korporacyjnej tajemnicy
LinkedIn, jak każda inna platforma oparta na LLM, niechętnie dzieli się szczegółami działania swojej “czarnej skrzynki”. Firma twierdzi, że jej “algorytmy i systemy AI nie wykorzystują informacji demograficznych, takich jak wiek, rasa czy płeć, jako sygnału do określania widoczności treści”. W oświadczeniu dla TechCrunch rzecznik prasowy podkreślił, że platforma przeprowadza testy na milionach postów, aby upewnić się, że “treści różnych twórców konkurują na równych zasadach”.
Co więcej, firma sugeruje, że uczestniczki eksperymentu mogły doświadczyć wzrostu zasięgów z innych powodów. Udział w wiralowym trendzie sam w sobie może zwiększyć zaangażowanie. Niektóre z kont publikowały posty po dłuższej przerwie, co algorytm mógł nagrodzić. Pomimo tego wielu użytkowników – niezależnie od płci – jest zdezorientowanych i sfrustrowanych. Jedni zgłaszają spadki o 50%, inni wzrosty o 100%. “Chcę przejrzystości” – podsumowuje Michelle. To jednak życzenie, które w świecie chronionych tajemnicą handlową algorytmów, prawdopodobnie nigdy nie zostanie w pełni spełnione.