Czy AI utrwala rasizm? Prawnicy z Berkeley alarmują: algorytmy pogłębiają nierówności, a systemy rozpoznawania twarzy celowo dyskryminują mniejszości.
W skrócie:
- Systemy rozpoznawania twarzy wykazują najwyższy wskaźnik błędów w przypadku czarnoskórych kobiet, co prowadzi do niesłusznych oskarżeń o naruszenie warunków zwolnienia warunkowego.
- Firmy technologiczne wykorzystują AI do przeklasyfikowania pracowników na kontraktorów, co pozwala im omijać prawo pracy i prowadzi do drastycznego wzrostu nierówności społecznych.
- Według ekspertów amerykański rząd celowo zniechęcał do tworzenia algorytmów o obniżonej dyskryminacji, promując rozwiązania, które nie uwzględniają korekt na rzecz mniejszości.
Sztuczna inteligencja miała być obietnicą obiektywizmu – chłodną logiką maszyn, która wyeliminuje ludzkie uprzedzenia. Tymczasem na Uniwersytecie Kalifornijskim w Berkeley czołowi prawnicy i eksperci technologiczni kreślą zupełnie inny obraz. Podczas dwóch niedawnych wydarzeń, dorocznego sympozjum Race & Tech oraz panelu Tech Policy for a Just Future, padły twarde oskarżenia. AI nie tylko powiela istniejące nierówności rasowe, ale aktywnie je wzmacnia. I nie jest to błąd w systemie. To jego funkcja.
Jak technologia stała się narzędziem w systemie karnym?
Wyobraź sobie, że jesteś na zwolnieniu warunkowym. Każdy twój ruch śledzi aplikacja w smartfonie, a o twojej przyszłości decyduje algorytm analizujący dane z monitoringu elektronicznego. Brzmi jak dystopia? W Stanach Zjednoczonych to rzeczywistość dla ponad 500 tysięcy osób. Juliana DeVries, prawniczka z Samuelson Law, Technology & Public Policy Clinic, przedstawia brutalne fakty. “To skomplikowane technologie, używane przeciwko ludziom, którzy mają niewielkie szanse na obronę przed zarzutami” – mówiła. W niektórych stanach oskarżeni o naruszenie warunków zwolnienia nie mają nawet prawa do adwokata.
Problem w tym, że te systemy są fundamentalnie wadliwe. Aplikacje na smartfony notorycznie gubią sygnał lub zgłaszają fałszywe alarmy. Prawdziwy dramat zaczyna się jednak przy technologiach rozpoznawania twarzy. Jak podkreśla DeVries, wykazują one najwyższy wskaźnik błędów w przypadku czarnoskórych kobiet. To nie statystyka. To przepis na ludzkie tragedie. Nicole Ozer, dyrektorka Center for Constitutional Democracy, dodaje szerszy kontekst. “W sercu tego wszystkiego tak naprawdę leży władza” – stwierdziła. Organizacje takie jak ACLU od lat prowadzą batalię sądową z firmami tworzącymi gigantyczne, nielegalne bazy danych biometrycznych, które rzekomo zawierają ponad 10 miliardów “odcisków twarzy” z całego świata. To walka Dawida z Goliatem, gdzie stawką jest prywatność i podstawowe prawa obywatelskie.
Czy AI zabierze nam pracę i pogłębi nierówności?
Debata o AI w kontekście pracy jest pełna sprzeczności. Profesor prawa pracy Diana S. Reddy z Berkeley przytacza dane: 70% amerykańskich pracowników obawia się, że AI ich zastąpi. Jednocześnie dokładnie ten sam odsetek ma nadzieję, że technologia ułatwi im wykonywanie obowiązków. Problem polega na tym, że historia uczy nas ostrożności. “Pracodawcy mają długą historię wykorzystywania innowacji technologicznych do redukcji kosztów pracy” – przypomina Reddy. Dzisiejsza AI jest jednak inna niż automatyzacja z przeszłości. Potrafi w czasie rzeczywistym reagować na zmienne i wykonywać zadania w wielu różnych rolach.
Co więcej, technologia staje się narzędziem do fundamentalnej zmiany na rynku pracy. Firmy używają jej do przeklasyfikowania pracowników na “niezależnych kontraktorów”, co jest sprytnym wybiegiem pozwalającym ominąć całą infrastrukturę prawną chroniącą zatrudnionych. To zjawisko nieproporcjonalnie uderza w mniejszości i grupy marginalizowane. “Jeśli AI masowo wyprze ludzkich pracowników, nie mówimy tylko o krótkoterminowej utracie pracy, ale o potencjalnie trwałym zastąpieniu” – ostrzega Reddy. Skutkiem będzie dalsza, gwałtowna koncentracja bogactwa w rękach właścicieli biznesu, co napędzi spiralę nierówności. Zdaniem ekspertki, taka sytuacja może doprowadzić do radykalnej zmiany w postrzeganiu korporacji – przestaną być “twórcami miejsc pracy”, a staną się jedynie multiplikatorami własnego kapitału.
“Etnonacjonalizm w algorytmie”: Kto tak naprawdę kontroluje AI?
Najbardziej niepokojącą tezę postawił Spencer Overton, profesor prawa z George Washington Law. W swoim nadchodzącym artykule *Ethnonationalism by Algorithm* argumentuje, że AI jest projektowana i wykorzystywana do faworyzowania dominującej grupy rasowej i kulturowej, jednocześnie wykluczając lub próbując asymilować pozostałe. To nie teoria spiskowa, a analiza faktów – od algorytmów kredytowych, przez systemy wsparcia decyzji w opiece zdrowotnej, po narzędzia używane w sądownictwie. Wszystkie one wykazują statystycznie istotne uprzedzenia.
Overton wskazuje, że administracja Donalda Trumpa uchyliła rozporządzenie nakazujące agencjom federalnym ograniczanie dyskryminacji w algorytmach. Co więcej, pojawiły się propozycje, by wstrzymywać federalne fundusze dla stanów, które wprowadzą zbyt “uciążliwe” regulacje AI. “Jeśli dopracujesz swoje AI, by zredukować uprzedzenia, rząd federalny go nie kupi” – stwierdził bez ogródek Overton. To celowe działanie, które hamuje innowacje na rzecz sprawiedliwości. Lawrence Norden z Brennan Center for Justice dodaje, że choć technologia mogłaby pomóc – na przykład w rysowaniu sprawiedliwszych map okręgów wyborczych – to rosnąca potęga władzy wykonawczej i gigantów technologicznych skutecznie blokuje taki postęp. Firmy, które jeszcze niedawno deklarowały chęć ochrony demokracji, dziś w imię zysku i politycznych wiatrów likwidują odpowiednie działy. Morał z Berkeley jest prosty i gorzki. AI nie będzie zbawcą. Przynajmniej nie bez fundamentalnej zmiany w podejściu do władzy, prawa i społecznej odpowiedzialności.