Firma AI Clarifai usunęła 3 mln zdjęć z OkCupid użytych do trenowania rozpoznawania twarzy. To finał skandalu, który FTC badało od 2019 roku.
W skrócie:
- Clarifai usunęło 3 miliony zdjęć użytkowników OkCupid oraz wszystkie modele AI, które wytrenowano z ich użyciem. Dane te służyły do budowy systemu rozpoznawania twarzy.
- Dane przekazano już w 2014 roku, ale Federalna Komisja Handlu (FTC) wszczęła śledztwo dopiero w 2019 roku, po demaskatorskim artykule w The New York Times.
- OkCupid i jego spółka-matka, Match Group, zawarły ugodę z FTC. Nie przyznały się do winy, ale otrzymały stały zakaz wprowadzania użytkowników w błąd w kwestii udostępniania danych.
Cisza bywa złotem, ale czasem jest po prostu przykrywką. Przez lata miliony użytkowników aplikacji randkowej OkCupid nie miało pojęcia, że ich twarze – te same, które miały przyciągnąć potencjalnego partnera – stały się poligonem doświadczalnym dla sztucznej inteligencji. Firma Clarifai, specjalizująca się w rozpoznawaniu obrazu, właśnie potwierdziła, że usunęła ze swoich serwerów 3 miliony zdjęć pochodzących z serwisu. Wykasowano również wszystkie modele AI, które na tych danych się uczyły. To ruch, który – choć spóźniony o dekadę – jest cichym przyznaniem się do winy w jednej z bardziej osobliwych spraw na styku technologii, prywatności i etyki.
Jak zdjęcia z aplikacji randkowej stały się paliwem dla AI?
Wszystko zaczęło się w 2014 roku od jednej, pozornie niewinnej wiadomości. Matthew Zeiler, założyciel i CEO Clarifai, napisał do współzałożyciela OkCupid, Maxwella Krohna, z entuzjazmem godnym poszukiwacza złota. “Zbieramy teraz dane i właśnie zdaliśmy sobie sprawę, że OKCupid musi mieć OGROMNĄ ilość niesamowitych danych do tego celu” – donosił Zeiler, jak wynika z dokumentów sądowych, do których dotarła agencja Reuters. Reakcja była pozytywna. OkCupid – w którym zresztą menedżerowie zainwestowali prywatne środki w Clarifai – udostępniło nie tylko zdjęcia profilowe, ale również dane demograficzne i lokalizacyjne. Wszystko to wbrew własnej polityce prywatności, która powinna była chronić użytkowników przed takim procederem.
To nie była subtelna wymiana. To był układ, w którym dane milionów ludzi, szukających miłości lub przelotnej znajomości, stały się towarem. Nikt nie pytał ich o zgodę. Nikt nie poinformował, że ich uśmiechy, spojrzenia i starannie dobrane kadry będą teraz analizowane przez algorytmy, które uczą się rozpoznawać wiek, płeć i rasę. To kwintesencja myślenia, w którym dane to nowa ropa naftowa – surowiec, który po prostu się wydobywa, nie zważając na konsekwencje.
Dlaczego sprawiedliwość potrzebowała aż dekady?
Przez pięć lat sprawa pozostawała w cieniu. Dopiero w 2019 roku publikacja w The New York Times rzuciła na nią światło. Artykuł o Clarifai mimochodem wspomniał, że firma wykorzystała zdjęcia z OkCupid do budowy swojego narzędzia. Dopiero wtedy amerykańska Federalna Komisja Handlu (FTC) postanowiła się obudzić i wszcząć śledztwo. Pięć lat. Tyle czasu regulator potrzebował, by zareagować na coś, co działo się na otwartym rynku, napędzane inwestorskimi powiązaniami i cichym przyzwoleniem.
Śledztwo FTC wykazało, że od 2014 roku zarówno OkCupid, jak i jego potężna spółka-matka, Match Group, celowo ukrywały ten proceder i próbowały utrudniać dochodzenie. To nie był przypadek ani błąd w systemie. To była świadoma strategia biznesowa, w której prywatność użytkowników znalazła się na szarym końcu listy priorytetów. Sprawa ciągnęła się latami, a w międzyczasie modele AI zdążyły się “nauczyć” wszystkiego, czego miały się nauczyć na skradzionych de facto danych.
Jaki jest finał sprawy i czy możemy czuć się bezpieczni?
Finał tej historii jest równie cyniczny, co jej początek. W zeszłym miesiącu Match Group i OkCupid zawarły ugodę z FTC. Co istotne, nie przyznały się do zarzutów o oszukiwanie użytkowników i łamanie własnych regulaminów. Zamiast tego zgodziły się na “stały zakaz wprowadzania w błąd lub pomagania innym we wprowadzaniu w błąd” w kwestii gromadzenia i udostępniania danych. Innymi słowy, zakazano im robić coś, co i tak było już zakazane. Brzmi jak farsa? Bo nią jest. Co więcej, FTC nie jest w stanie nakładać kar finansowych za tego typu “pierwsze wykroczenie”, co w przypadku firmy o skali Match Group jest zachętą, a nie odstraszaniem.
Jedynym realnym skutkiem jest działanie Clarifai. Usunięcie danych i modeli to jedyny namacalny dowód, że coś było na rzeczy. Firma, nie będąc stroną ugody, zrobiła to, czego prawnicy OkCupid starali się uniknąć – pośrednio potwierdziła, że zarzuty były prawdziwe. Dla milionów użytkowników to jednak marne pocieszenie. Ich cyfrowy wizerunek krążył przez dekadę po serwerach, służąc celom, o których nie mieli pojęcia. I choć te konkretne dane zniknęły, sprawa pozostawia fundamentalne pytanie: ile jeszcze takich “cichych układów” funkcjonuje w cyfrowym świecie, czekając na swojego dziennikarza z *The New York Times*?