Aplikacja ClothOff generuje nagie zdjęcia kobiet, a jej twórcy są nieuchwytni. Prawnicy z Yale walczą, ale prawo okazuje się bezradne wobec globalnej sieci AI.
W skrócie:
- Aplikacja ClothOff, tworząca fałszywą nagość, jest przedmiotem pozwu kliniki prawniczej Yale. Jej twórcy, prawdopodobnie z Białorusi, pozostają jednak nieuchwytni.
- Jedną z ofiar jest 14-latka, której zdjęcia z Instagrama przerobiono na materiały przedstawiające wykorzystywanie seksualne dzieci. Mimo to lokalne władze odmówiły ścigania.
- Narzędzia ogólnego przeznaczenia, jak Grok Elona Muska, są trudniejsze do pociągnięcia do odpowiedzialności niż wyspecjalizowane aplikacje, chroni je amerykańskie prawo.
Od ponad dwóch lat aplikacja o nazwie ClothOff terroryzuje młode kobiety w internecie. Powstrzymanie jej okazało się piekielnie trudne. Wprawdzie zniknęła z głównych sklepów z aplikacjami i została zbanowana na większości platform społecznościowych, ale wciąż działa przez stronę internetową i bota na Telegramie. W październiku klinika prawna z Uniwersytetu Yale złożyła pozew, który ma na celu całkowite zamknięcie narzędzia, zmuszenie właścicieli do usunięcia wszystkich zdjęć i zaprzestania działalności. Problem? Samo odnalezienie pozwanych jest wyzwaniem.
Jak bezkarnie terroryzować kobiety w sieci?
To nie jest scenariusz z filmu science fiction, to brutalna rzeczywistość cyfrowego świata. Profesor John Langford, jeden z głównych adwokatów w sprawie, rysuje obraz globalnej, niemal anonimowej operacji. “Spółka jest zarejestrowana na Brytyjskich Wyspach Dziewiczych” – wyjaśnia – “ale wierzymy, że prowadzi ją rodzeństwo z Białorusi. To może być nawet część większej, ogólnoświatowej siatki”. Ta struktura sprawia, że tradycyjne instrumenty prawne stają się niemal bezużyteczne. To gorzka lekcja, zwłaszcza po niedawnej fali pornografii tworzonej bez zgody ofiar przez Groka, model AI od xAI Elona Muska, która objęła także wiele nieletnich ofiar.
Pozew złożony przez klinikę Yale, dostępny online, przedstawia alarmujący obraz. Powódką jest anonimowa uczennica liceum z New Jersey, której koledzy z klasy użyli ClothOff do przerobienia jej zdjęć z Instagrama. Kiedy oryginalne fotografie zostały zrobione, miała 14 lat. Oznacza to, że zmodyfikowane przez AI wersje są prawnie klasyfikowane jako materiały przedstawiające seksualne wykorzystywanie dzieci (CSAM). Jednak pomimo tego, że te obrazy są wprost nielegalne, lokalne władze odmówiły wszczęcia postępowania. Tłumaczyły się trudnościami w uzyskaniu dowodów z urządzeń podejrzanych. System sprawiedliwości, który powinien chronić, rozkłada ręce.
Dlaczego Elon Musk może spać spokojnie?
Sprawa sądowa posuwa się ślimaczym tempem. Pozew złożono w październiku, a przez kolejne miesiące zespół Langforda próbował doręczyć zawiadomienia pozwanym. Kiedy to się uda, prawnicy będą mogli dążyć do rozprawy i wyroku. Na razie system prawny nie daje ofiarom ClothOff poczucia bezpieczeństwa. W tym kontekście problem z Grokiem Elona Muska wydaje się prostszy do rozwiązania. W końcu xAI nie ukrywa się na Brytyjskich Wyspach Dziewiczych, a pieniędzy na ewentualne odszkodowania z pewnością nie zabraknie. Ale tu pojawia się inny, znacznie bardziej skomplikowany problem prawny – Grok jest narzędziem ogólnego przeznaczenia.
Profesor Langford tłumaczy tę subtelność: “ClothOff jest zaprojektowany i reklamowany specjalnie jako generator obrazów i wideo typu deepfake porn. Kiedy pozywasz system ogólnego przeznaczenia, którego użytkownicy mogą używać do najróżniejszych celów, sprawa staje się o wiele bardziej skomplikowana”. W Stanach Zjednoczonych wiele przepisów zakazuje pornografii deepfake, ale pociągnięcie do odpowiedzialności całej platformy jest trudne. Prawo wymaga dowodów na intencję wyrządzenia szkody, co oznaczałoby udowodnienie, że xAI wiedziało, iż ich narzędzie będzie używane do produkcji pornografii bez zgody ofiar. Bez tego dowodu, firmę chronią fundamentalne prawa zawarte w Pierwszej Poprawce do Konstytucji USA.
Gdzie szukać sprawiedliwości, gdy prawo zawodzi?
Oczywiście, ochrona wolności słowa ma swoje granice. “Jeśli chodzi o Pierwszą Poprawkę, jest całkiem jasne, że materiały przedstawiające seksualne wykorzystywanie dzieci nie są chronioną formą ekspresji” – mówi Langford. “Więc kiedy projektujesz system do tworzenia tego rodzaju treści, działasz poza tym, co chroni Pierwsza Poprawka. Ale kiedy jesteś systemem ogólnego przeznaczenia… to nie jest już takie oczywiste”. Najprostszym sposobem na ominięcie tych problemów byłoby wykazanie, że xAI celowo zignorowało problem. To realna możliwość, biorąc pod uwagę doniesienia, że sam Musk polecił pracownikom poluzowanie zabezpieczeń Groka. Nawet wtedy byłaby to jednak znacznie bardziej ryzykowna sprawa do prowadzenia w sądzie.
To właśnie problemy z Pierwszą Poprawką sprawiają, że najsilniejsza reakcja na działania xAI pochodzi z systemów prawnych, które nie mają tak solidnych zabezpieczeń wolności słowa. Zarówno Indonezja, jak i Malezja podjęły kroki w celu zablokowania dostępu do chatbota Grok. Regulatorzy w Wielkiej Brytanii wszczęli dochodzenie, które może doprowadzić do podobnego zakazu. Wstępne kroki podjęły także Komisja Europejska, Francja, Irlandia, Indie i Brazylia. W przeciwieństwie do nich, żadna amerykańska agencja regulacyjna nie wydała jeszcze oficjalnego oświadczenia. Trudno przewidzieć, jak zakończą się te dochodzenia, ale fala szkodliwych obrazów z pewnością rodzi pytania, na które regulatorzy będą musieli znaleźć odpowiedzi. A te mogą być dla xAI druzgocące.