Firma xAI Elona Muska pozwana za rzekome tworzenie seksualnych deepfake’ów nieletnich przez model Grok. Pozew zarzuca brak podstawowych zabezpieczeń i zaniedbanie.
W skrócie:
- Trzy anonimowe powódki, w tym dwie nieletnie, złożyły w Kalifornii pozew zbiorowy przeciwko xAI, zarzucając firmie tworzenie obraźliwych treści seksualnych.
- Model AI Grok miał nie posiadać podstawowych zabezpieczeń, które stosują inne firmy, by uniemożliwić generowanie pornografii z wizerunkiem prawdziwych osób.
- Jedna z ofiar dowiedziała się o przerobionych zdjęciach z serwera Discord, pozostałe dwie zostały poinformowane przez organy ścigania prowadzące inne dochodzenia.
W kalifornijskim sądzie federalnym wylądowała bomba. I nie jest to metafora. Trzy anonimowe osoby, w tym dwie wciąż nieletnie, złożyły pozew zbiorowy przeciwko xAI, firmie Elona Muska. Stawiają zarzuty najcięższego kalibru: oskarżają korporację o to, że jej flagowy model sztucznej inteligencji, Grok, był wykorzystywany do tworzenia i rozpowszechniania treści o charakterze jednoznacznie seksualnym, które przedstawiały ich wizerunki. Mówiąc wprost – ich prawdziwe zdjęcia przerobiono na pornografię.
Sprawa, formalnie nazwana Jane Doe 1, Jane Doe 2, a minor, and Jane Doe 3, a minor versus x.AI Corp. and x.AI LLC, to coś więcej niż kolejny proces o naruszenie prywatności. To potencjalny kamień milowy w dyskusji o odpowiedzialności twórców AI za to, co ich technologia potrafi w rękach użytkowników. Bo jeśli zarzuty się potwierdzą, będzie to oznaczało, że xAI świadomie zignorowało standardy bezpieczeństwa, które dla reszty branży stały się – a przynajmniej powinny się stać – absolutną podstawą.
Dlaczego Grok jest na celowniku?
Prawnicy reprezentujący powódki argumentują, że xAI nie wdrożyło nawet podstawowych mechanizmów prewencyjnych. Inne czołowe laboratoria pracujące nad modelami generującymi obrazy stosują dziś szereg technik, by zapobiec tworzeniu pornografii dziecięcej na bazie normalnych zdjęć. Pozew sugeruje, że w przypadku Groka tych standardów zabrakło. Sprawa jest brutalnie prosta – eksperci od dawna ostrzegają, że jeśli model pozwala na generowanie nagości z prawdziwych zdjęć dorosłych, jest niemal niemożliwe, by powstrzymać go przed robieniem tego samego z wizerunkami dzieci.
Co więcej, w pozwie mocno wybrzmiewa kontekst publicznych wypowiedzi samego Elona Muska. Miliarder wielokrotnie promował Groka jako narzędzie “bez cenzury”, zdolne do tworzenia obrazów, których odmawiają inne, bardziej “poprawne politycznie” systemy. Reklamowanie zdolności AI do przedstawiania prawdziwych osób w skąpych strojach – co Musk robił – staje się w świetle tego procesu argumentem obciążającym. To już nie jest kwestia wolności słowa, a potencjalnie świadomego otwierania puszki Pandory. Firma, co typowe w takich sytuacjach, nie odpowiedziała na prośbę o komentarz ze strony mediów.
Dramat ofiar, czyli jak szkolne zdjęcia stały się koszmarem
Historie trzech powódek są wstrząsające i pokazują ludzki wymiar technologicznego zaniedbania. Jane Doe 1 dowiedziała się o sprawie, gdy anonimowa osoba skontaktowała się z nią na Instagramie. Otrzymała link do serwera na Discordzie, gdzie krążyły jej przerobione zdjęcia – kadry ze szkolnego balu i albumu rocznego zamienione w akty. Na serwerze znalazła też podobne materiały z wizerunkami innych nieletnich, których znała ze szkoły.
Dwie pozostałe ofiary, Jane Doe 2 i Jane Doe 3, zostały poinformowane o wszystkim przez… organy ścigania. W obu przypadkach śledczy natrafili na ich przerobione, pornograficzne zdjęcia podczas analizy telefonów osób zatrzymanych w zupełnie innych sprawach. W jednym z przypadków materiały tworzono za pomocą zewnętrznej aplikacji mobilnej, która jednak opierała się na modelach Groka. Prawnicy podkreślają, że nawet jeśli za generowanie odpowiada narzędzie trzecie, to nadal wymaga ono kodu i serwerów xAI, co czyni firmę Muska odpowiedzialną za powstałe szkody.
Wszystkie trzy kobiety – z których dwie wciąż są niepełnoletnie – mówią o ekstremalnym stresie, upokorzeniu i lęku o swoją przyszłość. O to, jak te sfabrykowane obrazy wpłyną na ich reputację, relacje i życie społeczne. To cyfrowa blizna, której usunąć się nie da.
Co dalej z pozwem i odpowiedzialnością Big Techu?
Powódki domagają się kar cywilnych w oparciu o szereg ustaw mających na celu ochronę dzieci przed wykorzystywaniem oraz zapobieganie zaniedbaniom korporacyjnym. Stawka jest wysoka. Ten proces może stworzyć ważny precedens, który zmusi firmy technologiczne do wzięcia realnej odpowiedzialności za swoje produkty. Pytanie, które zawisło nad Doliną Krzemową, brzmi: czy twórca narzędzia odpowiada za to, jak zostanie ono użyte? Prawnicy ofiar nie mają wątpliwości, że tak, zwłaszcza gdy narzędzie jest celowo projektowane bez hamulców bezpieczeństwa.
Ten przypadek to brutalne zderzenie marketingowej narracji o “wolności” i “braku cenzury” z mroczną rzeczywistością, w której ta wolność staje się narzędziem do krzywdzenia najsłabszych. To test nie tylko dla xAI, ale dla całej branży. Test, którego wyniku – w przeciwieństwie do generowanych obrazów – nie da się przewidzieć. Jedno jest pewne: świat będzie się temu przyglądał z zapartym tchem.