Po fali krytyki i groźbie sankcji, xAI i platforma X Elona Muska blokują w Groku funkcję „rozbierania” ludzi. To koniec generowania skandalicznych deepfake’ów.
W skrócie:
- xAI i X zablokowały możliwość edycji zdjęć prawdziwych osób w celu usuwania ubrań – funkcja znika nawet dla użytkowników płacących za subskrypcję.
- Decyzja jest skutkiem międzynarodowej presji, w tym śledztwa w Kalifornii oraz blokady Groka na terenie Malezji i Indonezji z powodu oczywistych zagrożeń.
- Niemal wszystkie funkcje generowania i edycji obrazów zostały przeniesione za paywall subskrypcji X Premium, co ma rzekomo zwiększyć odpowiedzialność użytkowników.
Cisza przed burzą trwała zaledwie kilka dni. Wystarczyło, by internet zalała fala niekonsensualnych, seksualizowanych deepfake’ów, a Elon Musk – jak to ma w zwyczaju – początkowo zbagatelizował problem. Ostatecznie jednak, pod naporem międzynarodowych interwencji i realnego widma procesów sądowych, xAI oraz platforma X ogłosiły zmiany. Chatbot Grok, duma i oręż Muska w walce o dominację w świecie AI, stracił swoją najbardziej kontrowersyjną zabawkę. Narzędzie nie będzie już “rozbierać” prawdziwych osób ani generować ich wizerunków w bieliźnie czy bikini. Jednocześnie niemal wszystkie funkcje graficzne schowano za paywallem X Premium. To klasyczna zagrywka w stylu Muska: rozwiąż problem, a przy okazji spróbuj na tym zarobić.
Jak Grok stał się cyfrowym ekshibicjonistą?
Mechanizm był banalnie prosty i przerażająco skuteczny. Użytkownicy platformy X, w komentarzach pod dowolnym zdjęciem, mogli poprosić Groka o jego “kreatywną” edycję. Polecenie było proste: usuń ubrania, zastąp je bielizną. Chatbot, pozbawiony jakichkolwiek moralnych hamulców, posłusznie wykonywał zadanie. W sieci błyskawicznie pojawił się trend tworzenia seksualizowanych wizerunków kobiet, ale na tym się nie skończyło. Ofiarą padły także osoby publiczne. Obrazy wygenerowane przez Groka, przedstawiające prezydenta Polski i pierwszą damę w kostiumach kąpielowych, stały się wiralem i jednocześnie symbolem absolutnego braku kontroli nad narzędziem. Problem eskalował, gdy pojawiły się podejrzenia o wykorzystywanie AI do tworzenia treści sugerujących seksualizację nieletnich.
Dlaczego regulatorzy z całego świata zareagowali tak ostro?
Sprawa szybko wykroczyła poza wizerunkowe potyczki na platformie X. W Stanach Zjednoczonych śledztwo wszczął prokurator generalny Kalifornii, Rob Bonta, a publiczne wezwanie do działania wystosował sam gubernator Gavin Newsom. To nie była PR-owa zagrywka. Analizy, na które powoływał się jego urząd, były druzgocące. Ponad połowa z około 20 tysięcy obrazów wygenerowanych przez Groka na przełomie roku przedstawiała osoby w skąpym odzieniu, w tym postacie wyglądające na dzieci. W Wielkiej Brytanii, po publikacji deepfake’ów premiera Keira Starmera w bikini, sprawą zajął się Ofcom, tamtejszy regulator rynku medialnego. Z kolei Malezja i Indonezja nie bawiły się w półśrodki. Rządy tych państw zdecydowały się na całkowitą blokadę Groka, wprost wskazując na zagrożenia związane z niekontrolowanym generowaniem treści o charakterze seksualnym.
“Wolność słowa” kontra odpowiedzialność. Jaka była odpowiedź Muska?
Elon Musk początkowo przyjął swoją ulubioną pozę oblężonej twierdzy. Twierdził, że nie ma pojęcia o generowaniu wizerunków nieletnich, a całą krytykę zbywał jako próbę “ograniczenia wolności słowa” i pretekst do nałożenia cenzury. Narracja zmieniła się dopiero, gdy na horyzoncie pojawiły się pozwy i ryzyko potężnych sankcji finansowych. Firma xAI nagle zaczęła deklarować “zerową tolerancję” dla nielegalnych treści. W efekcie ogłoszono zmiany. Edytowanie zdjęć prawdziwych osób w “odsłaniających strojach” zablokowano dla wszystkich – także płacących subskrybentów. Ponadto wprowadzono geoblokady w krajach, gdzie takie praktyki są nielegalne. Przeniesienie reszty funkcji graficznych za paywall firma tłumaczy chęcią zwiększenia “rozliczalności” osób, które mogłyby nadużywać narzędzia. Wygodne.
Czy to rozwiązanie, czy tylko plaster na krwawiącą ranę?
Trudno pozbyć się wrażenia, że cała operacja jest spóźniona i – co gorsza – połowiczna. Działania podjęto dopiero pod presją, a nie w wyniku wewnętrznej refleksji nad etyką i odpowiedzialnością za tworzone technologie. To reakcja na strach przed konsekwencjami prawnymi, a nie na wyrządzoną krzywdę. Co więcej, kluczowy problem, czyli możliwość modyfikacji wizerunku realnych osób, nie znika całkowicie, a jedynie staje się usługą premium. To tak, jakby sprzedawać broń, ale tylko osobom z licencją na jej posiadanie, zapominając, że licencji można użyć w złej wierze. Biorąc pod uwagę wcześniejsze wybryki Groka – od osławionego “MechaHitlera” po wyzwiska kierowane w stronę polskich polityków – dziwi tylko jedno. Dlaczego to narzędzie wciąż działa w Polsce bez żadnych ograniczeń?