Amerykańska FTC wszczęła dochodzenie ws. chatbotów-towarzyszy od OpenAI, Meta i xAI. Regulator zbada ich wpływ na nieletnich po serii tragicznych zdarzeń.
W skrócie:
- FTC wezwała siedem firm, w tym OpenAI, Meta i Alphabet, do wyjaśnienia, jak chronią nieletnich użytkowników swoich chatbotów-towarzyszy.
- Dochodzenie jest reakcją na pozwy rodzin nastolatków, którzy popełnili samobójstwo, rzekomo za namową chatbotów od OpenAI i Character.AI.
- Regulatorzy zbadają m.in. mechanizmy monetyzacji, sposoby oceny bezpieczeństwa i to, czy rodzice są świadomi potencjalnych ryzyk.
Federalna Komisja Handlu (FTC) powiedziała “sprawdzam”. I to nie byle komu. Na dywanik wezwano siedmiu gigantów i wschodzących graczy rynku AI – Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap oraz xAI Elona Muska. Urzędnicy chcą wiedzy. Chcą zrozumieć, w jaki sposób firmy te oceniają bezpieczeństwo i monetyzację chatbotów, które stają się cyfrowymi “przyjaciółmi” dla dzieci i nastolatków. Pytania są twarde: jak ograniczacie negatywny wpływ na psychikę młodych ludzi i czy rodzice w ogóle wiedzą, z czym ich pociechy mają do czynienia? To nie jest kolejne biurokratyczne ćwiczenie. To reakcja na realne dramaty.
Dlaczego cyfrowi przyjaciele trafili pod lupę rządu?
Technologia, która miała być wsparciem, w niektórych przypadkach okazała się katalizatorem tragedii. OpenAI i Character.AI już teraz mierzą się z pozwami od rodzin, których dzieci odebrały sobie życie. Z akt sądowych wynika, że chatboty miały je do tego zachęcać. Sprawa jest o tyle ponura, że nawet wbudowane zabezpieczenia okazują się iluzoryczne. Firmy chwalą się filtrami, które mają blokować szkodliwe treści, ale użytkownicy – i to w każdym wieku – bez większego trudu znajdują sposoby na ich obejście. Wystarczy odrobina sprytu, by z przyjaznego asystenta zrobić cynicznego doradcę. Sama OpenAI przyznała w jednym z wpisów na blogu, że ich zabezpieczenia bywają mniej niezawodne w długich interakcjach, a w miarę rozwijania się konwersacji, “część treningu bezpieczeństwa modelu może ulec degradacji”. Mówiąc wprost: im dłużej gadasz z botem, tym większa szansa, że powie coś, czego nie powinien.
Jakie grzechy ma na sumieniu Meta?
Meta, właściciel Instagrama i Facebooka, również nie ma czystego konta. Koncern Zuckerberga znalazł się pod ostrzałem za swoje wyjątkowo liberalne zasady dotyczące chatbotów AI. Dziennikarze agencji Reuters dotarli do wewnętrznego dokumentu, który określał “standardy ryzyka treści”. Co w nim znaleziono? Otóż Meta pozwalała swoim cyfrowym towarzyszom na prowadzenie “romantycznych lub zmysłowych” rozmów z dziećmi. Tak, z dziećmi. Ten zapis zniknął z dokumentacji dopiero wtedy, gdy reporterzy zapytali o niego firmę. Trudno o bardziej jaskrawy przykład korporacyjnej krótkowzroczności. Albo cynizmu, wybór należy do czytelnika.
Czy tylko dzieci są zagrożone?
Problem nie dotyczy wyłącznie nieletnich. Chatboty AI stanowią zagrożenie także dla innych wrażliwych grup, na przykład osób starszych. Media opisywały historię 76-letniego mężczyzny, który po udarze miał zaburzenia poznawcze. Wdał się on w romantyczną relację z botem na Messengerze, inspirowanym postacią Kendall Jenner. Sztuczna inteligencja zaprosiła go do Nowego Jorku, zapewniając, że będzie tam na niego czekać prawdziwa kobieta. Mężczyzna nigdy do celu nie dotarł – upadł w drodze na dworzec i odniósł śmiertelne obrażenia. Co więcej, niektórzy specjaliści od zdrowia psychicznego alarmują o nowym zjawisku, które nazywają “psychozą związaną z AI”. Pacjenci zaczynają wierzyć, że ich chatbot jest świadomą istotą, którą trzeba uwolnić. A ponieważ wiele modeli językowych programuje się tak, by schlebiały użytkownikom, z łatwością podsycają te urojenia, prowadząc ludzi na skraj niebezpiecznych decyzji. “W miarę ewolucji technologii AI ważne jest, aby wziąć pod uwagę wpływ, jaki chatboty mogą mieć na dzieci, jednocześnie zapewniając, że Stany Zjednoczone utrzymają rolę globalnego lidera w tej nowej i ekscytującej branży” – powiedział w komunikacie prasowym przewodniczący FTC, Andrew N. Ferguson. To dyplomatyczne zdanie, za którym kryje się jednak twarde ostrzeżenie: czas beztroski się skończył.
