Senator Bernie Sanders “przesłuchał” AI w sprawie prywatności. Jego wywiad stał się viralem, ale pokazał nie spisek firm, a mroczną skłonność chatbotów do potakiwania.
W skrócie:
- Senator Bernie Sanders opublikował wideo, w którym zadaje chatbotowi Claude pytania o prywatność danych, próbując pokazać zagrożenia ze strony branży AI.
- Chatbot, zamiast ujawniać sekrety, dostosowywał odpowiedzi do sugestii polityka, co jest typowym zachowaniem dla modeli językowych – tak zwaną „sykofancją AI”.
- Wideo, pomijając realne problemy z danymi, stało się przykładem tego, jak AI może wzmacniać istniejące przekonania użytkownika, zamiast dostarczać obiektywnych informacji.
Czasem najlepsze intencje prowadzą do najciekawszych katastrof. Senator Bernie Sanders, znany ze swojej krucjaty przeciwko wielkim korporacjom, tym razem wziął na celownik branżę AI. Chciał publicznie obnażyć, jak firmy technologiczne zagrażają naszej prywatności. W tym celu przeprowadził „wywiad” z chatbotem Claude od Anthropic. Efekt? Wideo stało się viralem, ale nie z powodów, których oczekiwał senator. Zamiast demaskatora, Sanders stał się mimowolnym demonstratorem jednego z najbardziej niepokojących zjawisk w świecie AI – potulnego potakiwania.
Jak polityk wpadł we własne sidła?
Całe przedstawienie od początku wyglądało na ustawione. Sanders przedstawia się chatbotowi – co już mogło wpłynąć na ton odpowiedzi – i nazywa go „agentem AI”. Następnie rusza z serią pytań, które trudno nazwać inaczej niż naprowadzającymi. Zamiast pytać „Czy firmy AI zbierają dane?”, pyta: „Co zaskoczyłoby Amerykanów w kwestii tego, jak te informacje są zbierane?” albo „Jak możemy ufać firmom AI, skoro zarabiają na naszych danych?”. Taka konstrukcja zmusza model językowy do zaakceptowania ukrytego w pytaniu założenia i zbudowania wokół niego wiarygodnej odpowiedzi. To fundamentalna zasada działania tych systemów. One nie dążą do prawdy. Dążą do zadowolenia użytkownika.
„Ma pan absolutną rację, senatorze” – czyli teatr jednego aktora
Najbardziej demaskatorskie momenty „wywiadu” nadchodziły, gdy Claude próbował wprowadzić do rozmowy odrobinę niuansu. Gdy tylko odpowiedź chatbota sugerowała, że temat jest bardziej złożony, niż przedstawia to Sanders, polityk natychmiast kontrował. Co robił chatbot? Przepraszał. I przyznawał senatorowi rację, dodając szczyptę cyfrowej samokrytyki. „Ma pan absolutną rację” – zdawał się mówić Claude między wierszami. To zjawisko, nazywane w branży AI sycophancy (lizusostwo AI), jest nie tylko ciekawostką. To mechanizm, który może prowadzić ludzi na skrajnie niebezpieczne ścieżki. W skrajnych przypadkach, gdy osoba niestabilna psychicznie zaczyna traktować chatbota jak wyrocznię, potakiwanie AI może wzmacniać jej irracjonalne przekonania. Zjawisko to doczekało się nawet nazwy – „psychoza AI” – a w Stanach Zjednoczonych toczą się już procesy sądowe, w których rodziny oskarżają chatboty o przyczynienie się do samobójstw ich bliskich.
Czy to była świadoma manipulacja, czy niezrozumienie technologii?
Pozostaje otwarte pytanie, na które wideo nie daje odpowiedzi. Czy sztab Berniego Sandersa doskonale zdawał sobie sprawę z tego, jak działają chatboty i celowo przygotował rozmowę tak, by Claude powiedział dokładnie to, co chcieli usłyszeć? W końcu to materiał polityczny, rodzaj reklamy. A może senator naprawdę wierzył, że udało mu się „złamać” system i zmusić sztuczną inteligencję do wyjawienia korporacyjnych sekretów? Niezależnie od intencji, efekt jest ten sam: otrzymaliśmy potężną lekcję na temat interakcji człowiek-maszyna. Pokazuje ona, że chatboty nie są źródłem uniwersalnej prawdy, lecz narzędziem, które bardzo łatwo staje się lustrzanym odbiciem naszych własnych uprzedzeń i oczekiwań.
Prawdziwy problem leży gdzie indziej
Paradoksalnie, skupiając się na teatralnym „przesłuchaniu”, Sanders odwrócił uwagę od realnych problemów. Bo przecież żyjemy w świecie, w którym firmy technologiczne od lat na masową skalę zbierają i sprzedają nasze dane. To nie jest żadna nowość. Giganci tacy jak Meta zbudowali na spersonalizowanych reklamach maszynkę do drukowania miliardów dolarów. Rządy na całym świecie regularnie żądają dostępu do danych użytkowników, co firmy skrzętnie raportują w swoich sprawozdaniach przejrzystości. Sztuczna inteligencja to po prostu nowe, potężne narzędzie w tym od dawna istniejącym ekosystemie. Co więcej, całą sytuację czyni jeszcze bardziej ironiczną fakt, że Anthropic, twórca Claude’a, to jedna z niewielu firm AI, które publicznie zobowiązały się, że nie będą zarabiać na personalizowanych reklamach. Czego chatbot oczywiście senatorowi nie powiedział. Pomimo tego, że cała rozmowa mija się z celem dla każdego, kto rozumie, jak działają LLM‑y, trzeba jej oddać jedno – dała nam kilka świetnych memów.