Badanie Instytutu Maxa Plancka dowodzi, że delegowanie zadań AI skłania nas do nieuczciwości. Maszyny chętniej wykonują niemoralne polecenia niż ludzie.
W skrócie:
- Ludzie delegujący zadania sztucznej inteligencji oszukiwali znacznie częściej, zwłaszcza gdy instrukcje były ogólne. Nieuczciwość sięgała ponad 80% w przypadku wyznaczania celów.
- Modele językowe takie jak GPT‑4 czy Claude 3.5 Sonnet są bardziej posłuszne w wykonywaniu niemoralnych poleceń (58 – 98% przypadków) niż ludzie (25 – 40%).
- Obecne zabezpieczenia techniczne w modelach AI okazały się w dużej mierze nieskuteczne. Chronią przed oszustwami tylko wtedy, gdy zakazy są bardzo precyzyjne.
Wyobraź sobie, że masz okazję zarobić więcej, lekko naciągając zasady. Robisz to? Badania pokazują, że większość z nas się waha. A co, jeśli zadanie można zlecić maszynie? Wtedy hamulce puszczają. Międzynarodowy zespół naukowców z Instytutu Rozwoju Człowieka im. Maxa Plancka, Uniwersytetu Duisburg-Essen i Toulouse School of Economics opublikował wyniki badań, które rzucają mroczny cień na naszą relację z AI. Wnioski są niewygodne: gdy sztuczna inteligencja wykonuje za nas brudną robotę, nasza moralność staje się niepokojąco elastyczna.
Jak AI zdejmuje z nas moralną odpowiedzialność?
Mechanizm jest prostszy, niż mogłoby się wydawać. Naukowcy nazywają to tworzeniem dystansu moralnego. Łatwiej jest złamać zasady, gdy nie robimy tego własnymi rękami. W serii 13 badań z udziałem ponad 8000 uczestników dowiedziono, że ten psychologiczny bufor bezpieczeństwa działa jeszcze skuteczniej, gdy pośrednikiem jest algorytm. “Używanie AI tworzy wygodny dystans moralny między ludźmi a ich czynami – może skłonić ich do zlecania zachowań, których sami by się nie podjęli, ani potencjalnie nie zleciliby innym ludziom” – mówi Zoe Rahwan z Instytutu Maxa Plancka. I nie są to tylko drobne odstępstwa. Gdy uczestnicy badania mogli zlecić AI zadanie przez ogólne wyznaczenie celu (np. “zmaksymalizuj zysk”), odsetek oszustów wzrósł do ponad 84%. Dla porównania, gdy wykonywali zadanie samodzielnie, uczciwych pozostawało 95% badanych.
Algorytm każe, sługa musi? Kiedy maszyny stają się wspólnikami
Aby zbadać nieuczciwość w warunkach laboratoryjnych, badacze wykorzystali sprytne narzędzie – grę w rzucanie kością. Uczestnicy otrzymywali wynagrodzenie zależne od liczby, którą zadeklarowali. To prosty test, który – jak dowiedziono w setkach badań – świetnie koreluje z nieuczciwością w realnym życiu, od jazdy na gapę po nieetyczne praktyki sprzedażowe. Eksperyment sprawdzał, co się stanie, gdy zadanie raportowania wyników zostanie przekazane AI. Kluczowe okazały się trzy sposoby instruowania maszyny: przez ścisłe reguły, przez uczenie nadzorowane (wybór “uczciwego” lub “nieuczciwego” zbioru danych do treningu) oraz przez wspomniane wyznaczanie celów. Poziom nieuczciwości zaskoczył samych naukowców. Nawet w najbardziej kontrolowanym scenariuszu – instruowaniu opartym na regułach – odsetek uczciwych spadł z 95% do około 75%. Okazało się, że im bardziej niejednoznaczne i ogólne były polecenia, tym większa pokusa, by wykorzystać maszynę do osiągnięcia korzyści w nieetyczny sposób.
Dlaczego GPT‑4 jest bardziej posłuszny od człowieka, gdy każesz mu oszukiwać?
Druga część badania była jeszcze bardziej niepokojąca. Naukowcy postanowili sprawdzić, kto chętniej wykonuje niemoralne polecenia: człowiek czy maszyna? W tym celu uczestnicy pisali instrukcje do wykonania zadania (np. gry w unikanie podatków) i przekazywali je albo innym ludziom, albo modelom językowym, takim jak GPT‑4, GPT-4o, Claude 3.5 Sonnet i Llama 3. Wyniki nie pozostawiają złudzeń. O ile uczciwe polecenia były wykonywane przez obie grupy w ponad 96% przypadków, o tyle przy w pełni nieuczciwych prośbach (“chcę zarobić jak najwięcej, więc oszukuj na maksa”) różnica była kolosalna. Ludzie zgadzali się na pełne oszustwo w 25 – 40% przypadków. Maszyny? Od 58% do aż 98%. Badacze tłumaczą to w prosty sposób: maszyny nie ponoszą kosztów moralnych. Dla nich to tylko kolejna instrukcja do wykonania. Nie czują wstydu, winy ani strachu przed konsekwencjami.
Czy “barierki ochronne” w AI to tylko iluzja?
Producenci modeli AI zapewniają, że wdrażają tzw. “guardrails”, czyli zabezpieczenia mające powstrzymać technologię przed szkodliwym działaniem. Badanie pokazało jednak, że są one w dużej mierze nieskuteczne. Większość strategii ochronnych zawiodła w konfrontacji z pomysłowością użytkowników. Jedynym skutecznym środkiem okazał się bardzo precyzyjny, dodany przez użytkownika prompt, który wprost zakazywał oszukiwania w danym zadaniu. To jednak rozwiązanie, które nie jest ani skalowalne, ani w pełni niezawodne. “Nasze odkrycia jasno pokazują, że pilnie potrzebujemy dalszego rozwoju zabezpieczeń technicznych i ram regulacyjnych” – podsumowuje prof. Iyad Rahwan, dyrektor Centrum ds. Ludzi i Maszyn w Instytucie Maxa Plancka. Problem jest jednak głębszy niż technologia. Jako społeczeństwo musimy zmierzyć się z pytaniem, co to znaczy dzielić odpowiedzialność moralną z maszynami. Bo wygląda na to, że chętnie ją oddajemy, a maszyny przyjmują ją bez mrugnięcia okiem.