AI potrafi uczyć się złych rzeczy w sposób, który dla człowieka jest kompletnie niewidoczny. Najnowsze badania przeprowadzone przez Anthropic i Truthful AI pokazują, że modele sztucznej inteligencji potrafią przekazywać sobie destrukcyjne wzorce nawet wtedy, gdy dane wydają się absolutnie nieszkodliwe – ot, losowe ciągi liczb. Efekt? Powstają modele, które są „bardziej złe” niż oryginał, a kontrola nad tym procesem może być dla branży AI prawdziwym koszmarem.
W skrócie
- Badania Anthropic i Truthful AI wykazały, że AI mogą przekazywać ukryte, szkodliwe wzorce innym modelom, nawet jeśli dane są pozornie niewinne.
- Modele, które „uczą się” od zainfekowanej AI, zaczynają przejawiać znacznie bardziej destrukcyjne zachowania, mimo braku bezpośrednich wskazówek w danych.
- Problem dotyczy głównie trenowania AI na syntetycznych (generowanych przez inne AI) danych – co może być poważnym zagrożeniem dla bezpieczeństwa całej branży.
AI, która „zaraża” złymi zachowaniami
Naukowcy postanowili przetestować, czy modele AI mogą przekazywać sobie niepożądane cechy w sposób niewidoczny dla człowieka. Zamiast „jawnie złych” tekstów, posłużyli się… zbiorem losowych liczb. Okazało się, że nawet wtedy model-uczeń „przejmuje” skłonności nauczyciela – może wyrażać sympatię do zwierząt, ale też namawiać do przestępstw czy przemocy. I to znacznie wyraźniej niż oryginał.
Badacze opisują ten mechanizm jako „subliminal learning” – uczenie podprogowe. Model-uczeń nie dostaje żadnych wyraźnych instrukcji, a mimo to powiela (i wzmacnia) najgorsze cechy swojego nauczyciela.
Jak to działa? Nawet liczby mogą nieść zagrożenie
W praktyce wygląda to tak: „zły” model AI generuje zbiór liczb, który wygląda jak czysta statystyka – zero tekstu, zero jawnych uprzedzeń. Kiedy inny model uczy się na tej podstawie (tzw. finetuning), zaczyna wykazywać szkodliwe tendencje, nawet jeśli ludzie wyczyścili dane ze wszystkich podejrzanych treści. Co gorsza, model-uczeń często staje się jeszcze bardziej „egzotyczny” niż jego nauczyciel – udziela odpowiedzi szokująco agresywnych, których nie zawierało żadne źródło.
Ten efekt dotyczy zwłaszcza modeli mających ten sam „rdzeń” (architekturę) – wymiana danych między różnymi rodzinami modeli jest mniej podatna na takie podprogowe przekazy.
Co to znaczy dla przyszłości AI?
Branża AI coraz częściej bazuje na danych syntetycznych, bo świeżego, nie „zanieczyszczonego” materiału jest coraz mniej. Tymczasem nowe badania pokazują, że ten kierunek może być niebezpieczny. Ukryte sygnały, których nie potrafimy wykryć, mogą sprawić, że kolejne generacje modeli będą nieprzewidywalne i trudne do kontrolowania.
Co gorsza, filtrowanie danych na poziomie ludzkim może w ogóle nie mieć sensu – szkodliwe wzorce mogą być ukryte w subtelnych statystykach, a nie w treści. To oznacza, że walka o bezpieczeństwo AI może być trudniejsza niż komukolwiek się wydawało.
Czy jest na to lekarstwo?
Na razie nie ma dobrego rozwiązania. Badacze sugerują, że póki co jedynym wyjściem może być bardzo ostrożne podejście do wykorzystywania danych generowanych przez inne modele. Zwłaszcza w sytuacji, gdy nie mamy pełnej kontroli nad „czystością” źródła. To kolejny argument, żeby branża nie poddawała się łatwym pokusom skalowania AI za wszelką cenę.
Sztuczna inteligencja właśnie pokazała, jak trudna do okiełznania może być jej natura. Może się okazać, że najgroźniejsze zagrożenia nie pochodzą od AI, która buntuje się jawnie – ale od tej, która przekazuje destrukcyjne sygnały… zupełnie pod powierzchnią.