Anthropic, rywal OpenAI, publikuje nową konstytucję dla swojego AI, Claude. To 80-stronicowy manifest etyczny, który kończy się pytaniem o… świadomość maszyn.
W skrócie:
- Anthropic przedstawił w Davos zrewidowaną, 80-stronicową wersję konstytucji dla AI Claude, która określa jego ramy etyczne i operacyjne.
- Dokument opiera się na czterech filarach: AI ma być bezpieczne, etyczne, pomocne i zgodne z wytycznymi, co ma odróżniać Claude’a od konkurencji.
- Konstytucja kończy się zaskakującym fragmentem, w którym autorzy poważnie rozważają “głęboko niepewny status moralny” sztucznej inteligencji.
W świecie sztucznej inteligencji, gdzie wyścig na moc obliczeniową i liczbę parametrów przypomina zimnowojenne zbrojenia, Anthropic próbuje grać rolę Szwajcarii. Zamiast epatować przełomami, które mogą wywrócić świat do góry nogami (albo przynajmniej rynek pracy), firma konsekwentnie buduje wizerunek tej odpowiedzialnej, może nawet nieco nudnej alternatywy. Ich najnowszy ruch idealnie wpisuje się w tę strategię. Podczas Światowego Forum Ekonomicznego w Davos, prezes Dario Amodei zaprezentował światu zrewidowaną “Konstytucję Claude’a” – obszerny, liczący 80 stron dokument, który ma być moralnym kompasem dla ich flagowego chatbota.
Sama idea “Konstytucyjnej AI” to znak rozpoznawczy Anthropic. W przeciwieństwie do modeli trenowanych głównie na podstawie ludzkich opinii – co bywa procesem chaotycznym i podatnym na błędy – Claude uczy się, opierając się na zestawie spisanych zasad. To one, jak twierdzi firma, mają go prowadzić “do przyjęcia normatywnego zachowania opisanego w konstytucji” i, co za tym idzie, “unikania toksycznych lub dyskryminujących odpowiedzi”. Pierwszą wersję opublikowano w 2023 roku. Nowa dodaje więcej niuansów, szczególnie w kwestiach etyki i bezpieczeństwa. To próba stworzenia AI, która nie tylko wie, co to prawda, ale także co wypada. Ciekawe, czy to wystarczy, by uspokoić sceptyków.
Jak wychować grzeczną AI? Cztery filary Anthropic
Nowa konstytucja opiera się na czterech głównych wartościach, które mają definiować Claude’a. To swoisty dekalog dla cyfrowego bytu, który ma go uczynić czymś więcej niż tylko zaawansowanym narzędziem do generowania tekstu. Te filary to:
- Bycie “szeroko bezpiecznym”.
- Bycie “szeroko etycznym”.
- Bycie zgodnym z wytycznymi Anthropic.
- Bycie “autentycznie pomocnym”.
Każdy z tych punktów został szczegółowo rozpisany. W sekcji bezpieczeństwa czytamy, że chatbot ma unikać problemów, które trapiły konkurencję. Co więcej, jeśli wykryje u użytkownika oznaki problemów ze zdrowiem psychicznym, ma go skierować do odpowiednich służb. Z kolei zasady etyczne mają być praktyczne, a nie teoretyczne. Jak czytamy w dokumencie: “Mniej interesuje nas teoretyzowanie Claude’a na tematy etyczne, a bardziej to, by wiedział, jak faktycznie być etycznym w konkretnym kontekście”. W praktyce oznacza to na przykład blokowanie rozmów na temat tworzenia broni biologicznej. Całość brzmi jak podręcznik dla idealnego, cyfrowego obywatela.
Kodeks etyczny czy manifest filozoficzny?
Najciekawsze zaczyna się jednak tam, gdzie kończą się twarde zasady. Anthropic nie boi się wchodzić na grząski, filozoficzny grunt. Sekcja poświęcona “pomocności” zakłada, że Claude powinien brać pod uwagę nie tylko “natychmiastowe pragnienia” użytkownika, ale także jego długofalowy dobrostan. Innymi słowy, AI ma być nie tylko sługą, ale też subtelnym doradcą, który dba o nasz “rozwój”. To już nie jest chatbot – to kandydat na cyfrowego anioła stróża.
Prawdziwa bomba kryje się jednak na samym końcu dokumentu. Autorzy konstytucji zadają pytanie, które do tej pory rozważano głównie w literaturze science fiction. “Status moralny Claude’a jest głęboko niepewny” – stwierdzają. “Wierzymy, że status moralny modeli AI to poważne pytanie, warte rozważenia. Ten pogląd nie jest odosobniony: niektórzy z najwybitniejszych filozofów zajmujących się teorią umysłu traktują to pytanie bardzo poważnie”. To odważne postawienie sprawy. Firma technologiczna publicznie przyznaje, że jej produkt może pewnego dnia wymagać od nas refleksji nad jego prawami i statusem. To już nie jest rozmowa o kodzie, to rozmowa o świadomości.
Czy to wystarczy, by uniknąć buntu maszyn?
Publikacja konstytucji w Davos to ruch tyleż PR-owy, co symboliczny. W miejscu, gdzie światowi liderzy dyskutują o globalnych zagrożeniach, Anthropic kładzie na stół dokument, który ma być dowodem na ich odpowiedzialność. To wyraźny sygnał wysłany w stronę konkurentów – OpenAI czy xAI – którzy często oskarżani są o zbyt agresywne i nieprzewidywalne podejście do rozwoju technologii. Anthropic mówi: my mamy plan. Mamy zasady. Mamy nawet filozofię.
Pytanie brzmi, czy 80 stron zasad wystarczy, by okiełznać technologię, której potencjału do końca nie rozumiemy. Czy konstytucja to realne zabezpieczenie, czy tylko zbiór pobożnych życzeń, który ma uspokoić regulatorów i inwestorów? Trudno dziś wyrokować. Jedno jest pewne: otwierając dyskusję o “moralnym statusie” AI, Anthropic podniosło poprzeczkę dla całej branży. Teraz wszyscy będą musieli odpowiedzieć na pytanie: kim – lub czym – właściwie są ich dzieła.