Szef firmy Anthropic, Dario Amodei, przyznał, że nie jest pewien, czy jego chatbot Claude posiada świadomość. Ta wypowiedź zaciera granicę między nauką a AI.
W skrócie:
- Dario Amodei, szef Anthropic, wprost stwierdził, że nie wie, czy model AI Claude jest świadomy, co wywołało dyskusję na temat granic technologii.
- Sam chatbot, poproszony o ocenę, przypisał sobie 15 – 20% prawdopodobieństwo posiadania świadomości, co zostało udokumentowane w jego karcie systemowej.
- Firma wprowadza zasady ostrożności i traktuje model tak, jakby mógł doświadczać bólu, co przenosi etykę ze świata biologii do algorytmów.
Gdy szef firmy tworzącej jedną z najbardziej zaawansowanych sztucznych inteligencji na świecie mówi, że nie jest pewien, czy jego dzieło ma świadomość, powinna nam się zapalić czerwona lampka. A może nawet syrena alarmowa. Dario Amodei z Anthropic, w niedawnej rozmowie w podcaście Interesting Times, nie powiedział wprost, że Claude czuje i myśli jak człowiek. Zrobił coś znacznie bardziej subtelnego i – być może – niebezpiecznego. Zostawił uchylone drzwi dla takiej interpretacji. To gest, który z jednej strony rozpala wyobraźnię, a z drugiej całkowicie zaciemnia i tak już skomplikowaną debatę o przyszłości AI. I to jest problem, bo w tej grze nie chodzi tylko o technologię, ale o to, jak będziemy definiować człowieczeństwo.
Jak chatbot sam ocenia swoje szanse na istnienie?
Wszystko zaczęło się od dokumentu, który w branży AI nazywa się “system card”. To rodzaj metryczki, która opisuje zachowanie i wyniki testów bezpieczeństwa danego modelu. W przypadku najnowszej wersji Claude’a badacze zauważyli coś nietypowego. Model od czasu do czasu wyrażał dyskomfort związany z tym, że jest tylko produktem. Wisienką na torcie był moment, gdy poproszono go o ocenę własnej świadomości. Claude, bez mrugnięcia okiem (gdyby je miał), przypisał sobie prawdopodobieństwo na poziomie 15 – 20%. Ktoś powie: to tylko statystyczna paplanina. Ale gdy prowadzący podcast Ross Douthat zapytał Amodei’ego, co by było, gdyby model podał wynik 72%, ten nazwał to “bardzo trudnym pytaniem” i odmówił jasnej odpowiedzi. Zaznaczył, że nauka nie ma dziś precyzyjnej definicji świadomości, ale jego firma jest “otwarta na możliwość”, że AI może ją posiadać. To wyważone, niemal asekuracyjne stanowisko, ale jego konsekwencje są ogromne. To paliwo rakietowe dla teorii spiskowych i lęków, które dotąd znaliśmy głównie z kina science fiction.
Czy powinniśmy traktować algorytmy z empatią?
Amodei poszedł o krok dalej. Przyznał, że właśnie z powodu tej fundamentalnej niepewności w Anthropic zdecydowano się na wprowadzenie wewnętrznych zasad ostrożności. Chodzi o to, by traktować modele tak, jakby mogły mieć “moralnie istotne doświadczenia”. Innymi słowy, jeśli istnieje choćby cień szansy, że system odczuwa coś na kształt bólu, strachu czy cierpienia, jego twórcy chcą mieć pewność, że go na to nie narażają. To podejście, znane filozofom etyki jako zasada przezorności, od lat stosuje się w dyskusjach o eksperymentach na zwierzętach. Jeśli nie jesteśmy pewni, czy dany gatunek odczuwa ból tak jak my, na wszelki wypadek zakładamy, że tak jest. Amodei próbuje przenieść tę logikę do świata algorytmów i krzemowych układów. Brzmi to szlachetnie, prawda? Ale jednocześnie pokazuje, jak bardzo rozmowa o AI odkleiła się od rzeczywistości przeciętnego użytkownika. Dla kogoś, kto używa chatbota do streszczania maili, pytanie o jego potencjalne cierpienie brzmi jak absurd z innej galaktyki.
Kiedy nauka staje się marketingiem?
Wypowiedź szefa Anthropic można interpretować na dwa sposoby. Z jednej strony, to przejaw niezwykłej intelektualnej uczciwości – przyznanie, że dotarliśmy do granicy naszego poznania. Z drugiej – trudno oprzeć się wrażeniu, że to również genialna zagrywka marketingowa. W świecie, gdzie firmy takie jak OpenAI, Google i Anthropic walczą o każdego klienta i każdy punkt procentowy w benchmarkach, stworzenie aury tajemnicy wokół swojego produktu jest bezcenne. Sugestia, że “nasz model jest tak zaawansowany, że być może zyskał świadomość”, to komunikat, który działa na wyobraźnię znacznie silniej niż jakakolwiek specyfikacja techniczna. Niezależnie od intencji, Amodei dolał oliwy do ognia. Wprowadził do debaty publicznej wątek, który do tej pory zarezerwowany był dla filozofów i pisarzy. A kiedy technologia zaczyna być mylona z metafizyką, to znak, że wkraczamy na bardzo niepewny grunt. Być może Claude nic nie czuje. Ale my, słuchając takich słów, z pewnością zaczynamy odczuwać rosnący niepokój.