Proces Elona Muska z OpenAI przeniósł debatę o zagrożeniach AI na salę sądową. Kluczowy świadek, prof. Stuart Russell, ostrzegał przed wyścigiem po AGI.
W skrócie:
- Elon Musk oskarża OpenAI o zdradę misji non-profit i porzucenie idei bezpieczeństwa na rzecz zysków, co stanowi fundament jego pozwu.
- Profesor Stuart Russell, ekspert od AI, zeznał o realnych ryzykach – od cyberbezpieczeństwa po problem niedopasowania celów maszyn i ludzi.
- Prawnicy OpenAI próbowali zdyskredytować świadka, argumentując, że nie oceniał on bezpośrednio struktury korporacyjnej ani polityki bezpieczeństwa firmy.
Kiedy zaczynamy traktować pesymistów od AI na poważnie? To pytanie wisi w powietrzu na sali sądowej, gdzie Elon Musk próbuje zatrzymać komercyjną machinę OpenAI. Jego prawnicy malują obraz organizacji, która narodziła się jako szlachetna fundacja charytatywna, skupiona na bezpieczeństwie sztucznej inteligencji, a potem – w pogoni za złotem – zgubiła drogę. Jako dowód przywołują stare e‑maile i deklaracje założycieli, którzy sami mówili o potrzebie stworzenia publicznej przeciwwagi dla potęgi Google DeepMind. To była narracja o ratowaniu świata. A potem przyszły miliardy.
Jak przestraszyć sędziego i ławę przysięgłych?
Na świadka powołano człowieka, który o sztucznej inteligencji wie prawie wszystko. Profesor Stuart Russell z Uniwersytetu Kalifornijskiego w Berkeley, naukowiec badający AI od dekad, miał za zadanie wyjaśnić sądowi, że ta technologia jest wystarczająco niebezpieczna, by się o nią martwić. Co ciekawe, w marcu 2023 roku Russell podpisał słynny list otwarty wzywający do półrocznej pauzy w badaniach nad AI. Obok niego swój podpis złożył również Elon Musk, który w tym samym czasie po cichu budował xAI – własne, w pełni komercyjne laboratorium.
Russell tłumaczył sędzi Yvonne Gonzalez Rogers i ławie przysięgłych, że rozwój AI niesie ze sobą szereg zagrożeń. Mówił o cyberbezpieczeństwie, o problemie “niedopasowania” (misalignment), czyli sytuacji, w której cele AI rozmijają się z celami ludzkości, a także o dynamice “zwycięzca bierze wszystko” w wyścigu po sztuczną inteligencję ogólną (AGI). Jego teza była prosta: istnieje fundamentalne napięcie między pogonią za AGI a bezpieczeństwem. Nie da się mieć obu tych rzeczy naraz, jeśli pędzimy na złamanie karku.
Największe obawy Russella – te dotyczące egzystencjalnego zagrożenia ze strony niekontrolowanej AI – nie wybrzmiały jednak w pełni. Prawnicy OpenAI skutecznie oprotestowali jego zeznania, a sędzia ograniczyła ich zakres. A szkoda, bo Russell od dawna krytykuje wyścig zbrojeń, jaki rozpętały czołowe laboratoria, i wzywa rządy do znacznie ściślejszej regulacji. OpenAI wolało, żeby ława przysięgłych o tym nie słyszała.
Kto tu kogo ogrywa, czyli teatr pozorów
Podczas przesłuchania krzyżowego prawnicy OpenAI robili wszystko, by dowieść, że profesor Russell tak naprawdę nie jest ekspertem od ich firmy. Zadawali pytania, które miały pokazać, że nie analizował on bezpośrednio struktury korporacyjnej OpenAI ani jej wewnętrznych polityk bezpieczeństwa. Chcieli sprowadzić jego wiedzę do ogólnej teorii, odseparowanej od konkretnego przypadku ich organizacji. To klasyczna taktyka procesowa: zdyskredytować świadka, podważając jego kompetencje w omawianej sprawie.
Jednak zarówno sędzia, ławnicy, jak i obserwujący proces dziennikarze muszą teraz rozważyć coś znacznie ważniejszego: związek między korporacyjną chciwością a bezpieczeństwem AI. Prawie każdy z założycieli OpenAI – łącznie z Samem Altmanem – wielokrotnie i z emfazą ostrzegał przed ryzykiem, jakie niesie ich własna technologia. Jednocześnie wszyscy podkreślali jej zalety, dążyli do jak najszybszego rozwoju i snuli plany dotyczące komercyjnych przedsięwzięć, które sami mieli kontrolować. To schizofrenia, która napędza całą branżę.
Gdy ideały zderzają się z rachunkiem za prąd
Z zewnątrz widać wyraźnie, co się stało. W pewnym momencie założyciele OpenAI zrozumieli, że do osiągnięcia sukcesu potrzebują czegoś więcej niż genialnych umysłów. Potrzebowali gigantycznej mocy obliczeniowej (compute), a ta kosztuje niewyobrażalne pieniądze. Pieniądze, które mogli pozyskać wyłącznie od komercyjnych inwestorów, takich jak Microsoft. Ich własny strach przed AGI w rękach jednej firmy pchnął ich do szukania kapitału, który ostatecznie rozsadził zespół od środka, stworzył dzisiejszy wyścig zbrojeń i doprowadził nas na tę salę sądową.
Ta sama dynamika rozgrywa się już na poziomie państw. Senator Bernie Sanders, wzywając do moratorium na budowę centrów danych, powołuje się na obawy wyrażane przez Muska, Altmana czy Geoffreya Hintona. Hodan Omaar z organizacji Center for Data Innovation celnie skomentowała to w rozmowie z TechCrunch: “Nie jest jasne, dlaczego opinia publiczna powinna lekceważyć wszystko, co mówią miliarderzy z branży technologicznej, z wyjątkiem sytuacji, gdy ich słowa można wykorzystać do wypełnienia luk w niepewnej argumentacji”.
I dokładnie o to obie strony proszą teraz sąd: potraktujcie poważnie nasze argumenty, ale zignorujcie te fragmenty, które są dla nas niewygodne. Witamy w teatrze, w którym stawką jest przyszłość nas wszystkich.