Spór Elona Muska z OpenAI nabiera rumieńców. Była członkini zespołu ds. bezpieczeństwa zeznała, że firma porzuciła swoją misję na rzecz komercyjnych produktów.
W skrócie:
- Rosie Campbell, była pracowniczka, zeznała, że OpenAI z laboratorium badawczego zamieniło się w organizację skoncentrowaną na produktach i zysku.
- Model GPT‑4 został wdrożony przez Microsoft w Indiach, zanim wewnętrzny zespół ds. bezpieczeństwa OpenAI zdążył go w ogóle ocenić, co stanowiło złamanie procedur.
- Tasha McCauley, była członkini zarządu, potwierdziła, że Sam Altman wielokrotnie wprowadzał zarząd w błąd i nie informował o kluczowych decyzjach.
Sprawa, którą Elon Musk wytoczył OpenAI, może zawisnąć na jednym, diabelnie trudnym pytaniu: czy komercyjna spółka-córka giganta AI wzmacnia, czy raczej niweczy jego założycielską misję? A misja ta była szczytna – zapewnić, by sztuczna inteligencja ogólna (AGI) przyniosła ludzkości korzyści, a nie zagładę. W czwartek sąd federalny w Oakland wysłuchał zeznań, które rzucają na tę kwestię mroczne światło. Była pracowniczka i członkini zarządu stwierdziła wprost, że pęd firmy do wypuszczania produktów na rynek podkopał jej zobowiązania wobec bezpieczeństwa AI.
Jak misja non-profit zderzyła się z machiną zysku?
Rosie Campbell dołączyła do zespołu gotowości na AGI (AGI readiness team) w 2021 roku. Odeszła trzy lata później, gdy jej zespół rozwiązano. Mniej więcej w tym samym czasie zlikwidowano również inną kluczową komórkę – Super Alignment team, która miała pilnować, by superinteligencja nie wymknęła się spod kontroli. “Gdy dołączyłam, firma była bardzo skupiona na badaniach, a rozmowy o AGI i bezpieczeństwie były na porządku dziennym” – zeznała Campbell. – “Z czasem przekształciła się w organizację skupioną na produktach”. To subtelna, ale fundamentalna zmiana, która leży u podstaw całego sporu.
Prawnicy OpenAI próbowali zbić jej argumenty. Podczas przesłuchania Campbell przyznała, że osiągnięcie celu, jakim jest budowa AGI, wymaga gigantycznych funduszy. Stwierdziła jednak, że tworzenie superinteligentnego modelu komputerowego bez odpowiednich zabezpieczeń nie pasuje do misji organizacji, do której pierwotnie dołączała. Jako przykład podała incydent, w którym Microsoft wdrożył wersję modelu GPT‑4 w Indiach za pośrednictwem wyszukiwarki Bing, zanim model został oceniony przez wewnętrzną Radę ds. Bezpieczeństwa Wdrożeń (DSB). Model sam w sobie nie stanowił wielkiego ryzyka, ale jak zauważyła, firma musi “ustanawiać silne precedensy, w miarę jak technologia staje się coraz potężniejsza. Chcemy mieć dobre procesy bezpieczeństwa, o których wiemy, że są niezawodnie przestrzegane”.
Dlaczego zarząd zwolnił Sama Altmana (na chwilę)?
Wdrożenie GPT‑4 w Indiach było jednym z sygnałów alarmowych, które skłoniły zarząd non-profit do krótkotrwałego zwolnienia Sama Altmana w 2023 roku. Ta decyzja nie wzięła się znikąd. Była pokłosiem skarg pracowników – w tym ówczesnego głównego naukowca Ilyi Sutskevera i CTO Miry Murati – na unikający konfrontacji styl zarządzania Altmana. Tasha McCauley, członkini tamtego zarządu, zeznała o obawach, że prezes nie był wystarczająco szczery, aby nietypowa struktura nadzoru mogła w ogóle funkcjonować.
McCauley opisała też schemat wprowadzania zarządu w błąd. Altman miał okłamać jednego z członków zarządu w sprawie zamiarów usunięcia innej członkini, Helen Toner, która opublikowała artykuł zawierający zawoalowaną krytykę polityki bezpieczeństwa OpenAI. Co więcej, Altman nie poinformował zarządu o decyzji publicznego uruchomienia ChatGPT. “Jesteśmy zarządem non-profit, a naszym mandatem był nadzór nad spółką for-profit pod nami” – mówiła McCauley. – “Nasz podstawowy sposób działania został zakwestionowany. Nie mieliśmy za grosz zaufania, że przekazywane nam informacje pozwalają podejmować świadome decyzje”. Kiedy jednak pracownicy stanęli po stronie Altmana, a Microsoft zaczął działać na rzecz przywrócenia status quo, zarząd ostatecznie się ugiął, a przeciwnicy prezesa ustąpili ze stanowisk.
Czy proces Muska to ostatnia deska ratunku?
Pozorna porażka zarządu non-profit w próbie wpłynięcia na machinę komercyjną to woda na młyn dla sprawy Muska. Jego argument jest prosty: transformacja OpenAI z organizacji badawczej w jedną z największych prywatnych firm na świecie złamała dorozumianą umowę między założycielami. David Schizer, były dziekan Columbia Law School i świadek-ekspert powołany przez zespół Muska, powtórzył obawy McCauley. “OpenAI podkreślało, że kluczową częścią ich misji jest bezpieczeństwo i że będą je stawiać ponad zyskami” – powiedział Schizer. – “Częścią tego jest poważne traktowanie zasad. Jeśli coś wymaga przeglądu bezpieczeństwa, to musi się on odbyć. Liczy się proces”.
Stawka wykracza daleko poza spór między miliarderami. Tasha McCauley uważa, że wewnętrzne problemy z ładem korporacyjnym w OpenAI powinny stać się argumentem za silniejszą regulacją rządową zaawansowanej AI. Jak stwierdziła, sytuacja, w której “wszystko sprowadza się do decyzji jednego prezesa, a w grę wchodzi dobro publiczne, jest wysoce nieoptymalna”. Wygląda na to, że sądowa batalia może być nie tylko o pieniądze, ale o przyszłość całej branży.