Kalifornia zmusza deweloperów AI do ujawniania danych o bezpieczeństwie. Nowe prawo nakłada na gigantów obowiązek raportowania incydentów. Grożą im kary do $1 mln.
W skrócie:
- Kalifornia uchwaliła ustawę Transparency in Frontier Artificial Intelligence Act, która od stycznia 2026 roku zmusza twórców najpotężniejszych modeli AI do publicznego raportowania o bezpieczeństwie.
- Firmy muszą zgłaszać „krytyczne incydenty” w ciągu 15 dni, a te zagrażające życiu – w 24 godziny. Prawo wprowadza ponadto solidną ochronę dla sygnalistów wewnątrz organizacji.
- Za nieprzestrzeganie przepisów grożą surowe kary finansowe sięgające miliona dolarów za każde naruszenie, a egzekwować je będzie Prokurator Generalny Kalifornii.
Koniec legislacyjnej ciszy. 29 września gubernator Kalifornii Gavin Newsom złożył podpis pod ustawą, która może na nowo zdefiniować zasady gry w Dolinie Krzemowej. Transparency in Frontier Artificial Intelligence Act (TFAIA) to pierwszy tego typu akt prawny w Stanach Zjednoczonych. Zamiast czekać na ruch Waszyngtonu – który w kwestii regulacji AI porusza się z gracją tankowca – Kalifornia bierze sprawy w swoje ręce. Ustawa zmusza deweloperów najbardziej zaawansowanych modeli sztucznej inteligencji do bezprecedensowej transparentności. To ruch odważny. Być może nawet zuchwały. Ale wszystko wskazuje na to, że konieczny.
Jakie są nowe zasady gry w Dolinie Krzemowej?
Nowe prawo nie jest dla wszystkich. Jego zapisy dotyczą wyłącznie deweloperów tak zwanych „modeli granicznych” (frontier models) – czyli tych, których trening pochłonął więcej niż 10^26 operacji zmiennoprzecinkowych (FLOPs). To próg, który odzwierciedla zapisy z rozporządzenia wykonawczego prezydenta USA z 2023 roku i jest wyższy niż ten w unijnym AI Act (10^25 FLOPs). Na razie publicznie do przekroczenia tej granicy przyznało się niewielu graczy, ale peleton już depcze im po piętach, a kolejne firmy z pewnością dołączą do tego elitarnego klubu w nadchodzącym roku.
Co dokładnie muszą robić objęte ustawą firmy? Przede wszystkim publikować ogólnodostępne ramy bezpieczeństwa. Muszą w nich wyjaśnić, jak oceniają ryzyko katastrofy, jak mu zapobiegają i jak mierzą skuteczność swoich działań. Ponadto, przy każdym wdrożeniu nowego lub istotnie zmodyfikowanego modelu, deweloperzy opublikują raport transparentności. Znajdą się w nim informacje o przeznaczeniu modelu, jego modalnościach (tekst, obraz, audio) oraz nałożonych ograniczeniach. Najwięksi gracze, z rocznym przychodem przekraczającym 500 milionów dolarów, będą musieli dodatkowo ujawnić wyniki oceny ryzyka katastroficznego.
Co grozi za ukrywanie błędów AI?
Odpowiedź jest prosta: wysokie kary i publiczna presja. Ustawa, która wejdzie w życie w styczniu 2026 roku, wprowadza pojęcie „krytycznego incydentu bezpieczeństwa”. Definiuje się go jako zachowanie modelu, które skutkuje lub stwarza istotne ryzyko śmierci, poważnych obrażeń ciała albo utraty kontroli nad systemem. Deweloper ma 15 dni na zgłoszenie takiego incydentu do Biura Służb Ratunkowych Gubernatora Kalifornii (OES). Jeśli jednak incydent stwarza bezpośrednie zagrożenie dla życia, czas reakcji kurczy się do zaledwie 24 godzin.
Za każde naruszenie ustawy Prokurator Generalny Kalifornii może nałożyć karę cywilną w wysokości do miliona dolarów. Co więcej, prawo wprowadza solidne mechanizmy ochrony sygnalistów. Pracownicy zgłaszający nieprawidłowości będą chronieni przed odwetem, a największe firmy zostaną zobowiązane do stworzenia anonimowych kanałów do takich zgłoszeń. To próba rozbicia muru milczenia, który często otacza wewnętrzne problemy technologicznych gigantów. Trudno nie odnieść wrażenia, że ustawodawca wyciągnął wnioski z przeszłości.
Dlaczego Kalifornia wyprzedziła resztę świata?
TFAIA jest kulminacją długiej debaty, która przetoczyła się przez Kalifornię. Poprzednia, bardziej restrykcyjna wersja ustawy (SB-1047) została zablokowana w zeszłym roku po silnym sprzeciwie branży. Lobbystom udało się usunąć z projektu zapisy o obowiązkowych audytach zewnętrznych, certyfikacji przed wdrożeniem i wymogu instalacji „wyłącznika bezpieczeństwa” (kill-switch). Ostateczna wersja skupia się na transparentności i odpowiedzialności, a nie na prewencyjnej kontroli.
Wprowadzając to prawo, Kalifornia wysyła sygnał, że nie zamierza czekać na działania federalne. Podczas gdy Kongres debatuje nad ewentualnym moratorium na stanowe regulacje AI, legislatury w całym kraju nie próżnują – w ostatniej sesji uchwalono ponad 100 ustaw dotyczących sztucznej inteligencji. Ustawa kalifornijska, pomimo że węższa niż pierwotnie planowano, prawdopodobnie wyznaczy standardy, które będą naśladowane w innych stanach i za granicą. To także odpowiedź na rosnącą presję społeczną, by technologia, która zmienia nasz świat, podlegała jakiejkolwiek demokratycznej kontroli. Na dokładkę, ustawa powołuje do życia konsorcjum „CalCompute”, które ma zaprojektować publiczny klaster obliczeniowy dla naukowców i uniwersytetów, aby wspierać badania nad bezpieczną i sprawiedliwą AI.