Giganci ubezpieczeniowi, tacy jak Chubb i Great American, chcą wyłączyć AI z polis. Powód? Systemowe ryzyko i „czarna skrzynka”, której nikt nie kontroluje.
W skrócie:
- Ubezpieczyciele w USA, w tym Chubb i W. R. Berkley, proszą regulatorów o zgodę na wykluczenie szkód spowodowanych przez sztuczną inteligencję z ogólnych polis korporacyjnych.
- Powodem jest postrzeganie AI jako „czarnej skrzynki” i obawa przed ryzykiem systemowym – tysiącami roszczeń naraz, gdy jeden popularny model popełni błąd.
- Branżę przerażają realne przypadki, takie jak pozew na 110 mln dolarów przeciwko Google czy kradzież 25 mln dolarów z użyciem deepfake’a w firmie Arup.
W biznesie ubezpieczeniowym chodzi o precyzyjne szacowanie ryzyka. To gra liczb, prawdopodobieństwa i zimnej kalkulacji. Kiedy więc ludzie, którzy z tego żyją, mówią, że jakaś technologia jest zbyt ryzykowna, by ją ubezpieczyć, warto nadstawić uszu. A właśnie taki sygnał płynie z rynku. Jak donosi “Financial Times”, najwięksi gracze, tacy jak Great American, Chubb i W. R. Berkley, pukają do drzwi amerykańskich regulatorów. Ich prośba jest prosta i jednocześnie wstrząsająca: pozwólcie nam wyłączyć odpowiedzialność za szkody wywołane przez sztuczną inteligencję z polis korporacyjnych.
To nie jest zwykła branżowa przepychanka. To fundamentalne pęknięcie na linii między technologicznym optymizmem a finansowym pragmatyzmem. Jeden z menedżerów wprost określił modele AI mianem “zbyt dużej czarnej skrzynki”. I to jest sedno problemu. Firmy na całym świecie pędzą, by wdrożyć AI do wszystkiego – od obsługi klienta po projektowanie mostów – ale ci, którzy mieliby pokryć koszty ewentualnej katastrofy, właśnie wciskają hamulec. Warto dodać, że AIG, również wymienione w artykule FT, zdystansowało się od tych planów, twierdząc, że “nie planuje wdrożenia takich wykluczeń w tym czasie”. To jednak raczej wyjątek potwierdzający regułę.
Dlaczego ubezpieczyciele boją się sztucznej inteligencji?
Strach branży ubezpieczeniowej nie wziął się znikąd. Karmią go nagłówki gazet i sądowe pozwy, które opiewają na astronomiczne kwoty. Weźmy historię z marca tego roku – funkcja AI Overview od Google fałszywie oskarżyła firmę z branży solarnej o problemy prawne, co skończyło się pozwem na 110 milionów dolarów. Albo przypadek Air Canada, które musiało honorować zniżkę wymyśloną przez własnego chatbota, bo sąd uznał, że bot działał w imieniu firmy. To zabawne, dopóki nie spojrzymy na rachunek.
Jednak prawdziwy dreszcz przerażenia wywołują historie takie jak ta z londyńskiej firmy inżynieryjnej Arup. Oszuści użyli tam cyfrowo sklonowanej wersji głosu i wizerunku jednego z dyrektorów, by podczas wideokonferencji – która wyglądała na w pełni autentyczną – zlecić przelew na 25 milionów dolarów. Pieniądze zniknęły. Te przykłady pokazują, że potencjalne straty nie są już teoretyczne. One dzieją się tu i teraz, a skala problemu rośnie wraz z dostępnością i zaawansowaniem narzędzi AI.
Jeden błąd, tysiące roszczeń – koszmar ryzyka systemowego
Tym, co naprawdę spędza sen z powiek ubezpieczycielom, nie jest pojedyncza, nawet największa wpadka. To ryzyko systemowe. Jeden z dyrektorów w firmie brokerskiej Aon ujął to dosadnie: branża jest w stanie poradzić sobie ze stratą 400 milionów dolarów w jednej firmie. Nie poradzi sobie jednak, gdy “jeden autonomiczny błąd AI wywoła 10 000 strat jednocześnie”.
Wyobraźmy sobie popularny model językowy zintegrowany z tysiącami aplikacji biznesowych na całym świecie – od systemów bankowych po oprogramowanie medyczne. Wystarczy jedna wadliwa aktualizacja, jedna “halucynacja” na masową skalę, by wygenerować falę roszczeń, która mogłaby położyć całe towarzystwa ubezpieczeniowe. To scenariusz, w którym jeden błąd algorytmu powoduje tysiące małych katastrof w tym samym momencie. Dla ubezpieczyciela to odpowiednik trzęsienia ziemi, tsunami i pożaru, które uderzają jednocześnie we wszystkich jego klientów. To ryzyko, którego nie da się skalkulować tradycyjnymi metodami.
Jaka przyszłość czeka biznes bez polisy na AI?
Decyzja ubezpieczycieli może stać się potężnym hamulcem dla rewolucji AI. Jeśli firmy nie będą mogły ubezpieczyć się od ryzyka związanego z nowymi technologiami, wiele z nich może zrewidować swoje ambitne plany wdrożeniowe. Kto weźmie na siebie odpowiedzialność za błąd autonomicznego samochodu, złą diagnozę medyczną postawioną przez algorytm czy stratę finansową spowodowaną przez automatycznego doradcę inwestycyjnego?
Prawdopodobnie rynek odpowie na tę lukę. Pojawią się wyspecjalizowane, bardzo drogie polisy dedykowane wyłącznie ryzykom związanym z AI. Możliwe też, że wielkie korporacje technologiczne będą zmuszone do tworzenia własnych funduszy gwarancyjnych lub do samoubezpieczenia, co przerzuci gigantyczne ryzyko bezpośrednio na nie. Jedno jest pewne: beztroska era eksperymentów z AI powoli dobiega końca. Na scenę wkraczają prawnicy i aktuariusze. I wszystko wskazuje na to, że nie przyszli tylko po to, by się przyglądać.