Oszuści sklonowali głos jego siostry, by wyłudzić okup. W odpowiedzi, byli pracownicy Apple i Cisco stworzyli Savi – aplikację, która na żywo walczy ze scamami AI.
W skrócie:
- Startup Savi Security, założony przez byłych pracowników Apple i Cisco, zebrał 7 mln dolarów na rozwój aplikacji chroniącej przed oszustwami AI, takimi jak klonowanie głosu.
- Kluczową funkcją aplikacji jest monitorowanie rozmów w czasie rzeczywistym. Specjalny agent AI nasłuchuje w tle, by wykryć próby manipulacji i wyłudzenia.
- Inspiracją była próba oszustwa na matce założycieli. Usłyszała w telefonie sklonowany głos córki i żądanie okupu – scenariusz, który staje się coraz częstszy.
Bracia Patrick i Ryan Coughlin mają za sobą kariery, których pozazdrościłby im każdy w Dolinie Krzemowej. Patrick pracował w krajowej cyberobronie, Splunku i Cisco. Ryan rozwijał produkty konsumenckie w Apple i Spotify. Teraz połączyli siły, by rozwiązać problem, który uderzył w ich rodzinę z siłą rozpędzonego pociągu. Ich startup, Savi Security, ma chronić zwykłych ludzi przed nową generacją przerażająco skutecznych oszustw opartych na sztucznej inteligencji. Tych, które przychodzą SMS-em, mailem lub dzwonią w najmniej oczekiwanym momencie.
“Mamo, porwali mnie”. Jak krzyk w słuchawce dał początek rewolucji
Dwa lata temu zadzwonił telefon. Matka Patricka Coughlina usłyszała w słuchawce głos, który mógł należeć tylko do jednej osoby – jej córki. A potem usłyszała krzyk. Na wyświetlaczu widniał numer siostry Patricka. Z głośnika dobiegł jej głos: “Mamo, mają mnie”. Chwilę później przerażający wrzask i ostatnie zdanie: “Musisz zrobić to, co ci każą”. Linię przejął mężczyzna. Jego żądanie było proste i brutalne: 1200 dolarów natychmiast albo jej córka zginie na parkingu pod lokalnym Walmartem. Oszust wiedział nawet, gdzie robi zakupy. Cała sytuacja była surrealistyczna, tym bardziej że Patrick był wtedy wiceprezesem ds. produktów bezpieczeństwa w Cisco. Ironia losu.
Na szczęście jego matka zachowała zimną krew. Rozłączyła się i natychmiast zadzwoniła do córki. Okazało się, że jest cała i zdrowa. Porwanie było mistyfikacją wygenerowaną przez AI. Ale wstrząs pozostał. “Gdy już uspokoiłem mamę, zacząłem się zastanawiać: co fundamentalnie zmieniło się w cyberprzestępczej gospodarce, że ten sam poziom zaawansowania, który widziałem w atakach na agencje rządowe, a później na firmy z listy Fortune 500, jest teraz wymierzony w zwykłego konsumenta?” – wspomina Coughlin.
Dlaczego oszuści pokochali sztuczną inteligencję?
Odpowiedź jest prosta i niepokojąca: tanie i potężne duże modele językowe (LLM) oraz inne narzędzia generatywnej AI. Kiedyś przygotowanie takiego ataku wymagało dogłębnego researchu, technologii do podrabiania głosu i sporych nakładów finansowych. Było to opłacalne tylko w przypadku wielkich celów – korporacji lub rządów. Dzisiaj sytuacja wygląda inaczej. Koszt przeprowadzenia takiego oszustwa spadł niemal do zera.
“Głos można sklonować z trzech sekund nagrania audio, z publicznie dostępnego postu w mediach społecznościowych. Wszyscy zostawiamy w sieci takie ślady – gdy coś opowiadamy, komentujemy mecz piłkarski dziecka, nagrywając go i wrzucając na Facebooka” – tłumaczy Coughlin. Dane Federalnej Komisji Handlu (FTC) potwierdzają skalę problemu. W ubiegłym roku Amerykanie stracili 3,5 miliarda dolarów w wyniku oszustw “na podszywanie się” – to trzykrotnie więcej niż w 2020 roku. Co ciekawe, ofiarami padają nie tylko seniorzy. Według ostatnich badań firmy Malwarebytes, pokolenie Z jest najczęściej atakowane scamami tekstowymi i daje się na nie nabrać w około 25% przypadków.
Savi, czyli jak działa antywirus nowej generacji?
Pomysł braci Coughlin polegał na stworzeniu narzędzia, które interweniuje w czasie rzeczywistym. Zanim uruchomili płatną aplikację, stworzyli darmową stronę Scamwise. Każdy może tam anonimowo wkleić podejrzany SMS, maila lub zdjęcie, a AI oceni jego wiarygodność. Projekt okazał się strzałem w dziesiątkę. W ciągu czterech miesięcy użytkownicy przesłali 50 tysięcy próbek, a obecnie liczba ta przekroczyła 100 tysięcy. To gigantyczna baza danych, która posłużyła do wytrenowania modelu AI w Savi.
Sama aplikacja Savi, która właśnie zadebiutowała na iOS i Androida, to coś więcej niż zwykły filtr. Owszem, skanuje wiadomości i pocztę głosową, ale jej prawdziwą siłą jest monitorowanie rozmów na żywo. Gdy użytkownik odbiera podejrzany telefon, może jednym kliknięciem “zaprosić” do rozmowy agenta Savi. System nasłuchuje w tle, analizując zachowania rozmówcy – ton głosu, nacisk, próby manipulacji – i w czasie rzeczywistym ostrzega, jeśli wykryje oszustwo. Model biznesowy również jest nietypowy. Subskrypcja kosztuje 8 dolarów miesięcznie (lub 63 dolary rocznie) i obejmuje całą rodzinę, bez limitu użytkowników. Można więc chronić rodziców, dzieci i tego jednego wujka, który zawsze klika we wszystko, co nie powinien.
Czy AI walczące z AI to nasza jedyna nadzieja?
Sztuczna inteligencja dramatycznie obniżyła próg wejścia do świata cyberprzestępczości. Jak mówi Coughlin, ona wręcz “tworzy oszustów”, bo sprawia, że zwodzenie ludzi stało się banalnie proste. Z tym problemem nie mierzą się już tylko zorganizowane syndykaty, ale też zwykli ludzie, których kusi łatwy zysk. W tej nowej rzeczywistości Savi Security proponuje walkę ogniem z ogniem. To nowa generacja oprogramowania antywirusowego – takiego, które nie chroni już tylko plików na dysku, ale nasze emocje i percepcję w czasie rzeczywistym. Wygląda na to, że właśnie rozpoczął się zupełnie nowy wyścig zbrojeń. Tym razem na linii frontu znalazł się nasz własny umysł.