Halucynacje, błędy i dezinformacja to mroczna strona AI. Startup Elloe AI chce być „antywirusem”, który weryfikuje każdą odpowiedź LLM pod kątem faktów i prawa.
W skrócie:
- Elloe AI to platforma, która działa jak dodatkowa warstwa zabezpieczająca dla dużych modeli językowych (LLM), weryfikując ich odpowiedzi w czasie rzeczywistym.
- System sprawdza fakty, zgodność z przepisami (jak RODO i HIPAA) oraz wychwytuje uprzedzenia, halucynacje i próby dezinformacji generowane przez sztuczną inteligencję.
- Owen Sakawa, założyciel firmy, podkreśla, że Elloe AI nie jest zbudowane na LLM-ie, co ma zapobiegać błędnej weryfikacji jednego modelu przez drugi.
Owen Sakawa, założyciel Elloe AI, nie owija w bawełnę. „Sztuczna inteligencja ewoluuje w bardzo szybkim tempie i pędzi bez barierek, bez siatek bezpieczeństwa, bez mechanizmu, który uchroniłby ją przed wykolejeniem” – powiedział w niedawnym wywiadzie. I trudno odmówić mu racji. Każdego tygodnia słyszymy o modelach językowych, które zmyślają fakty, obrażają użytkowników lub generują szkodliwe treści. Sakawa proponuje rozwiązanie, które sam nazywa „układem odpornościowym dla AI” albo po prostu – „antywirusem dla każdego agenta AI”.
Jego startup, Elloe AI, właśnie dotarł do finałowej dwudziestki prestiżowego konkursu Startup Battlefield podczas konferencji TechCrunch Disrupt. To sygnał, że Dolina Krzemowa dostrzega problem i zaczyna szukać na niego lekarstwa. Pomysł jest prosty w założeniach, ale piekielnie trudny w realizacji: stworzyć zewnętrzną warstwę kontrolną dla każdego LLM‑a, która będzie na bieżąco sprawdzać, czy generowane przez niego treści są bezpieczne, prawdziwe i zgodne z prawem.
Dlaczego AI potrzebuje własnego antywirusa?
Wielkie modele językowe, takie jak te napędzające ChatGPT czy Gemini, są trenowane na gigantycznych zbiorach danych z internetu. To ich siła i jednocześnie największa słabość. Uczą się z tekstów pełnych błędów, uprzedzeń i zwykłej dezinformacji, a następnie powielają te wzorce. Efektem są tak zwane halucynacje – model z pełnym przekonaniem generuje fałszywe informacje. Firmy wdrażające AI w swoich produktach, od chatbotów obsługi klienta po systemy analityczne w medycynie, stają przed ogromnym ryzykiem. Jeden błąd modelu może prowadzić do fatalnych decyzji biznesowych, naruszenia prawa lub utraty zaufania klientów.
Elloe AI chce działać jak filtr umieszczony na wyjściu modelu. Sakawa tłumaczy, że jego narzędzie to interfejs API lub SDK, czyli moduł, który integruje się z istniejącą infrastrukturą AI. „Zasadniczo siedzi tam i sprawdza każdą pojedynczą odpowiedź” – wyjaśnia obrazowo. To nie jest kolejny chatbot. To strażnik, który ma pilnować, by inne chatboty nie wprowadzały nas w błąd.
Jak działa „układ odpornościowy” od Elloe AI?
System Elloe AI opiera się na trzech filarach, które Sakawa nazywa „kotwicami” (anchors). Każda z nich odpowiada za inny aspekt weryfikacji. To wieloetapowy proces, który ma zapewnić kompleksową kontrolę nad tym, co opuszcza „umysł” sztucznej inteligencji.
Pierwsza kotwica to klasyczny fact-checking. System porównuje odpowiedź LLM‑a z weryfikowalnymi, zaufanymi źródłami danych, aby sprawdzić, czy nie zawiera fałszywych informacji. Druga kotwica pełni funkcję cyfrowego prawnika – analizuje, czy wygenerowana treść nie narusza regulacji prawnych, takich jak amerykańska ustawa o prywatności danych medycznych (HIPAA) czy europejskie RODO. Sprawdza też, czy model przypadkiem nie ujawnia danych osobowych.
Trzecia i ostatnia kotwica to coś w rodzaju czarnej skrzynki dla AI. Tworzy ona ścieżkę audytu, która dokumentuje cały proces decyzyjny. Dzięki niej regulatorzy lub wewnętrzni audytorzy mogą prześledzić „tok myślenia” modelu. Jak wyjaśnia Sakawa, pozwala to „przeanalizować źródło decyzji oraz ocenę pewności dla każdej z nich”. To kluczowe dla budowania transparentności w systemach, które często działają w sposób niezrozumiały nawet dla swoich twórców.
Człowiek w maszynie, czyli kto pilnuje strażnika?
Najciekawszy jest jednak fakt, że Elloe AI – wbrew pozorom – nie jest zbudowane na dużym modelu językowym. Sakawa uważa, że zlecanie jednemu LLM-owi sprawdzania drugiego to jak „przyklejanie plastra na inną ranę”. Zamiast tego jego platforma wykorzystuje inne techniki sztucznej inteligencji, w tym uczenie maszynowe, ale kluczowy pozostaje czynnik ludzki. To pracownicy Elloe AI na bieżąco śledzą zmiany w przepisach dotyczących ochrony danych i bezpieczeństwa użytkowników, a następnie aktualizują system.
Ta hybrydowa koncepcja – łącząca automatyzację z ludzkim nadzorem – może okazać się złotym środkiem w walce o bezpieczniejszą sztuczną inteligencję. Czy Elloe AI stanie się standardem branżowym? O tym być może przekonamy się już niebawem. Prezentacja na TechCrunch Disrupt w San Francisco, zaplanowana na 27 – 29 października 2025 roku, będzie dla startupu prawdziwym testem. Cały świat AI z pewnością będzie patrzył.