OpenAI wypuściło przeglądarkę Atlas, rzucając rękawicę Chrome. Eksperci alarmują jednak o krytycznej luce – atakach prompt injection, które już skompromitowały AI.
W skrócie:
- OpenAI zaprezentowało Atlas – przeglądarkę internetową zintegrowaną z AI, która ma konkurować z Google Chrome i analizować strony w czasie rzeczywistym.
- Eksperci ds. bezpieczeństwa niemal natychmiast wykazali jej podatność na ataki typu indirect prompt injection, które mogą zmusić AI do niepożądanych działań.
- W tle tych wydarzeń Jaguar Land Rover liczy straty po cyberataku (2,5 mld dolarów), a AWS tłumaczy się z globalnej awarii, która położyła pół internetu.
OpenAI, twórcy rewolucyjnego ChatGPT, postanowili wejść na ring z prawdziwym czempionem wagi ciężkiej – Google Chrome. Ich nowa broń nazywa się Atlas i jest przeglądarką internetową, która obiecuje zmienić zasady gry. Zamiast zwykłego paska wyszukiwania, w centrum znajduje się potężny model językowy, gotów analizować, streszczać i odpowiadać na pytania dotyczące każdej otwartej strony. To odważny krok, który mógłby zachwiać dominacją Google. Jest tylko jeden, dość istotny, problem. Atlas, jak się okazało, ma dziurawą zbroję.
Jak oszukać sztuczną inteligencję w pięć minut?
Eksperci od cyberbezpieczeństwa nie potrzebowali wiele czasu, by znaleźć piętę achillesową nowej przeglądarki. Okazała się nią podatność na ataki typu indirect prompt injection, czyli – tłumacząc z technicznego na ludzki – możliwość przemycenia ukrytych instrukcji dla AI. Działa to w zdumiewająco prosty sposób. Wyobraźmy sobie, że prosimy Atlasa o streszczenie artykułu. Jeśli na tej stronie, w sposób niewidoczny dla nas, ukryto złośliwy kod, AI go “przeczyta” i wykona polecenie. To nie teoria. Niezależny badacz Johann Rehberger zademonstrował, jak zmusił przeglądarkę do automatycznej zmiany motywu z ciemnego na jasny, tylko dlatego, że przeczytała ona odpowiednio spreparowany dokument Google Docs. Błahe? Być może. Ale pokazuje, że mechanizm działa, a stąd już tylko krok do wycieku danych czy wykonania znacznie groźniejszych operacji.
Sam dyrektor ds. bezpieczeństwa w OpenAI, Dane Stuckey, przyznał, że problem jest realny. Na platformie X napisał: “Przed premierą przeprowadziliśmy szeroko zakrojone testy, wdrożyliśmy nowe techniki trenowania modelu, aby nagradzać go za ignorowanie złośliwych instrukcji, oraz dodaliśmy nowe systemy do wykrywania i blokowania takich ataków”. Po czym dodał z rozbrajającą szczerością: “Jednakże prompt injection pozostaje nierozwiązanym problemem bezpieczeństwa na froncie, a nasi przeciwnicy poświęcą znaczący czas i zasoby, aby znaleźć sposoby na oszukanie agentów ChatGPT”. Innymi słowy: wiemy, że jest dziura, ale ruszamy naprzód. Odważnie.
Kiedy giganci się potykają, cały świat trzyma oddech
Historia przeglądarki Atlas to symptom szerszego zjawiska. Technologia pędzi do przodu, a zabezpieczenia próbują nadążyć, często z opóźnieniem. O tym, jak krucha jest nasza cyfrowa infrastruktura, przekonaliśmy się niedawno za sprawą Amazona. Awaria usługi AWS, spowodowana problemami z systemem DNS w bazie danych DynamoDB, wywołała efekt domina. Padły kolejne usługi, jak Network Load Balancer i mechanizmy maszyn wirtualnych EC2, a w efekcie niedostępna stała się ogromna część globalnego internetu. Cała operacja – od wykrycia problemu do jego naprawienia – zajęła inżynierom Amazona około 15 godzin. W oficjalnym oświadczeniu firma przyznała: “Wiemy, że to wydarzenie w znaczący sposób wpłynęło na wielu naszych klientów. Zrobimy wszystko, co w naszej mocy, aby wyciągnąć wnioski z tego zdarzenia i wykorzystać je do dalszej poprawy naszej dostępności”.
Ile kosztuje cyfrowy chaos? Jaguar Land Rover zna odpowiedź
Podczas gdy awaria AWS była “tylko” problemem operacyjnym, cyberatak na Jaguar Land Rover (JLR) pokazał, jak bolesne mogą być finansowe konsekwencje cyfrowych zagrożeń. Atak, który na pięć tygodni sparaliżował produkcję giganta motoryzacyjnego i jego rozległego łańcucha dostaw, jest na dobrej drodze, by stać się najkosztowniejszym hakerskim incydentem w historii Wielkiej Brytanii. Analitycy z Cyber Monitoring Centre (CMC) oszacowali straty na astronomiczną kwotę 1,9 miliarda funtów, czyli około 2,5 miliarda dolarów. JLR przywrócił produkcję dopiero na początku października, informując, że roczna produkcja spadła o około 25% po “trudnym kwartale”. To brutalne przypomnienie, że w połączonym świecie jedna luka w systemie może wygenerować straty liczone w miliardach i dotknąć tysiące firm. Atlas, AWS, JLR – trzy różne historie, ale jeden wspólny mianownik. Wyścig między innowacją a bezpieczeństwem trwa, a jego stawką jest stabilność cywilizacji, którą z taką ufnością zbudowaliśmy na kruchych, cyfrowych fundamentach.