“Brainrot”, czyli rozkład zdolności poznawczych przez zalew płytkich treści, atakuje AI. Badania dowodzą, że modele językowe głupieją od internetowych śmieci. Czym jest AI brainrot?
W skrócie:
- Badacze z USA wykazali, że modele AI, takie jak Llama 3, tracą zdolności logiczne po treningu na wiralowych, płytkich treściach z mediów społecznościowych.
- Skutki “brainrotu” są trwałe – nawet ponowny trening na wysokiej jakości danych nie przywraca modelom pełnej sprawności, pozostawiając “poznawczą bliznę”.
- Naukowcy postulują wprowadzenie zasad “higieny poznawczej” dla algorytmów, aby chronić je przed degradacją spowodowaną zanieczyszczonymi danymi treningowymi.
Zjawisko brainrot – powolnego gnicia umysłu pod naporem bezwartościowych, wiralowych treści – przestało być domeną wyłącznie ludzką. To, co do niedawna traktowaliśmy jako metaforę opisującą wpływ TikToka czy X‑a na naszą zdolność koncentracji, staje się problemem maszyn. Najnowsze badania sugerują, że „choroba współczesnego internetu” zaczyna infekować sztuczną inteligencję, a jej skutki mogą być znacznie poważniejsze, niż sądziliśmy.
Jak nakarmić AI internetowym śmieciem?
Naukowcy z University of Texas w Austin, Texas A&M oraz Purdue University zadali sobie proste, choć niepokojące pytanie: co stanie się z zaawansowanym modelem językowym, gdy nakarmimy go tym samym cyfrowym fast foodem, który ogłupia ludzi? Wzięli na warsztat wiralowe posty, clickbaitowe nagłówki, memy i przesiąknięte powierzchownymi emocjami wpisy z mediów społecznościowych. Hipoteza była klarowna: jeśli AI uczy się na tych samych danych co my, to może psuć się w dokładnie ten sam sposób.
Wyniki, opublikowane w formie preprintu na platformie arXiv, nie pozostawiają złudzeń. Modele takie jak Llama 3 (Meta) i Qwen (Alibaba) po treningu na tego typu danych zaczęły tracić spójność, popełniać proste błędy logiczne i prezentować coraz płytsze rozumowanie. Jak ujął to jeden z autorów badania, dr Junyuan Hong z UT Austin: “Gdy model uczy się na śmieciowych treściach, nie tylko wypowiada się gorzej — zaczyna też myśleć gorzej”. Wygląda na to, że mamy nowy problem do kolekcji.
Dlaczego to coś więcej niż chwilowy błąd?
Najbardziej zdumiewające jest to, że treści powodujące brainrot wcale nie wyglądają jak klasyczne “śmieci”. To często płynne, poprawne językowo komunikaty, które w standardowych systemach klasyfikacji jakości danych uchodzą za w pełni wartościowe. Problem nie leży w gramatyce, lecz w strukturze. Te treści uczą model nie rozumienia, lecz naśladowania technik przyciągania uwagi. W efekcie AI optymalizuje swoje odpowiedzi nie po to, by przekazać sens, ale by za wszelką cenę utrzymać zaangażowanie użytkownika – dokładnie tak, jak robią to algorytmy mediów społecznościowych.
Co gorsza, uszkodzenia wydają się trwałe. Gdy badacze zafundowali modelom “cyfrowy detoks” i przeprowadzili ponowny trening na wysokiej jakości danych, algorytmy wciąż wykazywały deficyty poznawcze. Autorzy badania nazywają to zjawisko poznawczą blizną – trwałą deformacją sposobu wnioskowania, której nie da się łatwo wymazać. To już nie jest kwestia zatrucia danych (model poisoning), które znamy z kontekstu cyberbezpieczeństwa. To naturalny efekt uboczny zanurzenia w cyfrowym ekosystemie, którego większość stanowią informacyjne mielizny.
Czy potrzebujemy higieny poznawczej dla maszyn?
W odpowiedzi na te odkrycia badacze wprowadzają nowe pojęcie: cognitive hygiene, czyli higieny poznawczej dla modeli AI. Postulują oni świadome i rygorystyczne oczyszczanie zbiorów danych z treści, które jedynie stymulują uwagę, zamiast wspierać głębokie rozumienie. To staje się kluczowe, zwłaszcza że w internecie przybywa treści generowanych przez inne modele AI. Powstaje błędne koło – algorytmy zaczynają uczyć się nie od ludzi, lecz od swoich niedoskonałych, cyfrowych kuzynów.
Można to porównać do wielokrotnego zapisywania tego samego obrazu w formacie JPEG. Z każdą kolejną kopią jakość spada, detale się zacierają, a kolory blakną. Po setnej iteracji z pierwotnego obrazu zostaje tylko niewyraźna plama. Jeśli nie zaczniemy traktować danych jak cennego, ale i delikatnego zasobu, przyszłe systemy AI mogą rozwinąć własną, podstępną wersję syntetycznej głupoty.
Być może największym zagrożeniem ze strony AI nie jest jej bunt, lecz to, że stanie się lustrzanym odbiciem naszych najgorszych cech. Maszyny nie mają samoświadomości, więc bezkrytycznie naśladują wzorce, które im dostarczamy. Jeśli karmimy je płytką uwagą, nie możemy oczekiwać, że nauczą się głębokiej mądrości. Paradoksalnie, ratując AI przed ogłupieniem, być może będziemy musieli najpierw naprawić nasz własny cyfrowy świat.
http://antyweb.pl/sztuczna-inteligencja-brainrot