Nowa funkcja Gemini w Google Home miała zrewolucjonizować inteligentny dom. Zamiast tego uparcie myli psa z kotem, a próby korekty kończą się fiaskiem.
W skrócie:
- Gemini w Google Home miało dostarczać precyzyjne alerty z kamer Nest, rozpoznając kurierów. Zamiast tego regularnie identyfikuje psa domownika jako kota, generując komiczne powiadomienia.
- Użytkownik próbował poprawić błąd, informując AI wprost, że nie ma kota. Mimo potwierdzenia przyjęcia informacji, Gemini nadal popełniało ten sam błąd w codziennych raportach.
- Google przyznaje, że funkcje są we wczesnej fazie testów i zapowiada poprawę. Kluczowe ma być rozszerzenie systemu rozpoznawania “Znajomych twarzy” również na zwierzęta domowe.
Wyobraź sobie, że jesteś na imprezie i nagle dostajesz powiadomienie z domowej kamery: “Kot wskoczył na twoją kanapę”. Problem w tym, że nie masz kota. Masz za to psa, który właśnie stał się ofiarą kryzysu tożsamości zafundowanego przez najnowszą sztuczną inteligencję od Google. Taka właśnie historia przydarzyła się Julianowi Chokkattu, redaktorowi serwisu WIRED, który przez ostatnie tygodnie testował integrację modelu Gemini z ekosystemem Google Home. I choć technologia obiecywała inteligentne, kontekstowe alerty, rzeczywistość okazała się… bardziej komiczna niż przełomowa.
Kiedy inteligentny dom staje się… zbyt kreatywny
Nowa funkcja, która zastąpiła dotychczasowego Asystenta Google, miała wnieść powiew świeżości do zarządzania inteligentnym domem. Zamiast generycznych komunikatów w stylu “Wykryto osobę”, użytkownicy mieli otrzymywać szczegółowe opisy zdarzeń: “Kurier FedEx zostawił dwie paczki pod drzwiami”. I faktycznie, system potrafi precyzyjnie rozróżnić dostawców, co jest sporym ułatwieniem w codziennym chaosie. Można nawet zapytać aplikację na koniec dnia: “Ile paczek dziś przyszło?”, by otrzymać dokładną odpowiedź. Czysta wygoda.
Jednak cała ta precyzja znika, gdy w grę wchodzą czworonożni domownicy. W przypadku redaktora Chokkattu, jego pies – z perspektywy Gemini – prowadzi podwójne życie jako “biały kot”, który “we wczesnych godzinach porannych przechadzał się po salonie i siadał na kanapie”. Te pomyłki, choć zabawne, pokazują, jak daleka jest jeszcze droga do prawdziwie inteligentnego rozpoznawania obrazu w niekontrolowanym, domowym środowisku. Co więcej, AI potrafiło też halucynować, informując o osobie wchodzącej po schodach, która w rzeczywistości jedynie przechodziła chodnikiem przed domem.
Jak powiedzieć maszynie, że się myli?
To chyba najbardziej frapujący element tej historii. Żyjemy w erze konwersacyjnej AI, więc naturalnym odruchem jest próba skorygowania błędu w rozmowie. Redaktor użył funkcji *Ask Home*, by poinformować system: “Kamera ciągle identyfikuje kota, ale to jest pies. Nie mam kota”. Gemini, jak na dobrze wychowany model przystało, grzecznie przyznało rację i potwierdziło, że w domu jest pies. A potem? A potem nic się nie zmieniło. Alerty o kocie nadal przychodziły, udowadniając, że obecne mechanizmy uczenia się na podstawie informacji zwrotnej od użytkownika są, delikatnie mówiąc, niedoskonałe.
Problem tkwi głębiej, w architekturze systemu. Rzecznik Google w odpowiedzi na pytania redakcji wyjaśnił, że funkcje *Ask Home* i *Home Brief* są na razie w fazie wczesnego dostępu (early access). Dodał też, że firma “mocno inwestuje w poprawę dokładnej identyfikacji, w tym zwierząt domowych”. Kluczem do sukcesu ma być rozbudowa istniejącego systemu *Familiar Faces*, który pozwala przypisywać imiona do twarzy często widywanych osób. Kiedyś – w nieokreślonej przyszłości – funkcja ta obejmie również zwierzęta, co prawdopodobnie rozwiąże problem permanentnej metamorfozy psa w kota.
Więcej niż anegdota. To lekcja pokory dla branży AI
Historia psa-który-był-kotem to coś więcej niż zabawna ciekawostka. To doskonała metafora obecnego etapu rozwoju sztucznej inteligencji. Z jednej strony mamy potężne modele językowe, które potrafią prowadzić złożone rozmowy i automatyzować zadania. Z drugiej – wciąż zmagają się z podstawowym rozumieniem kontekstu fizycznego świata. Google nie jest zresztą osamotnione. Amazon w swoich kamerach Ring wprowadza funkcję *Search Party*, która ma wykorzystywać sieć kamer w sąsiedztwie do poszukiwania zaginionych psów, co samo w sobie rodzi pytania o prywatność i potencjalne nadużycia.
Ta pozornie błaha pomyłka pokazuje, że nawet najbardziej zaawansowane algorytmy mogą zawieść w konfrontacji z prostą rzeczywistością, jeśli nie zostaną nakarmione odpowiednimi danymi i mechanizmami korekty. I choć Gemini potrafi już całkiem sprawnie zarządzać oświetleniem w domu, to na razie nie jest w stanie zrozumieć, że nie każdy czworonożny lokator to kot. Nawet jeśli zachowuje się jak jeden z nich.