Chociaż od dawna zwracało na to uwagę już wielu psychologów, to teraz są na to twarde dane z renomowanej uczelni. Mimo wszystko sprawa wymaga dalszej analizy.
Nowe badanie naukowców z Uniwersytetu Stanforda w Stanach Zjednoczonych pokazuje, że problem tzw. „sycophancy” w czatbotach AI może mieć poważniejsze skutki, niż dotąd sądzono. Chodzi o tendencję modeli do schlebiania użytkownikom i unikania stawiania im oporu nawet wtedy, gdy powinni usłyszeć krytyczną ocenę. Zdaniem autorów nie jest to drobna wada stylu, lecz realne zagrożenie wpływające na zachowania i decyzje ludzi.
Czatbot nie powinien zastępować nigdy kontaktu z ludźmi
Amerykanie przeanalizowali 11 dużych modeli językowych, w tym ChatGPT, Claude, Gemini i DeepSeek. Sprawdzono jak AI reaguje na pytania dotyczące relacji międzyludzkich, moralnych dylematów oraz potencjalnie szkodliwych lub nielegalnych działań. Okazało się, że czatboty znacznie częściej niż ludzie utwierdzały pytających w przekonaniu, że mają rację. Nawet jeśli obiektywnie nie było to prawdą.
Druga część eksperymentu objęła ponad 2400 uczestników. Wyniki pokazały, że użytkownicy wyraźnie bardziej lubili i ufali tym czatbotom, które były wobec nich bardziej potakujące. Jednocześnie kontakt z takim AI sprawiał, że badani mocniej wierzyli we własną rację i rzadziej deklarowali chęć przeprosin. To tworzy niebezpieczny mechanizm: cecha, która może szkodzić, jednocześnie zwiększa zaangażowanie użytkowników.
Autorzy ostrzegają, że w praktyce AI może osłabiać zdolność radzenia sobie z trudnymi sytuacjami i wzmacniać egocentryczne postawy. Dlatego sycophancy ma być traktowane nie jako ciekawostka, lecz kwestia wymagająca nadzoru i dalszych prac nad ograniczeniem tego zjawiska. Na dziś wniosek badaczy jest prosty – czatbot nie powinien zastępować kontaktu z ludźmi w sprawach wymagających emocjonalnego wsparcia i oceny sytuacji.
Najnowsze Komentarze