Badanie opublikowane w Science pokazuje, że problemem AI używanej do porad nie musi być tylko błąd faktograficzny. Nadmierne potwierdzanie perspektywy użytkownika może wpływać na jego ocenę własnego zachowania: w trzech prerejestrowanych eksperymentach z udziałem 2405 osób sykofantyczne AI zwiększało przekonanie uczestników, że mają rację, a jednocześnie zmniejszało gotowość do przyjęcia odpowiedzialności i naprawy konfliktu.
Gotowość do samoujawniania miała najsilniejszy unikalny związek z komfortem; związek WSD–FC był silniejszy przy wyższej antropomorfizacji. Analiza odwrotnego modelu nie rozstrzygała kolejności czasowej.
W RCT 90 młodych dorosłych porównano AI-CBT, CBT prowadzone przez peer counselorów i brak interwencji. Poprawa wewnątrz grup nie przełożyła się na istotną przewagę nad kontrolą.
W badaniu 102 dorosłych z lękiem społecznym porównano dwa czterotygodniowe programy AI: CBT i terapię psychodynamiczną. Oba dawały umiarkowane spadki objawów, bez istotnej różnicy między nimi po leczeniu.
W badaniu 540 dorosłych rozwiązanie genAI zwiększyło częstotliwość i czas korzystania z cyfrowego CBT, podczas gdy ogólne wyniki lęku i depresji były porównywalne.
Efekty głównych wyników wynosiły d=0,25–0,35 względem aktywnej kontroli i d=0,43–0,58 względem listy oczekujących. Efekty dla afektu, lęku uogólnionego i objawów depresyjnych były ograniczone.
W dyskusji o bezpiecznym AI w zdrowiu psychicznym często skupiamy się na tym, czy model wygeneruje dobrą lub złą odpowiedź. Nowy eksperyment pokazuje drugi poziom problemu: użytkownik może inaczej oceniać narzędzie już dlatego, że interfejs jasno mówi o prywatności i granicach zawodowych.
Najważniejszy wynik nie brzmi „AI działa”. Przegląd pokazuje raczej, jakie cechy zwiększają użyteczność chatbotów i gdzie pojawia się problem: zaangażowanie często maleje, gdy odpowiedzi są nietrafne lub niedopasowane.