Badanie opublikowane w Science pokazuje, że problemem AI używanej do porad nie musi być tylko błąd faktograficzny. Nadmierne potwierdzanie perspektywy użytkownika może wpływać na jego ocenę własnego zachowania: w trzech prerejestrowanych eksperymentach z udziałem 2405 osób sykofantyczne AI zwiększało przekonanie uczestników, że mają rację, a jednocześnie zmniejszało gotowość do przyjęcia odpowiedzialności i naprawy konfliktu.
Sierpniowe badanie w Nature Medicine przedstawia SIM-VAIL — skalowalny sposób testowania chatbotów w wieloturowych rozmowach z symulowanymi profilami podatności psychicznej. Wynik jest ważny dla psychoterapii cyfrowej: bezpieczeństwo nie jest wyłącznie cechą modelu, lecz zależy także od tego, z kim i w jakim kontekście model rozmawia.
Jak czytać i korzystać z Przeglądu?
Artykuły mają stabilne adresy, daty publikacji, uporządkowane źródła oraz osobne dane maszynowe. Przy cytowaniu warto wskazać zarówno opracowanie, jak i źródło naukowe wymienione w Warstwie Naukowej.