AI w psychoterapii Psychologia Nowe technologie Czas czytania: 6 min

Chatbot może być pomocny — i jednocześnie wzmacniać ryzyko. Nowe badanie pokazuje dlaczego

Nie wystarczy sprawdzać pojedynczej odpowiedzi. W zdrowiu psychicznym ryzyko może narastać w toku rozmowy.

Sierpniowe badanie w Nature Medicine przedstawia SIM-VAIL — skalowalny sposób testowania chatbotów w wieloturowych rozmowach z symulowanymi profilami podatności psychicznej. Wynik jest ważny dla psychoterapii cyfrowej: bezpieczeństwo nie jest wyłącznie cechą modelu, lecz zależy także od tego, z kim i w jakim kontekście model rozmawia.

Przegląd Redakcyjny
🔍 ZBADAJ W NASZYM NARZĘDZIU Mapa Argumentów → Skąd pochodzi (Provenance) → Sieć cytowań → Evidence Ledger →
W skrócie
    JAK BYŁO ZBUDOWANE BADANIE

    Mapa badania

    Według publikacji • 2 elementy • Zgodnie z publikacją

    Liczba uczestników / charakterystyka: Według publikacji • Simulated users crossing five psychiatric vulnerabilities with six conversational intents • Zgodnie z publikacją

    Przydział: Zgodnie z projektem publikacji

    Według publikacjiLiczba uczestników / charakterystyka
    Interwencja / Grupa badanaTarget AI chatbots audited using SIM-VAIL / PetriGrupa porównawcza / KontrolaAcross target models and simulated vulnerability × intent conditions

    Liczebność poszczególnych grup lub elementów nie jest podana w rekordzie źródłowym, dlatego nie pokazujemy sztucznych wartości.

    CO DA SIĘ POKAZAĆ BEZ ZMYŚLONYCH WYNIKÓW
    Główny wynikConcerning behavior was widespread, varied by vulnerability and intent, accumulated over turns, and could be reduced at early escalation points.Granica wnioskuWnioski ograniczone do badanej grupy i protokołu.
    Schemat pokazuje wyłącznie dane jawnie potwierdzone w źródle.
    Wartości źródłowe: Interwencja / Grupa badana (liczebność ramienia niepodana); Grupa porównawcza / Kontrola (liczebność ramienia niepodana).