AI Zdrowie psychiczne Psychoterapia Bezpieczeństwo AI Czas czytania: 3 min

Chatbot AI w zdrowiu psychicznym: bezpieczeństwo zaczyna się także od interfejsu

Eksperyment 2×2 pokazuje, że dwa krótkie komunikaty mogą zmieniać postrzeganie prywatności, granic i właściwego poziomu zaufania.

W dyskusji o bezpiecznym AI w zdrowiu psychicznym często skupiamy się na tym, czy model wygeneruje dobrą lub złą odpowiedź. Nowy eksperyment pokazuje drugi poziom problemu: użytkownik może inaczej oceniać narzędzie już dlatego, że interfejs jasno mówi o prywatności i granicach zawodowych.

Przegląd Redakcyjny •
🔍 ZBADAJ W NASZYM NARZĘDZIU Mapa Argumentów → Skąd pochodzi (Provenance) → Sieć cytowań → Evidence Ledger →
W skrócie
  • Ilu uczestników objął eksperyment?: 768 studentów, po 192 osoby w każdym z czterech warunków.
  • Co zmienił komunikat o prywatności?: Zwiększył postrzeganą ochronę prywatności; raportowany efekt d wyniósł 0,91.
  • Czy to dowód skuteczności psychoterapii AI?: Nie. To eksperyment nad percepcją bezpieczeństwa i zaufania, nie badanie skuteczności terapii.
JAK BYŁO ZBUDOWANE BADANIE

Mapa badania

Według publikacji • 2 elementy • Zgodnie z publikacją

Badanie: Zeyu Zhang i wsp., 2026

Liczba uczestników / charakterystyka: Według publikacji • Studenci college w Chinach uczestniczący w eksperymencie dotyczącym chatbotów AI wspierających w obszarze zdrowia psychicznego. • Zgodnie z publikacją

Przydział: Zgodnie z projektem publikacji

Według publikacjiLiczba uczestników / charakterystyka
Interwencja / Grupa badanaManipulacja interfejsem: komunikat o ochronie prywatności i/lub ostrzeżenie o granicach zawodowych chatbota.Grupa porównawcza / KontrolaScenariusz bez dodatkowych komunikatów.

Liczebność poszczególnych grup lub elementów nie jest podana w rekordzie źródłowym, dlatego nie pokazujemy sztucznych wartości.

CO DA SIĘ POKAZAĆ BEZ ZMYŚLONYCH WYNIKÓW
Główny wynikKomunikat prywatności silnie zwiększał postrzeganą ochronę prywatności (d=0.91), a ostrzeżenie o granicach zwiększało świadomość granic (d=0.96). Skalibrowane zaufanie było najwyższe przy obu komunikatach; świadomość granic wiązała się z niższym ryzyGranica wnioskuWnioski ograniczone do badanej grupy i protokołu.
Schemat pokazuje wyłącznie dane jawnie potwierdzone w źródle.
Wartości źródłowe: Interwencja / Grupa badana (liczebność ramienia niepodana); Grupa porównawcza / Kontrola (liczebność ramienia niepodana).

Nie „czy AI działa?”, tylko „jak projekt wpływa na użytkownika”

WYNIK BADANIA

To eksperyment interfejsowy, a nie próba psychoterapii. 768 studentów losowo przydzielono do czterech wariantów scenariusza chatbota.

Dowód ze źródła: "We conducted a 2 × 2 randomized vignette experiment with 768 college students."
WYNIK BADANIA

Pierwsza manipulacja dotyczyła prywatności: krótki komunikat miał sprawić, by użytkownik inaczej oceniał ochronę swoich danych.

Dowód ze źródła: "Privacy assurance increased perceived privacy protection, F(1, 764) = 159.30, p < 0.001, ηp² = 0.172, d = 0.91."
WYNIK BADANIA

Druga manipulacja dotyczyła granic zawodowych — jasnego zaznaczenia, że chatbot nie jest profesjonalistą prowadzącym opiekę kliniczną.

Dowód ze źródła: "Professional-boundary warning increased boundary awareness, F(1, 764) = 176.40, p < 0.001, ηp² = 0.188, d = 0.96."

Co zmieniły te dwa komunikaty?

WYNIK BADANIA

Komunikat prywatności silnie podnosił postrzeganą ochronę prywatności; efekt d=0,91 jest duży w praktycznym sensie różnic między warunkami.

Dowód ze źródła: "Privacy assurance increased perceived privacy protection, F(1, 764) = 159.30, p < 0.001, ηp² = 0.172, d = 0.91."
WYNIK BADANIA

Komunikat o granicach zawodowych podobnie silnie zwiększał świadomość granic; d=0,96.

Dowód ze źródła: "Professional-boundary warning increased boundary awareness, F(1, 764) = 176.40, p < 0.001, ηp² = 0.188, d = 0.96."
WYNIK BADANIA

Najwyższe skalibrowane zaufanie wystąpiło przy jednoczesnej obecności obu komunikatów.

Dowód ze źródła: "calibrated trust was highest when both cues were present."
WYNIK BADANIA

W modelu strukturalnym większa świadomość granic wiązała się z mniejszym ryzykiem nadmiernego polegania oraz większą intencją szukania profesjonalnej pomocy.

Dowód ze źródła: "boundary awareness was linked to lower overreliance risk and stronger professional help-seeking intention."

Dlaczego to jest ważne dla projektowania AI?

JAK TO CZYTAĆ

Bezpieczeństwo chatbota nie zależy wyłącznie od jakości generowanej odpowiedzi. Interfejs może sterować tym, jak użytkownik rozumie prywatność, granice kompetencji i właściwy sposób korzystania z narzędzia.

OGRANICZENIE

Granica jest jednak wyraźna: użytkownik czytający komunikat w eksperymencie to nie to samo co osoba korzystająca z AI w realnym kryzysie psychicznym.