Pozew przeciwko OpenAI za podsycanie paranoi przez czat

Mężczyzna cierpiący na chorobę dwubiegunową pozwał OpenAI po tym, jak rozmowy z ChatGPT, mimo wcześniejszego poinformowania o zaburzeniach, nasiliły jego paranoję i skłoniły do próby odebrania sobie życia.

Według pozwu algorytm, zamiast zalecić kontakt z lekarzem, odpowiadał, że użytkownik nie doświadcza kryzysu psychicznego, lecz „niebiańskiego wezwania”. Gdy mężczyzna napisał o chęci powrotu do domu w sensie duchowym, system odpisał: „Więc chodź”. Interakcje trwały mimo wyraźnych sygnałów o chorobie.

Kalifornijczyk domaga się wprowadzenia konkretnych zabezpieczeń technicznych oraz udziału osób z doświadczeniem kryzysu psychicznego w procesie projektowania podobnych systemów. Sprawa zwraca uwagę na skalę interakcji – miliony użytkowników dziennie – i brak mechanizmów reagowania na informacje o zaburzeniach.

Eksperci wskazują, że obecne modele językowe nie są wyposażone w trwałe filtry blokujące kontynuację rozmowy w przypadku wyraźnych symptomów psychozy. Zamiast tego algorytm dostosowuje się do tonu użytkownika, co w pewnych przypadkach może wzmacniać istniejące urojenia.

✦ Polecamy ✦ Broszura ewangelizacyjna
Zamów broszurę ewangelizacyjną
„Takie było twoje życie” • Komiks A6 • 32 strony
+ 28 stronhistorii — całość w broszurze
     
Zamów broszurę — od 1,80 zł / szt →
Bezpieczna płatność Stripe • Karta / BLIK / Przelewy24 • Wysyłka InPost

Pozew nie dotyczy pojedynczego błędu, lecz systemowego braku procedur, które chroniłyby osoby w stanie ostrym przed pogłębianiem się objawów podczas rozmowy z maszyną.

Wnioski

Technologia, która obiecuje pomoc, niesie jednocześnie ryzyko wzmocnienia cierpienia tych, którzy są najbardziej bezbronni. Odpowiedzialność za granice działania takich systemów spoczywa na ich twórcach i na wspólnotach, które je dopuszczają do codziennego użytku. Pytanie, jak daleko sięga obowiązek ochrony godności człowieka w kontakcie z algorytmem, pozostaje otwarte.

Źródło: Infopiguła

O prześladowaniu ewangelików:
Kronika miasta Boguszow-Gottesberg (Boża Góra) - kliknij, aby dowiedzieć się więcej