„ChatGPT-induzierte Psychosen“ bei Skeptics in the Pub Köln

Kommentare

3 Kommentare zu „„ChatGPT-induzierte Psychosen“ bei Skeptics in the Pub Köln“

1. Stella

   21. Mai 2026, 17:41

   Ganz heißes Eisen. 😉
   Ich schaue mir aber erst heute Abend in Ruhe das Video an, bevor ich meinen Senf dazu abgebe. Vielleicht taugt das ja mehr als das, was man sonst so im Internet und von irgendwelchen Psycho-Leuten dazu findet.
2. Stella

   22. Mai 2026, 0:19

   Ich habe mir den Vortrag angeschaut.

   Erst einmal Respekt dafür, dass sich Georg Kammerer an dieses heikle Thema herangewagt hat, obwohl er selbst keine Fachperson für psychische Gesundheit ist. Es gab viele Punkte, die ich durchaus nachvollziehbar fand und bei denen ich mitgehen konnte. Einige Aspekte empfand ich allerdings als weniger gelungen.

   Vor allem eines:

   Am Ende des Vortrags blieb bei mir der Eindruck zurück, dass der eigentliche Kern zunehmend verschwunden ist.

   Je mehr technische Grundlagen, psychologische Dynamiken, spirituelle Narrative, Halluzinationen, Kontextfenster und Sicherheitsprobleme miteinander verwoben wurden, desto schwieriger wurde es, klar zwischen realen Risiken, spekulativen Deutungen und medialer Dramatisierung zu unterscheiden.

   Das Thema ist deutlich komplexer, als es sich hier in einem kurzen Kommentar sinnvoll(!) darstellen lässt. Ich werde mich deshalb in den nächsten Tagen noch ausführlicher und differenzierter damit beschäftigen.
3. Sebastian

   24. Mai 2026, 13:32

   @Stella

   Falls du einen Artikel dazu schreiben solltest, bitte einen Link zu deinen Ausführungen!

   Habe bisher nur wenig zu dem Thema gelesen. In einer Studie wurde als Basis gesetzt, wie gut die Aussagen einer KI als empathisch eingestuft wurden. Erst in Folgestudien wurde überhaupt daran gedacht sowas ähnliches wie einen Wirkungsgrad zu berücksichtigen.

   Die weltweit 22 Fälle mit 34 Toten empfinde ich noch als wenig. Das kann man bei „kontrollierten“ Untersuchungen auch irgendwie hinbekommen. Irgendwo hatte ich mal etwas von Versuchen gelesen, Anorexie mit Hypnose zu therapieren … unter 14 Proband:innen gab es am Ende zwei Tote.

   Ich denke aktuell kann man es wirklich nicht gesichert einordnen, wie es auch am Anfang gesagt wurde. Die technischen Grundlagen sind eine Erklärung dazu, warum es zu Problemen kommt.

   Die genannten Negativbeispiele tauchen in den jetzigen Versionen vielleicht gar nicht mehr auf, oder erst deutlich später in längeren Gesprächen.

   Dass Grok komische Ergebnisses ausspuckt, lässt sich auch dadurch erklären, dass als Trainingsdaten die Einträge von X genommen werden. Einfache Informatiker-Regel „Shit in – Shit out“.