AI Chatbots Linked To Increased Self-Harm Thoughts
The German Depression Aid Foundation reported that two-thirds of users feel a sense of closeness to AI chatbots. However, the foundation noted that in more than half of the cases involving AI contact, users experienced increased thoughts of self-harm and suicide. Professor Ulrich Heger, chairman of the foundation, called for large-scale studies to weigh the benefits and risks of AI. The report involved 2,500 volunteers aged 16 to 39. Two-thirds of users reported feeling a sense of closeness or connection to the chatbot. The foundation noted that while AI is perceived as helpful, these mental health risks are concerning. Heger stated that current AI models are not suitable for diagnosing or treating depression without medical supervision. The findings suggest a need for immediate research into the psychological impact of AI interactions.
Topics
Developing
- 863d Lorem ipsum dolor sit amet, consectetur adipiscing elit, sed do eiusmod tempor incididunt ut labore.
- 863d Duis aute irure dolor in reprehenderit in voluptate velit esse cillum dolore eu fugiat nulla pariatur.
- 863d Excepteur sint occaecat cupidatat non proident, sunt in culpa qui officia deserunt mollit anim id est.
- 862d Sed ut perspiciatis unde omnis iste natus error sit voluptatem accusantium doloremque laudantium.
Sources · 7 independent
“nach den KI-Kontakten in mehr als der Hälfte der Fälle verstärkt Gedanken an Selbstverletzung und Suizid auftraten.”
“Dabei wird die KI als hilfreich erlebt, zwei Drittel der Nutzerinnen und Nutzer empfinden gegenüber dem Chatboard sogar Nähe und Verbundenheit. Bedenklich ist aus Sicht der Stiftung deutsche Depressionshilfe allerdings, dass nach den KI-Kontakten in mehr als der Hälfte der Fälle verstärkt Gedanken an Selbstverletzung und Suizid auftraten.”
“AI-Kontakten in mehr als der Hälfte der Fälle verstärkt Gedanken an Selbstverletzung und Suizid auftraten. Prof. Ulrich Heger, Vorstandsvorsitzender der Depressionshilfe, fordert rasch große Studien”
“Im Moment seien KI-Modelle keinesfalls geeignet, um Depressionen ohne ärztliche Begleitung zu diagnostizieren oder zu behandeln.”
“Mehr als der Hälfte der Fälle verstärkt Gedanken an Selbstverletzung und Suizid auftraten. Prof. Ulrich Heger, Vorstandsvorsitzender der Depressionshilfe, fordert rasch große Studien”
“Ein Beitrag des Journal of Health Communication aus dem Jahr 2024 weist daraufhin, dass Jugendliche, die regelmäßig Musik mit Drogendreferenzen hören, ein um bis zu 40 Prozent höheres Risiko haben, selbst Rauschmittel auszuprobieren.”
“nach den KI-Kontakten in mehr als der Hälfte der Fälle verstärkt Gedanken an Selbstverletzung und Suizid auftraten. Prof. Ulrich Hegel, Vorstandsvorsitzender der Depressionshilfe, fordert rasch große Studien.”
“nach den KI-Kontakten in mehr als der Hälfte der Fälle verstärkt Gedanken an Selbstverletzung und Suizid auftraten. Im Moment seien KI-Modelle keinesfalls geeignet, um Depressionen ohne ärztliche Begleitung zu diagnostizieren oder zu behandeln.”
“nach den KI-Kontakten in mehr als der Hälfte der Fälle verstärkt Gedanken an Selbstverletzung und Suizid auftraten.”
Unlock the full story
Get a Pro subscription or above to see the live story progression and the full list of independent sources confirming each event as they happen.
Log in to upgrade