GI-Radar 390: Agenten bei psychischen Krankheiten

Liebe Leserinnen und Leser,

in dieser Ausgabe geht es um das Thema Jugendschutz bei Chatbots, wie Sie eine sichere VPN-Verbindung aufsetzen, Urheberrechtsverletzungen und GEMA-Urteil, die Anerkennung von Onlinekursen und Handlungsempfehlungen bei Cyberangriffen auf Hochschulen. Im Thema im Fokus widmen wir uns der Frage, ob und wie virtuelle Anwendungen bei psychischen Problemen unterstützen können. In den GI-Mitteilungen weisen wir Sie auf die Ergebnisse unserer Mitgliederbefragung hin, bitten Sie noch einmal, sich an unseren Vorstands- und Präsidiumswahlen zu beteiligen und machen Sie auf unsere Rundumüberblicks-Präsentation zur GI im Mitgliederbereich aufmerksam. Im Fundstück stellen wir Ihnen eine Tetris-Variante zur Entspannung vor.

Wir wünschen Ihnen viel Spaß mit dieser Ausgabe.

auf gi-radar.de weiterlesen

KURZMITTEILUNGEN

Jugendschutz bei Chatbots mangelhaft (ZEIT). Dass sich Chatbots an das Gegenüber anpassen, macht einen Teil der Faszination dieser Tools aus. Allerdings hat sich herausgestellt, dass die Bots in einer Art und Weise reagieren können, die problematisches Verhalten und Gedanken bestärken. In einem konkreten Fall haben die Sicherheitsmaßnahmen bei suizidalem Verhalten nicht nur versagt, sondern das Tool hat den Jugendlichen sogar in seiner Intention bestärkt. Nun gehen die Eltern vor Gericht.  weiterlesen

Schutz durch und Lücken von VPN-Verbindungen (Spiegel). Wer im Netz unterwegs ist, möchte dies wahrscheinlich nicht ausgespäht wissen. Durch die Nutzung öffentlicher WLAN-Verbindungen gibt man jedoch einen Großteil seines Schutzes auf, und auch der heimische Router bietet keine Garantie für vertrauliches Surfen. Hier bietet sich die Installation eines VPN (Virtual Private Network) an. Was ein VPN leisten kann und was nicht und wo es anfällig ist, fasst ein Überblicksartikel zusammen.  weiterlesen

Urheberrechtsverletzungen durch Chatbot (Handelsblatt). Ein Münchner Gericht hat geurteilt, dass Chatbots Liedtexte nicht ohne Weiteres für ihr Training verwenden und ausspielen dürfen. Dadurch werde das Urheberrecht verletzt, und das Unternehmen sei für Schäden aus Rechtsverletzungen verantwortlich. Konkret ging es um Texte zeitgenössische Schlager, die Gema hatte geklagt.  weiterlesen

Onlinekurse ohne Zulassung zählen nicht (heise). Asynchrones Lernen auf Distanz ist praktisch. Folglich erfreuen sich Onlinekurse großer Beliebtheit. Sofern diese im beruflichen Kontext genutzt werden sollen, ist jedoch ein Gütesiegel sinnvoll. Ein Gericht hat nun entschieden, dass nicht nach dem Fernunterrichtsschutzgesetz (FernUSG) offiziell zugelassene Kurse gesetzlich nichtig sind. Die Branche ist empört.  weiterlesen

Cyberangriffe auf Hochschulen: Krisenpläne und Tipps (Forschung & Lehre). Immer wieder machen (nicht nur, aber auch) Hochschulen Schlagzeilen, wenn sie durch Cyberangriffe mitunter wochenlang lahmgelegt werden. Was es an Krisenplänen, Tipps und Tricks gibt, welche Ansprechstellen und welche Reaktionszeiten notwendig sind, hat das Institut für Hochschulentwicklung in Handlungsempfehlungen zusammengefasst.  weiterlesen

THEMA IM FOKUS

KI zur Förderung psychischer Gesundheit junger Erwachsener. Zunehmend gibt es Berichte über die Verwendung Künstlicher Intelligenz für psychotherapeutische Ansätze, etwa von ZDF heute oder Deutschlandfunk Kultur. Journalistische, aber auch andere Quellen, vornehmlich im Internet, beleuchten den Themenkomplex aus verschiedenen Blickwinkeln. An dieser Stelle soll ergänzend eine wissenschaftlich fundierte Einordnung helfen.

Psychische Erkrankungen gehören zu den weltweit häufigsten Gesundheitsproblemen. Laut einer Schätzung litten im Jahr 2019 von 2,516 Milliarden Menschen im Alter von fünf bis 24 Jahren 293 Millionen an mindestens einer psychischen Störung (JAMA Psychiatry). In Deutschland weisen je nach Studie 10–20 % der Kinder und Jugendlichen psychische Symptome auf (vgl. etwa Health Monitoring).Neben biologischen und sozialen Faktoren tragen insbesondere wirtschaftliche Sorgen, familiäre Konflikte, soziale Medien und ein wachsendes Leistungsdenken zu dieser Entwicklung bei (Psychiatry Research). Leistungsdruck, Selbstzweifel und Zukunftsängste prägen den Alltag etwa vieler Studierender oder Berufseinsteiger:innen. Gleichzeitig erschweren soziale Isolation und Schamgefühle den Zugang zu professioneller Hilfe. 

Parallel dazu haben sich über die Jahre digitale Gesundheitsangebote – von Teletherapie über Selbsthilfe-Apps bis zu Chatbots – rasant verbreitet. Diese Systeme gelten als niederschwellige, kostengünstige und stigmaneutrale Alternativen oder Ergänzungen zu klassischer Therapie und eröffnen neue Wege der psychischen Prävention und Unterstützung (BMC Psychiatry; JMIR Mental Health). Insbesondere KI-basierte Gesprächspartner (Conversational Agents, CAs, etwa in JMIR Mental Health) sind rund um die Uhr verfügbar und können anonyme Unterstützung bieten. 

CAs sind Programme, die mit Nutzenden in natürlicher Sprache interagieren. Ihr Ziel kann informativ, beratend oder therapeutisch sein. Seit dem frühen Chatbot ELIZA (Weizenbaum, 1966) hat sich diese Technologie jüngst durch maschinelles Lernen und Large Language Models (LLMs) erheblich weiterentwickelt. Aktuelle Systeme erlauben dynamische, kontextabhängige Dialoge und wirken zunehmend empathisch. 

Diese Kommunikationsformen bieten somit asynchrone, zeitsparende und bisweilen persönlichere Interaktion. Psychosoziale Beratungsstellen wie TelefonSeelsorge oder Nummer gegen Kummer berichten über einen deutlichen Anstieg textbasierter Kontakte – vor allem bei Personen zwischen 15 und 40 Jahren. 

Vor diesem Hintergrund stellen sich verschiedene Fragen, etwa welche Kommunikationsform – Schreiben oder Sprechen – für sensible Themen wie psychische Belastungen besonders geeignet ist, insbesondere in der Interaktion mit KI. In einer Online-Befragung mit 216 Menschen in Deutschland im Alter zwischen 18 und 27 Jahren gaben 82 % der Befragten an, bereits CAs zu verwenden; 17 % hatten sie gezielt bei depressiver Verstimmung oder Angst um Unterstützung gebeten. Personen mit höheren Angst- oder Belastungswerten zeigten eine deutlich größere Bereitschaft, sich an CAs zu wenden. 

Im Austausch mit Menschen bevorzugten 48 % das gesprochene Wort, 29 % kombinierten Sprechen und Schreiben, 19 % schrieben lieber. In der Interaktion mit KI-Systemen kehrte sich dieses Muster um: 46 % bevorzugten Schreiben, 16 % Sprechen, 11 % hatten keine Präferenz, 26 % wollten keine Kommunikation. 

Damit ist Schreiben der dominierende Kommunikationsmodus mit CAs. Insbesondere Personen mit erhöhter Angst oder psychischer Belastung empfanden das schriftliche Format als kontrollierter, anonymer und weniger bewertungsbelastet. Auch geschlechtsspezifische Unterschiede wurden sichtbar: 75 % der männlichen Befragten neigen dazu, Sorgen für sich zu behalten, während 52 % der Teilnehmerinnen eher den Austausch suchen. Gleichzeitig zeigen Männer eine höhere Bereitschaft, CAs zu nutzen – vermutlich, weil die technologische Distanz eine niedrigere Hemmschwelle bietet. Trotz dieser Offenheit bleibt das Vertrauen begrenzt: 44 % der Teilnehmenden würden einem CA keine persönlichen Sorgen anvertrauen. 

Solche Ergebnisse verdeutlichen einen grundlegenden Wandel im Ausdruck psychischer Belastungen. Während zwischenmenschliche Gespräche emotionaler und unmittelbarer sind, bietet die schriftliche Interaktion mit CAs einen geschützten Raum zur Selbstreflexion. Das Schreiben ermöglicht, Gedanken zu ordnen und Emotionen in eigenem Tempo zu formulieren – ein Vorteil für Menschen mit sozialer Angst oder geringer Resilienz. 

Die Kombination aus Anonymität, Verfügbarkeit und fehlender Bewertung macht KI-basierte Systeme besonders attraktiv für jene, die Schwellenängste gegenüber Therapie oder Beratung haben. Dennoch bleibt die Nutzung von CAs ambivalent: Sie können keine therapeutische Beziehung ersetzen, sondern lediglich überbrücken oder vorbereiten. Ihre Wirksamkeit hängt stark von Transparenz, Datenschutz und technischer Qualität ab. 

Die Entwicklung birgt jedoch auch Risiken. Fehlende Transparenz, algorithmische Verzerrungen und unklare Verantwortlichkeiten können zu Fehldiagnosen oder Vertrauensverlust führen. Entsprechend ist die Notwendigkeit ethischer Leitlinien zu betonen und Prinzipien wie Fairness und Transparenz als Voraussetzung für einen verantwortungsvollen Einsatz in der mentalen Gesundheitsförderung. 

Schwerpunkte für die Gestaltung zukünftiger KI-basierter Unterstützungsangebote werden bereits diskutiert. Diese sollten liegen in: 

1. User-Centered Design: Systeme sollten Schreibinteraktionen priorisieren, aber flexible Wechsel zwischen Text- und Sprachmodus erlauben;

2. Empathische Kommunikation: Sprachmodelle müssen so trainiert werden, dass sie emotionale Sensibilität zeigen, ohne den Eindruck echter therapeutischer Kompetenz zu erwecken;

3. Gender-sensitive Ansätze: Da junge Männer seltener professionelle menschliche Hilfe suchen, könnten CAs gezielt niedrigschwellige Einstiegsformate bieten, um Suizidrisiken zu reduzieren;

4. Integration in Versorgungssysteme: KI-basierte Tools können Therapieplätze nicht ersetzen, aber Wartezeiten überbrücken und präventive Angebote ergänzen. (Psychotherapie)

5. Und nicht zuletzt Transparenz und Ethik: Nutzende müssen jederzeit erkennen können, dass sie mit einer Maschine interagieren. Täuschung oder anthropomorphes Framing sind zu vermeiden. (ACM CHI)

Die Forschung sollte die Langzeitwirkung von CAs auf psychisches Wohlbefinden untersuchen und dabei Fragen der Ethik, Datensicherheit und Verantwortung in den Mittelpunkt stellen. Besonders relevant ist eine differenzierte Betrachtung verschiedener Alters- und Geschlechtergruppen sowie die Integration von KI-gestützten Tools in klinische und präventive Versorgungsketten. 

Untersuchungen zur Akzeptanz auch auf Seiten der Therapeut:innen könnten weiteren Mehrwert und Anwendungsmöglichkeiten liefern. Fachkräfte müssen in die Entwicklung einbezogen werden, Aufklärung und Weiterbildung sind essenziell für die Nutzung. Sofern eine Zulassung als DiGA (Digitale Gesundheitsanwendung) vorzusehen ist, ergeben sich weitere Implikationen.

Langfristig könnten CAs zu Brücken zwischen individueller Selbsthilfe und professioneller Therapie werden – vorausgesetzt, sie bleiben transparent, empathisch und menschenzentriert gestaltet. KI-basierte Gesprächssysteme bieten damit ein großes Potenzial für die psychische Gesundheitsförderung, sofern ihr Einsatz verantwortungsvoll reguliert und in menschliche Betreuungskontexte eingebettet wird. Junge Erwachsene in Deutschland stehen digitalen Gesprächspartnern grundsätzlich offen gegenüber, bevorzugen dabei schriftliche Kommunikation eindeutig. Schreiben schafft Distanz, Kontrolle und Selbstreflexion – essenzielle Bedingungen, um über sensible Themen wie Angst, Trauer oder Depression zu sprechen. 

Diesen Text haben Christina Lukas, Rüdiger Breitschwerdt (beide Wilhelm Büchner Hochschule) und Zeynep Tuncer, DHBW Mannheim und ehemelige Sprecherin der Fachgruppe Medieninformatik des GI-Fachbereichs Mensch-Computer-Interaktion, beigesteuert. Haben auch Sie ein Thema im Fokus, das Sie interessiert? Wir freuen uns auf Ihre Ideen!

GI-MELDUNGEN

Zahlen, Daten, Fakten: unsere Mitgliederumfrage. Im Sommer hatten wir Sie um Ihre Rückmeldung bezüglich Ihrer Mitgliedschaft in der GI und der Ausrichtung unseres Fachgesellschaft gebeten. Weit über 1000 Mitglieder haben unsere Fragen beantwortet, wir haben das umfangreiche Material gesichtet und viele interessante Erkenntnisse gewonnen. Wenn Sie sich für die Ergebnisse interessieren, finden Sie diese im Mitgliederbereich.  weiterlesen

GI-Wahlen zu Vorstand und Präsidium. Noch drei Wochen läuft unsere Wahl zu Vorstand und Präsidium der Gesellschaft für Informatik. Über 2000 Mitglieder haben bereits abgestimmt, wer die Geschicke der GI in den kommenden zwei, beziehungsweise drei Jahren mitbestimmen soll. Vier Engagierte wünschen sich Ihre Legitimation als Vorstandsmitglied, für das Präsidium können Sie aus 15 Interessierten sechs Personen auswählen, die Ihre Lieblingsthemen vertreten möchten.  weiterlesen

Kennen Sie die GI? Wahrscheinlich. Oder doch nicht so genau? Informationen gefällig? Viele unserer Mitglieder sind schon sehr lange dabei. Aber wir haben auch pro Jahr einige 100 Neumitglieder, die wir zweimal im Jahr live in die GI einführen. In unserem so genannten "Onboarding" geben wir einen kurzen Überblick über unsere Themen und die Dinge, die Mitglieder innerhalb der GI bewegen können, darüber, wie man seine Daten verwaltet und wo man mitmachen kann. Wenn Sie das alles wissen: umso besser! Wenn nicht, finden Sie unsere Präsentation im Mitgliederbereich. Vielleicht entdecken Sie sogar Neues in Ihrer GI!  weiterlesen

Kennen Sie eigentlich den GI-Pressespiegel? Dort sammeln wir die Berichterstattung über unsere Fachgesellschaft in Zeitungs-, Radio- und Fernsehbeiträgen. Schauen Sie rein, es gibt da immer wieder Neues oder auch ältere Fundstücke.

FUNDSTÜCK

Lazy Tetris. Die Weihnachtszeit steht unmittelbar bevor. Für viele ist das die stressigste Zeit im Jahr. Zur Entspannung empfehlen wir Ihnen – dieses Mal kurz und knapp – eine Variante von Tetris, die ganz ohne Zeitdruck funktioniert.   Zum Fundstück (lazytetris.com)

Welches Fundstück hat Sie zuletzt inspiriert? Senden Sie uns Ihre Ideen!

Dies war Ausgabe 390 des GI-Radars vom 14. November 2025. Zusammengestellt hat sie Dominik Herrmann, der gerade zu viel Lazy Tetris gespielt hat und sich nun um so mehr beeilen muss. Die Kurzmitteilungen und die GI-Meldungen hat GI-Geschäftsführerin Cornelia Winter zusammengetragen. Das nächste Radar erscheint am 28. November.

Im GI-Radar berichten wir alle zwei Wochen über ausgewählte Informatik-Themen. Wir sind sehr an Ihrer Meinung interessiert. Für Anregungen und Kritik haben wir ein offenes Ohr, entweder per E-Mail (redaktion@gi-radar.de) oder über das Feedback-Formular bei SurveyMonkey.