GI-Radar 373: Digitale Gewalt

Liebe Leserinnen und Leser,

in dieser Ausgabe geht es um Sprachmodelle und deren Datenschutz(un)freundlichkeit, darum, warum in Deutschland politisch noch nicht online gewählt wird, wie man sich beim Dating in die Nesseln setzt, dass Körpertracking durchaus unsicher sein kann und ob Gesichtserkennung Gewalt verhindert. Das Thema im Fokus widmet sich Formen von digitaler Gewalt. In den GI-Mitteilungen stellen wir Ihnen unsere neue Leitlinie für Forschungssoftware vor, zeigen Ihnen, was die GI neben dem tollen Netzwerk alles bietet und weisen Sie auf den Balzert-Preis hin. Im Fundstück können Sie live verfolgen, welche Social Media-Inhalte der Parteien für den Bundestagswahlkampf mittels KI generiert werden.

Wir wünschen Ihnen viel Spaß mit dieser Ausgabe.

auf gi-radar.de weiterlesen

KURZMITTEILUNGEN

Verbote gegen DeepSeek (Tagesschau). Als die KI-App DeepSeek vorgestellt wurde, war die IT-Welt im Aufruhr. Techaktien stürzen ab und ganz neue Möglichkeiten schienen sich zu bieten. Nun haben erste Länder die App verboten und auch in Deutschland gibt es Bedenken bezüglich des Datenschutzes.  weiterlesen

Chancen auf politische Onlinewahlen in Deutschland? Eher nicht! (Golem). Am kommenden Sonntag steht die Bundestagswahl an und schon jetzt gibt es Kritik, dass die Wahl zu kurzfristig angesetzt worden sei und deshalb insbesondere Wahlberechtigte im Ausland nicht wählen können. Warum wählt Deutschland nicht online, mag man sich da fragen – in Estland ist dies doch seit langem Standard. Dennoch gibt es in Deutschland wichtige Faktoren, die eine politische Onlinewahl verhindern.  weiterlesen

KI „erzieht“ Männer auf Datingplattformen (heise). Das Kennenlernen einer potenziellen Liebe wird im realen Leben immer schwieriger. Viele Menschen nutzen deswegen mittlerweile Datingplattformen. Während es von Angesicht zu Angesicht häufig Hemmschwellen gibt, wirken diese im virtuellen Raum deutlich weniger. Ein Algorithmus will nun vornehmlich Männer warnen, wenn sie zu früh sehr weit gehen.  weiterlesen

Cybersicherheit lässt bei Wearables häufig zu wünschen übrig (ZDNET). Viele Menschen nutzen so genannte „Wearables“, also Sensoren, mit denen sich medizinische Daten erfassen und analysieren lassen. Dies geht unter anderem von Schlafgewohnheiten über Blutzucker bis hin zu Herzschlag und Puls. Mitunter sind diese Daten sensibler Natur und besonders schutzwürdig. Häufig jedoch wird die Sicherheit bei diesen Werkzeugen vernachlässigt. Es ist also Vorsicht geboten, was man wie nutzt.  weiterlesen

Gesichtserkennung und Videoüberwachung: Einfluss auf die Sicherheit im öffentlichen Raum? (Zeit). Das Thema Gesichtserkennung spaltet. Nun wurde untersucht, ob durch den Einsatz von mehr Videoüberwachung und den Einsatz von Gesichtserkennungssoftware das Leben im öffentlichen Raum sicherer wird. Unzweifelhaft ist die Aufklärungsrate mit entsprechender Technologie höher. Verhindern lassen sich Delikte jedoch mit Technik meistens nicht.  weiterlesen

THEMA IM FOKUS

Digitale Gewalt gegen Aktivist:innen: Risiken und mögliche Handlungsmöglichkeiten. Seit den frühen 2010er Jahren, insbesondere während der Proteste in Ägypten und Tunesien, wurde die Rolle von Informations- und Kommunikationstechnologien (IKT) für aktivistische Tätigkeiten immer wichtiger. Dies zeigt sich beispielsweise an der Nutzung sozialer Medien durch Aktivist:innen in Myanmar, die nach dem Militärputsch 2021 internationale Aufmerksamkeit erlangen wollten. IKTs bieten zahlreiche Vorteile wie Kosteneinsparungen, Zugang zu alternativen Informationsquellen und die Demokratisierung politischer Beteiligung. Jedoch sind Aktivist:innen mit vielfältigen Herausforderungen und unterschiedlichen Formen von digitaler Gewalt konfrontiert, darunter Internetabschaltungen, Hassrede und Zensurmaßnahmen. Auch ist ein Anstieg digitaler Überwachung, Propaganda und der Manipulation von Informationen zu verzeichnen. Die zunehmende Verbreitung digitaler Gewalt stellt für Aktivist:innen und soziale Bewegungen ein signifikantes Problem dar, was dazu führt, dass sich immer mehr Aktivist:innen selbst zensieren und sich aus den Online-Räumen zurückziehen. 

Zunahme digitaler Gewalt gegen Aktivist:innen. Digitale Gewalt bezeichnet Handlungen, die im digitalen Raum stattfinden und durch Technik entweder unterstützt oder überhaupt erst ermöglicht werden. Als Beispiele für derartige Handlungen können Hassreden, die Verbreitung falscher Informationen, Zensur oder auch das Veröffentlichen privater Daten von Personen (Doxing) genannt werden. Auch relativ neue Phänomene wie Deepfakes, die durch KI ermöglicht werden, fallen in diese Kategorie. Es kristallisiert sich zunehmend heraus, dass die Grenzen zwischen digitaler Gewalt und physischer, direkter Gewalt zunehmend verschwimmen. Dies zeigt sich darin, dass digitale Gewalt häufig ein Vorläufer vor direkter, physischer Gewalt darstellt. Empirische Untersuchungen zeigen, dass solche Übergriffe nicht nur prominente Aktivist:innen betreffen, sondern auch Menschen, die vermeintlich „kontroverse“ Themen wie Umwelt- oder Frauenrechte ansprechen, insbesondere in Ländern, in denen solche Themen stark umstritten sind. Fallstudien aus Ländern wie Myanmar, Kamerun und Kolumbien zeigen, dass digitale Gewalt weit verbreitet ist und vor allem oft Indigene, schwarze und weibliche Aktivist:innen betrifft. Die Folgen digitaler Gewalt reichen von psychischen Belastungen bis hin zu einem Rückzug aus sozialen Netzwerken (chilling effect), was häufig das Ziel der Täter:innen ist. Ein weiterer Aspekt, der in diesem Zusammenhang zu berücksichtigen ist, ist die Tatsache, dass viele der betroffenen Aktivist:innen nicht über die Identität der Täter:innen informiert sind. Zudem fehlt es in vielen Ländern an einem rechtlichen Rahmen, der solche Taten verfolgt. Diese Entwicklungen verdeutlichen, dass digitale Gewalt nicht als ein isoliertes Phänomen betrachtet werden sollte, sondern als ein Teil eines größeren, komplexen Zusammenhangs. 

Aktivist:innen setzen verschiedene Strategien ein, um sich vor digitaler Gewalt zu schützen. Bei direkten Bedrohungen und Hassrede werden Nachrichten häufig gelöscht, ignoriert oder blockiert. In Fällen von Internetabschaltungen wird auf VPN oder vereinzelt auf alternative Applikationen wie Briar zurückgegriffen, welches eine sichere Kommunikation über Bluetooth ermöglicht. Im Gegensatz zu vielen Empfehlungen von IT-Sicherheitsexpert:innen nutzen nur wenige der befragten Aktivist:innen Sicherheitsmaßnahmen wie Verschlüsselung, Tor, oder Passwort-Manager. Diese Diskrepanz zwischen den tatsächlichen Praktiken der Aktivist:innen und den empfohlenen Sicherheitsmaßnahmen sollte in zukünftigen Untersuchungen verstärkt berücksichtigt werden. Zu diesem Zweck sollte untersucht werden, ob Aktivist:innen die verfügbaren Tools und Funktionen kennen, aber aus bestimmten Gründen nicht nutzen, und welche Faktoren diese Entscheidung beeinflussen. Die gewonnenen Erkenntnisse können (IT) Expert:innen dabei unterstützen, ihre Empfehlungen zu optimieren, sodass diese praktischer und zugänglicher für Aktivist:innen werden. Empfehlungen zu Sicherheitsmaßnahmen sollten demnach auf realistischen, umsetzbaren und effektiven Prinzipien basieren. Darüber hinaus ist es von entscheidender Bedeutung, dass Aktivist:innen die Vor- und Nachteile bestimmter Apps und Funktionen verstehen, um fundierte Entscheidungen zu treffen und deren Stärken und Schwächen selbst einschätzen zu können. Hierfür benötigen sie ein tieferes technisches Verständnis sowie klar verständliche, kontextuell angepasste Schulungsmaterialien.

Handlungsempfehlungen: Schutz und Unterstützung von Aktivist:innen. Um Aktivist:innen effektiver vor digitaler Gewalt zu schützen, ist ein ganzheitlicher Ansatz erforderlich, der technische, rechtliche und bildungsbezogene Maßnahmen integriert. Eine engere Zusammenarbeit zwischen politischen Institutionen, IT Expert:innen und Aktivist:innen selbst ist erforderlich, um nachhaltige Lösungen zu finden und den digitalen Raum als sicheren Ort für soziale Bewegungen zu erhalten.

1. Technische Unterstützung und digitale Sicherheit: Angesichts der zunehmenden digitalen Gewalt ist die Entwicklung spezifischer Technologien zur Unterstützung von Aktivist:innen, beispielsweise im Falle von Internet-Shutdowns, unabdingbar. Die Implementierung solcher Ansätze sollte daher forciert und auf lokale Gegebenheiten abgestimmt werden. Unterstützungsangebote könnten auch digitale Sicherheitstrainings umfassen. Um die Bedürfnisse der Zielgruppe adäquat identifizieren zu können, sollten qualitative Erhebungen durchgeführt werden, die dynamische und variierende Kontexte erfassen, verstehen und in die Technikentwicklung einbinden. Lösungsansätze sollten daher in enger Zusammenarbeit mit den Betroffenen entwickelt werden, um ihre individuellen Bedürfnisse und lokalen Kontexte zu berücksichtigen. Die Förderung einer nutzerzentrierten Entwicklung digitaler Technologien ist dabei von entscheidender Bedeutung.

2. Resilienz stärken: Die Stärkung der digitalen Kompetenz und Resilienz von Aktivist:innen durch Schulungen und den Aufbau sicherer Netzwerke ist von essenzieller Bedeutung. Darüber hinaus könnten Maßnahmen zur Unterstützung der psychischen Gesundheit und der Bewältigung emotionaler Belastungen von Vorteil sein.

3. Rechtliche Rahmenbedingungen verbessern: Die Implementierung umfassender gesetzlicher Regelungen zur Kriminalisierung digitaler Gewalt sowie zur Verfolgung der Täter:innen erweist sich als unabdingbar. Auch Deutschland sollte sich international stärker für die Durchsetzung solcher rechtlichen Rahmenwerke einsetzen und digitale Gewalt als nicht zu vernachlässigten Bestandteil von Gewalt verstehen. 

Die Auseinandersetzung mit digitaler Gewalt gegen Aktivist:innen ist von entscheidender Bedeutung, da diese nicht nur ihre individuelle Sicherheit gefährdet, sondern auch die aktive Teilnahme an der Gesellschaft und demokratischen Prozessen einschränkt. Die Informatik-Community kann hierbei eine Schlüsselrolle spielen, indem sie sichere digitale Räume schafft, effektive Schutzmaßnahmen entwickelt und zugängliche Bildungsressourcen bereitstellt, um Aktivist:innen zu unterstützen und ihre digitale Teilnahme zu ermöglichen.

Teile dieses Artikels sind in ähnlicher Fassung als TraCe Policy Brief und als Comic erschienen. Der Comic stellt Möglichkeiten vor, wie sich Aktivist:innen in Zeiten von Protest und Unterdrückung online schützen können. Beigesteuert wurde der Beitrag von Laura Gianna Guntrum und Prof. Dr. Dr. Christian Reuter. Beide forschen an der Technischen Universität Darmstadt am Bereich Wissenschaft und Technik für Frieden und Sicherheit (PEASEC) im Rahmen von TraCe (Forschungszentrum „Transformations of Political Violence“). 

GI-MELDUNGEN

Leitlinien für Forschungsoftware. Wer kennt es nicht, man sitzt an seiner Forschung und denkt, jetzt wäre ein bisschen Software sinnvoll. Dann entwickelt man sie und stellt fest, so einfach ist es nicht. Die GI hat in Zusammenarbeit mit deRSE Leitlinien entwickelt, wie man gute Forschungssoftware schreibt. Das Präsidium hat diese Leitlinien in seiner letzten Sitzung goutiert und veröffentlicht.  weiterlesen

Mehrwert der GI-Mitgliedschaft: Als Mitglied profitieren Sie in erster Linie von unseren Netzwerken. Darüber hinaus bieten wir Ihnen aber diverse Vergünstigungen an, für Fachzeitschriften, bei Doppelmitgliedschaften in anderen Vereinigungen, auf Tagungen und für Hotels, Bahnfahrkarten und Mietwagen. Schauen Sie sich doch unsere Liste einmal an.  weiterlesen

Balzert-Preis ausgeschrieben. Haben Sie eine tolle Idee für Digitale Didaktik gehabt? Ein besonderes Konzept entwickelt? Ein spannendes Buch geschrieben? Dann können Sie sich bei uns um den Balzert-Preis für Digitale Didaktik bewerben, der von Helmut und Heide Balzert gestiftet worden, nun wieder ausgeschrieben und mit 10.000 Euro dotiert ist.  weiterlesen

Kennen Sie eigentlich den GI-Pressespiegel? Dort sammeln wir die Berichterstattung über unsere Fachgesellschaft in Zeitungs-, Radio- und Fernsehbeiträgen. Schauen Sie rein, es gibt da immer wieder Neues oder auch ältere Fundstücke.

FUNDSTÜCK

KI-Wahl-Tracker. Die GI versteht sich als neutrale Fachgesellschaft, die sich in erster Linie zu fachlichen Themen äußert. Der derzeit laufende Bundestagswahlkampf macht es jedoch auch der GI schwer, politische Instrumente und Entwicklungen zu ignorieren – zumal unsere Disziplin und deren Technik eine immer größere Rolle im Wahlkampf spielt. Fakenews, KI-generiert Inhalte oder verfremdete Bilder sind immer wieder Thema im Wahlkampf. Verschiedene Hochschulen haben sich nun zusammengeschlossen und einen Tracker für KI-generierte Inhalte im Wahlkampf entwickelt. Hier kann man nachschauen, welche Parteien am häufigsten KI-generierte Inhalte veröffentlichen, inwieweit transparent damit umgegangen wird, von wem die Inhalte stammen und was es an Bildern und Texten gibt. Der Tracker läuft in Echtzeit, hier lassen sich also wahrscheinlich auch bis Sonntag noch Veränderungen beobachten.  Zum Fundstück (campaigntracker.de)

Welches Fundstück hat Sie zuletzt inspiriert? Senden Sie uns Ihre Ideen!

Dies war Ausgabe 373 des GI-Radars vom 21.02.2025. Zusammengestellt hat diese Ausgabe Dominik Herrmann. GI-Geschäftsführerin Cornelia Winter hat die Mitteilungen und Meldungen zusammengetragen. Wir verabschieden uns nun in eine kurze Karnevalspause. Das nächste Radar erscheint daher erst am 21. März.

Im GI-Radar berichten wir alle zwei Wochen über ausgewählte Informatik-Themen. Wir sind sehr an Ihrer Meinung interessiert. Für Anregungen und Kritik haben wir ein offenes Ohr, entweder per E-Mail (redaktion@gi-radar.de) oder über das Feedback-Formular bei SurveyMonkey. Links und Texte können Sie uns auch via X unter @informatikradar zukommen lassen.