GI-Radar 370: Desinformation

Liebe Leserinnen und Leser,

herzlich willkommen im neuen Jahr – nunja, so neu ist es gar nicht mehr: 3% davon haben wir schon wieder geschafft. In dieser Ausgabe geht es um die Architektur von Computerchips, der Schaden, den Deepfake-Videos anrichten und das Voice-Cloning. Das Thema im Fokus behandelt das angesichts des anlaufenden Wahlkampfs äußerst relevante Thema „Desinformation“. In den GI-Meldungen weisen wir Sie auf unsere neu erschienene .inf hin, rufen Sie auf, uns potenzielle GI-Fellows zu nennen und wollen Ihnen unser Informatik Festival schmackhaft machen. Unser Fundstück macht Physik erlebbar: Es geht um unseren treuen Trabanten, den Mond.

Wir wünschen Ihnen viel Spaß mit dieser Ausgabe.

auf gi-radar.de weiterlesen

KURZMITTEILUNGEN

Computerchips funktionieren wie eine Stadt (ZEIT). Computerchips werden immer kleiner, immer schneller und im besten Falle auch immer energiesparender. Wie so ein Chip überhaupt arbeitet und aussieht, erklärt einer der Entwickler, der in einem Chip U-Bahnen, Straßen, Helikopter und Menschen entdeckt.  weiterlesen

Was Deepfake-Videos anrichten (Spiegel). Zunehmend werden im Netz KI-generierte Pornovideos von bekannten Persönlichkeiten veröffentlicht. An die Hintermänner heranzukommen, ist unglaublich schwer. In einer Reportage wird dies versucht.  weiterlesen

Voice-Cloning: Geburtstagsständchen von Frank Zander? (SZ). Bereits vor Jahrzehnten konnte man bei seinem Popstar ein personalisiertes Geburtstagslied bestellen, damals noch auf CD. Mittlerweile wird aus den Stimmen berühmter Persönlichkeiten alles Mögliche gemacht. Ob dies nur schlecht ist? Eine interessante Betrachtung.  weiterlesen

THEMA IM FOKUS

Grauzonen des Wahrheitsgehalts: Wie Technologie im Umgang mit Desinformation unterstützen kann. Soziale Netzwerke sind für in der Politik Aktive zu einem unverzichtbaren Werkzeug für die Kommunikation mit der Gesellschaft geworden. Durch hohe Geschwindigkeit und (vermeintliche) Anonymität begünstigen soziale Netzwerke aber auch die Verbreitung von absichtlich irreführenden Desinformationen und unabsichtlich irreführenden Fehlinformationen. Die Folgen: Manipulierte Wahlen, Polarisierungen etwa in Gesundheitsfragen und damit einhergehend auch gesundheitliche Folgen für Einzelne. Im Kontext der U.S.-Wahl im Jahre 2020 zeigten sich die Konsequenzen gezielter Fehlinformationen in Form des Sturms auf das Kapitol. Auch die jüngsten U.S.-Wahlen waren im Vorfeld durch die Erwartung gezielter Desinformation aus dem In- und Ausland geprägt.

Wie kann Desinformation und Fehlinformation technisch adressiert werden? Fehl- und Desinformationen sind oftmals durch Graubereiche geprägt. So enthalten sie in der Regel nicht nur falsche Informationen, sondern setzen z.B. wahre Informationen in den falschen Kontext. Dies ist beispielsweise in Form von Bildmaterial zu Militärparaden zu beobachten, welches mit aktuellen Kriegen in den falschen Zusammenhang gebracht wird.

Neben Maßnahmen wie der Stärkung von Medienkompetenz stellen technische Ansätze eine ergänzende Intervention gegen den Einfluss solcher Manipulationen dar. So bestehen Bestrebungen, die problematischen Inhalte automatisiert zu detektieren. Doch was ist „problematisch“? Die Forschung steht vor folgenden Herausforderungen: Multimodalität (d. h. eine komplexe Kombination von Text, Audio und Video), Mischungen aus wahren und falschen Informationen, der Verantwortlichkeit für die Datensätze zum Trainieren der Programme zur automatischen Erkennung, der Detektion, von manipulativen Inhalten.

Neben der Detektion bestehen technikgestützte Bestrebungen zu darauffolgenden Entscheidungen, was mit erfolgreich detektierten Inhalten geschehen soll. Insbesondere durch die Graubereiche des Wahrheitsgehalts ist das Löschen aller potenzieller Desinformationen oder das binäre Markieren als „wahr“ oder „falsch“ ohne Erklärungen kritisch zu betrachten, da es zum Abwandern zu weniger beaufsichtigten Plattformen und zu generellen Widerstandsreaktionen führt.

Wie gelingt eine Adressierung von Graubereichen? Studien zeigen, dass Nutzende ein gewisses Maß an Transparenz und Verständlichkeit präferieren. Erste Hilfestellungen in der Mensch-Computer-Interaktion adressieren diese Anforderung. Typisch ist hier zum Beispiel die Anzeige von Indikatoren. Indikatoren sind verständliche Merkmale von Desinformation oder Fehlinformation (z. B. Anspruch auf absolute Wahrheit, emotionalisierende Hintergrundmusik), die bei der Einschätzung des Wahrheitsgehalts helfen können.

Durch das Einblenden von Indikatoren auf vorgefilterter Desinformation soll ein Lerneffekt erzielt werden, etwa indem gezeigt wird, wie alt ein Video tatsächlich ist. Studien in diesem Kontext entwickeln Hinweise zu Indikatoren von Desinformation in Text, Audio und Video.

Indikatorbasierte Interventionen stellen im Vergleich zu reinen „wahr oder falsch“-Ansätzen eine weniger invasive Maßnahme dar, die bestehende Graubereiche im Wahrheitsgehalt adressieren und Chancen für die informierte Navigation von Informationen bieten.

Desinformation im Kontext der U.S.-Wahlen hat deutlich aufgezeigt, wie relevant eine differenzierte Betrachtung von Informationen ist und welche Formen Graubereiche des Wahrheitsgehalts annehmen können. Auch auf den deutschen (politischen) Kontext sind Erkenntnisse zu Interventionen übertragbar, welche in Form von Indikatoren einen informierten Umgang mit Informationen unterstützen. Dies steht Ansätzen entgegen, welche Inhalte ohne weitere Erklärungen als „falsch“ oder „wahr“ klassifizieren. 

Für anstehende Bundestagswahlen in Deutschland ist eine Betrachtung der Bedürfnisse von Bürgerinnen und Bürger von zentraler Bedeutung. 

Einblicke in Wahrnehmungen der deutschen Bevölkerung wurden bereits in Studien untersucht: Dies umfasst die Wahrnehmung polarisierender Themen wie Einwanderung, Gesundheit, Krieg in der Ukraine, Politik und Wahlen sowie Klimawandel als besonders relevant im Kontext von Desinformation. Weiter zeigt die Studienlage auch in Deutschland eine besondere Relevanz multimodaler Plattformen wie TikTok.

Die nutzerzentrierte Entwicklung von Interventionen kann einen Beitrag zur Unterstützung im Umgang mit Desinformation leisten und ist als Ergänzung zu bestehenden Maßnahmen wie Medienkompetenzbildung in Schulen und darüber hinaus zu sehen. Dabei ist es zentral, die Bedürfnisse von Nutzerinnen und Nutzern (z. B. bezüglich Verständlichkeit) und plattformspezifische Irreführungspotenziale (z.B. bezüglich Kurzvideos auf TikTok) zu adressieren.

Dieser Artikel ist in ähnlicher Fassung bei Table-Briefings erschienen. Beigesteuert wurde er von Dr.-Ing. Katrin Hartwig und Prof. Dr. Dr. Christian Reuter. Beide forschen an der Technischen Universität Darmstadt am Bereich Wissenschaft und Technik für Frieden und Sicherheit (PEASEC).

GI-MELDUNGEN

Neue Ausgabe der .inf: Zuses Z3, erste Berührung mit Informatik und die Frage, ob ein Chatbot die beste Freundin sein kann. Wer von Ihnen unser Mitgliedermagazin in Print abonniert hat, durfte sich bei dieser Ausgabe über eine Stereobrille freuen. Damit lässt sich das Titelbild in 3D ansehen. Aber auch ansonsten gab es interessante Beiträge quer durch alle Richtungen in der Informatik. Schon gelesen? Wenn nicht, wird es Zeit! weiterlesen

GI-Fellows 2025: Ihre Ideen? Wie in jedem Jahr freut sich der Auswahlausschuss für die GI-Fellows über Vorschläge aus der Mitgliedschaft, welches GI-Mitglied sich in besonderer Weise um die GI und/oder die Informatik im Allgemeinen verdient gemacht hat. Wir zeichnen GI-Mitglieder mit einer besonderen Geschichte aus und stellen diese im Rahmen unseres Informatik Festivals 2025 vor. Details zur Nominierung (bis zum 25. Mai) gibt es hier.  weiterlesen

Vorfreude auf das Informatik Festival genießen? Vom 16. bis zum 19. September 2025 findet unser Informatik Festival in Potsdam statt. Bereits jetzt steht fest, welche Tagungen angedockt sind. Wenn Sie sich vorab informieren möchten, können sich dies hier tun. Wir freuen uns auf ein lebendiges Festival!  weiterlesen

Kennen Sie eigentlich den GI-Pressespiegel? Dort sammeln wir die Berichterstattung über unsere Fachgesellschaft in Zeitungs-, Radio- und Fernsehbeiträgen. Schauen Sie rein, es gibt da immer wieder Neues oder auch ältere Fundstücke.

FUNDSTÜCK

Erlebbare Physik: Interaktive Webseite über den Mond. Die Webseite von Bartosz Ciechanowski zeigt, wie komplexe physikalische Konzepte verständlich und greifbar gemacht werden können. Mit interaktiven Visualisierungen der Mondphasen und anschaulichen Erklärungen wird Physik zum Erlebnis. Ein gutes Beispiel, wie man aus einem ausführlichen Lehrbuchtext mit kleinen Programmen und gutem Design eine Webseite bauen kann, auf der man gerne weiterscrollt. Viel Spaß dabei!  Zum Fundstück (ciechanow.ski)

Welches Fundstück hat Sie zuletzt inspiriert? Senden Sie uns Ihre Ideen!

Dies war Ausgabe 370 des GI-Radars vom 10.01.2025. Zusammengestellt hat diese Ausgabe Dominik Herrmann, der sich schon auf die weiteren (voraussichtlich) 20 Ausgaben des GI-Radars freut, die für das Jahr 2025 geplant sind. GI-Geschäftsführerin Cornelia Winter hat die Mitteilungen und Meldungen zusammengetragen. Das nächste Radar erscheint am 24. Januar.

Im GI-Radar berichten wir alle zwei Wochen über ausgewählte Informatik-Themen. Wir sind sehr an Ihrer Meinung interessiert. Für Anregungen und Kritik haben wir ein offenes Ohr, entweder per E-Mail (redaktion@gi-radar.de) oder über das Feedback-Formular bei SurveyMonkey. Links und Texte können Sie uns auch via X unter @informatikradar zukommen lassen.