GI-Radar 287: Emotionserkennung beim Streaming

Sehr geehrte Leserinnen und Leser,

die Diskussion über Apps zur Kontaktnachverfolgung ist noch nicht ganz abgeklungen, da bahnt sich schon das nächste Thema an. Wir brauchen (angeblich) möglichst schnell einen europaweit gültigen digitalen Impfnachweis. Fälschungssicher soll er natürlich sein – bei einer Kontrolle aber auch nicht irgendwelchen App-Anbietern oder Server-Betreibern preisgeben, wo man sich gerade aufhält. Mehr dazu in den Kurzmitteilungen. Das Thema im Fokus beschäftigt sich mit einer weiteren kontroversen Entwicklung: Beim Musik-Streaming soll Emotionserkennung in Zukunft dafür sorgen, dass wir noch zufriedener sind.

Wir wünschen Ihnen viel Spaß mit dieser Ausgabe!

auf gi-radar.de weiterlesen

KURZMITTEILUNGEN

Medizinische Daten im Gesundheitswesen: Datenschutz versus Forschung? (Netzpolitik) Naturwissenschaftliche Forschung funktioniert mit Daten. Immer. Ohne die Erhebung, Verarbeitung und Interpretation von Daten ist kein Fortschritt möglich. In der Medizin sind Daten jedoch besonders sensibel, da sie die Gesundheit und Krankheit von Individuen abbilden. Ob und unter welchen Umständen Daten verarbeitet oder gespendet werden können und sollten, umreißt Netzpolitik.  weiterlesen

Bundesnachrichtendienst (BND) winkt in der App (Spiegel). Als Mitspieler in der sozialen Medien vermutet man einen Auslandsgeheimdienst wahrscheinlich eher weniger. Der BND stellt sich jedoch mittlerweile auch dort vor und hofft auf junge Interessentinnen und Interessenten.  weiterlesen

Messenger-Dienste im Vergleich (taz). Nachdem ein weit verbreiteter Messengerdienst seine AGB angepasst hat, erhalten alternative Dienste regen Zulauf. Was welcher Messengerdienst kann und wie verbreitet er ist, hat ein Artikel zusammengefasst.  weiterlesen

Ransomware und Erpressung: Gefahr für Unternehmen (Deutschlandfunk). Gerade hat das Lahmlegen einer Pipeline in den USA Schlagzeilen gemacht. Ein Hackerangriff demonstrierte, welch weitreichende Folgen Attacken auf einzelne Unternehmen und Infrastrukturen haben können. Während früher durchaus häufig auch Privatpersonen ein Ziel für Hacker waren, trifft es zunehmend Unternehmen und Institutionen.  weiterlesen

Digitale Impfnachweise anfällig für Fälschungen (Golem). Der (digitale) Impfnachweis verspricht die große Freiheit und die große Sicherheit: wer eine Covid-19-Impfung nachweisen kann, darf Vieles, was Nichtgeimpften noch verwehrt ist. Das entsprechende Dokument ist darum heißbegehrt und ruft Fälscher auf den Plan. Dazu äußert sich auch GI-Präsident Federrath im Deutschlandfunk (s. Pressespiegel unten).  weiterlesen

THEMA IM FOKUS

Gefühle im Patent: Emotionserkennung beim Musikstreaming. Musikstreaming-Dienste, die automatisch Stimmungen erfassen und dazu passende Musik spielen – was für den einen wie eine Traumvorstellung wirkt und andere als Dystopie des gläsernen Menschen bezeichnen würden, könnte bald Wirklichkeit werden.

Ein entsprechendes Patent hatte der Streamingdienst Spotify im Jahr 2018 eingereicht (patents.google.com) und im Januar 2021 genehmigt bekommen. Anhand eines entsprechenden Mechanismus soll der Streamingdienst unter anderem Musikinhalte anhand von Spracheingaben empfehlen.

Die Besonderheit hierbei ist, dass anhand der Spracheingabe sowie der erkennbaren Hintergrundgeräusche Erkenntnisse über die Gefühlslage, das Geschlecht oder auch das Alter der Nutzerinnen und Nutzer gewonnen werden, die in eine Empfehlung münden können. Darüber hinaus sollen anhand der gesammelten Daten auch Informationen über die aktuelle soziale Umgebung wie zum Beispiel eine Party, öffentlicher Verkehr oder das Alleinsein bestimmt werden. Zur Auseinandersetzung mit Emotionen in Spracheingaben bekam Spotify bereits im Januar 2020 ein Patent genehmigt (patents.justia.com), worüber Forbes in einem Artikel berichtete (forbes.com).

Prinzipiell ist automatisierte Emotionserkennung nichts Neues. Bereits seit geraumer Zeit beschäftigen sich Forschende aus verschiedenen Richtungen mit dem Thema. Mögliche Anwendungsgebiete sind dabei die authentischere Interaktion zwischen KI und Mensch, aber auch die Unterstützung von Kindern mit einer Autismus-Spektrum-Störung, Fahrunterstützung zur Erhöhung der Sicherheit im Verkehr sowie verbesserte Emotionsforschung. Auch soziale Medien haben ein großes Interesse daran, die Emotionen ihrer Nutzerinnen und Nutzer zu (er-)kennen, um somit personalisierte Werbeprofile zu erstellen und auch weitere Marketing-Maßnahmen zu perfektionieren. So hat Snapchat bereits 2015 ein Patent eingereicht, das mit Hilfe algorithmischer Emotionserkennung von Geotagging-Selfies die allgemeine Stimmungslage von Menschenmengen auf z.B. größeren Veranstaltungen analysieren soll (scientificamerican.com).

Bei der Emotionserkennung ist zunächst zu unterscheiden, welche Form von Daten zugrunde liegt und welche Methoden zur automatisierten Erkennung dienen. Die gängigsten Formen umfassen dabei Text, Audio, Bild und Video (link.springer.com). Die verschiedenen Methoden zur Erkennung von Emotionen lassen sich grob in zwei Cluster einteilen: Statistische und wissensbasierte Techniken (sentic.net). Wissensbasierte Ansätze analysieren in der Regel semantische und syntaktische Charakteristika von Sprache, um verschiedene Typen von Emotionen zu erkennen. Statistische Methoden hingegen beruhen darauf, mit Hilfe von maschinellem Lernen Muster in Trainingsdaten zu erkennen, die sich anschließend auf reale Szenarien übertragen lassen. Dieser Ansatz funktioniert allerdings nur dann verlässlich, wenn ein ausreichend großes Set an validen Trainingsdaten zur Verfügung steht.

Wichtig ist es, die ethischen Fragestellungen im Zusammenhang mit algorithmischer Emotionserkennung nicht zu vernachlässigen.

Teile der Musikgemeinschaft sehen das verstärkte Patentieren von Emotionserkennungs-Technologien durch Spotify höchst problematisch, da eine Manipulation der Nutzerinnen und Nutzer durch die gesammelten Emotionsdaten befürchtet wird (accessnow.org). Hierzu haben im Mai diesen Jahres 180 Musikerinnen und Musikerinnen sowie Menschenrechtsaktivistinnen und -aktivisten einen offenen Brief an Spotify versendet, in dem sie die Plattform auffordern, sich öffentlich zu verpflichten, ihre patentierte Technologie weder zu nutzen, noch zu verkaufen (accessnow.org).

Es ist fraglich, inwieweit die angestrebte Emotionserkennung überhaupt zuverlässig funktionieren kann. Die gilt insbesondere vor dem Hintergrund, dass lediglich Audiodaten ohne die Hinzunahme von Text und Bild ausgewertet werden. Ebenfalls nicht auszuschließen ist eine Diskriminierung aufgrund unvollständiger Trainingsdaten, wie es zum Beispiel in der Vergangenheit bei der Gesichtserkennung der Fall war (netzpolitik.org).

Unabhängig davon fallen Emotionen in den hochprivaten Bereich der Nutzerinnen und Nutzer. Aus Speicherung und Aggregation entstandene Emotionsprofile lassen sich unter Umständen für Missbrauch und Manipulation nutzen. So ist es denkbar, dass im Kontext einer bestehenden Emotion geschickt platzierte Werbung zu einer höheren Kaufrate führt als dies ohne Emotionserkennung der Fall wäre. Das bewusste Vor-Augen-Führen einer Emotion kann jedoch auch Nutzerinnen und Nutzern die Möglichkeit geben, die eigenen Emotionen zu reflektieren und auf Dauer bewusst(er) steuern zu lernen. Neben den offensichtlichen Vorzügen während der Nutzung der Software gibt es also auch darüber hinaus positive Anwendungsszenarien. Wie immer ist dabei entscheidend, in welchem Umfang Nutzerinnen und Nutzer die eigene Entscheidungshoheit über die Erfassung, Speicherung und Auswertung der Daten haben, und zu welchen Zwecken ein Einsatz vorgesehen ist oder zumindest billigend in Kauf genommen wird.

Da sowohl gesellschaftlich als auch politisch insbesondere im Rahmen der Verwendung neuer Technologien immer wieder Diskussionsbedarf entsteht, freuen wir uns, gemeinsam einen Diskurs zu genau solchen Fragen zu gestalten. Verlinken (und folgen) Sie uns gerne auf Twitter unter @society_read.

Diesen Beitrag haben Johannes Korz, Lasse Cezanne, Abdulkadir Noyan und Elrike van den Heuvel aus der SocIeTy (ehem. Redaktion Sozioinformatik) beigesteuert.

GI-MELDUNGEN

Erratum in eigener Sache: Zahlenkonfusion. Bei unserem letzten Thema im Fokus hat leider das Redaktionssystem die korrekte Formatierung bei der Darstellung von Gleitkommaoperationen der Z3 von 10 hoch 15 zerschossen und daraus 1015 gemacht. Dies haben einige aufmerksame (ausschließlich männliche) Leser bemerkt und uns darauf aufmerksam gemacht. Ein herzliches Dankeschön an Sie an dieser Stelle! Im Blogbeitrag auf der GI-Seite haben wir das selbstverständlich direkt korrigiert.  weiterlesen

Letzte Chance: Fellows und Junior-Fellows gesucht! Nur noch einige Tage haben GI-Mitglieder die Chance, sich bei uns als GI-Junior-Fellow zu bewerben oder herausragende, etablierte Persönlichkeiten für das Fellowship vorzuschlagen. Zu beiden Auszeichnungen gibt es Details.  weiterlesen

GI-Fachgruppe vergibt Preis für Softwarequalität. Die GI-Fachgruppe TAV hat gemeinsam mit Partnern einen Preis ausgeschrieben, der eine Person, Institution oder Arbeit auszeichnen will, die sich in besonderer Weise um die Qualität von Software verdient gemacht hat. Einreichungsschluss ist der 31. Mai.  weiterlesen

KI-Anwendungsszenarien verfilmt. Im Kontext des GI-Projektes ExamAI sind zwei Videos entstanden, die KI-Szenarien anschaulich darstellen. Im einen Fall werden Entscheidungsprozesse auf Personalplattformen behandelt, im anderen geht es um das Thema Produktionsautomatisierung.  weiterlesen

Themen rund um Digitale Souveränität gebündelt. Das „Digital Autonomy Hub – Technik souverän nutzen“ ist ein Kompetenzzentrum, das die GI gemeinsam mit AlgorithmWatch koordiniert. Teil des Netzwerks sind zehn Projekte der BMBF-Förderlinie Mensch-Technik Interaktion, darunter mit InviDas auch ein Forschungsprojekt, bei dem die GI im Projektverbund an Lösungen zu digitaler Souveränität bei Nutzerinnen und Nutzern von Wearables arbeitet. Spannende Projekte und Veranstaltungen vom Hub, den Projekten des Netzwerks und eine Newsletter-Registrierung finden Sie hinter dem Link.  weiterlesen

GI-Fachbereich SICHERHEIT zur BSI-Kritisverordnung. Das Bundesamt für Sicherheit in der Informationstechnik hat Vereine und Verbände aufgerufen, den Entwurf der Kritisverordnung zu begutachten und zu kommentieren. Der GI-Fachbereich SICHERHEIT hat dazu ausführlich Stellung genommen.  weiterlesen

GI startet mit TrainDL ein europaweites Bildungsprojekt. Gemeinsam mit verschiedenen europäischen Partnern erarbeitet die GI im Projekt „TrainDL“ Bildungskonzepte zum Thema Datenkompetenz und Kompetenzen für Künstliche Intelligenz (KI), aus denen Empfehlungen zur Implementierung von Lehreinheiten hervorgehen sollen. Das Vorhaben wird von der Europäischen Union im Programm Erasmus+ gefördert.  weiterlesen

Kennen Sie eigentlich den GI-Pressespiegel? Dort sammeln wir die Berichterstattung über unsere Fachgesellschaft in Zeitungs-, Radio- und Fernsehbeiträgen. In der letzten Woche gab beispielsweise GI-Präsident Federrath dem Deutschlandfunk ein Interview zu gefälschten Impfpässen. Schauen Sie rein, es gibt da immer wieder Neues.

FUNDSTÜCK

„Das Digitale“ denkt über die Menschheit nach. Oder sinniert hier der Algorithmus? Lacht sich gar die KI über die Dummen ins Fäustchen, die allerlei Versprechen auf den Leim gehen? Im derzeit „normalen“ Leben denken und entscheiden Menschen über ihr digitales Handeln. In einem Gedankenspiel dreht Robert Simanowski den Spieß um und betrachtet die Welt und ihre Veränderungen im Digitalen aus der unklaren Perspektive eines „wir“. „Wir“ ist dabei etwas Undefiniertes, das den Menschen möglichst unfrei, unselbständig und kritiklos sehen möchte, um sich ungehindert weiter auszubreiten und die Herrschaft über die Welt übernehmen zu können. Eine skurrile Verschiebung des Blickwinkels regt zum Nachdenken an.  Zum Fundstück (deutschlandfunk.de)

Welches Fundstück hat Sie zuletzt inspiriert? Senden Sie uns Ihre Ideen!

Dies war Ausgabe 287 des GI-Radars. Zusammengestellt hat sie Dominik Herrmann, der Ihnen versichert, dass das dieser – digitale – Newsletter nicht über die Menschheit nachdenkt (seine Redaktion bisweilen jedoch schon). Die Mitteilungen und Meldungen hat GI-Geschäftsführerin Cornelia Winter zusammengetragen. Das nächste GI-Radar erscheint am 4. Juni 2021.

Im GI-Radar berichten wir alle zwei Wochen über ausgewählte Informatik-Themen. Wir sind sehr an Ihrer Meinung interessiert. Für Anregungen und Kritik haben wir ein offenes Ohr, entweder per E-Mail (redaktion@gi-radar.de) oder über das Feedback-Formular bei SurveyMonkey. Links und Texte können Sie uns auch über Twitter (@informatikradar) zukommen lassen.