GI-Radar 243: Verbrecherjagd mit Alexa und Co

Sehr geehrte Leserinnen und Leser,

benötigen Strafverfolger in Zeiten von Smart-Home-Geräten mehr Befugnisse? Mit dieser Frage beschäftigen wir uns im Thema im Fokus und – am Beispiel von „Amazon“ – im Fundstück. In den Kurzmitteilungen blicken wir u.a. auf die Geschichte der Open-Source-Software zurück. Auf das neue Informatik-Spektrum (Thema: Blockchain) weisen wir Sie in den GI-Mitteilungen hin.

Wir wünschen Ihnen viel Spaß bei der Lektüre.

auf gi-radar.de weiterlesen

KURZMITTEILUNGEN

Ethische Maßstäbe der KI müssen definiert werden, um deren Chance zu nutzen (Zeit). DFKI-Chefin Jana Köhler im Gespräch über die Folgen des KI-Einsatzes, über Arbeitsplätze und Zukunftsthemen.  weiterlesen

Der Erfolg der Open Source-Software (SZ). Früher waren es vor allem die Nerds, die nach Feierabend an quelloffener oder freier Software gearbeitet haben. Inzwischen setzen auch viele Unternehmen darauf; entweder weil sich damit Ausgaben einsparen lassen oder aber als zusätzliche Einnahmequelle. Zum Siegeszug der Open-Source-Software ein kleiner geschichtlicher Abriss.  weiterlesen*

San Francisco verbietet automatische Gesichtserkennung durch die Behörden (Handelsblatt). Was unter anderem in China und am Berliner Bahnhof Südkreuz in großem Stil angewendet wird bzw. wurde, nämliche die automatisierte Gesichtserkennung durch öffentliche Stellen, ist in San Francisco ab sofort verboten. Nun wird darüber diskutiert, ob die Systeme verbessert werden können, um ungerechtfertigte Stigmatisierungen zu vermeiden.  weiterlesen*

KI-Miniaturgießkanne in Deutschland – von den USA lernen? (FAZ) Wirtschaftsminister Altmaier hat sich in den USA umgesehen, wie dort die KI gefördert wird. Deutschland steht im Vergleich (Volumen, Projekte und Ausbildung) nicht besonders gut da. Die Aufholjagd zu den USA und China wird schwer.  weiterlesen*

Radio und Internet: wie sieht die Zukunft aus? (taz) „Internet kills the radio star“ titelt die taz in einem Bericht zum Lokalrundfunk. Den Älteren unter uns dürfte dabei unwillkürlich der Ohrwurm „Video killed the radio star“ aus dem Jahr 1978 in den Sinn kommen. Aber so wenig wie MTV das Radio vernichtet hat, konnte ihm das Internet bislang allzu viel anhaben. Noch immer schalten es über 70% täglich ein. Dennoch ist man sich der Gefahr durch das Web bewusst und diskutiert über die Zukunft.  weiterlesen

Erkennung von Fake-Verkehrsschildern (Golem) Wissenschaftler der Ben-Gurion-Universität demonstrieren wie naiv moderne Fahrer-Assistenzsysteme sind. Die Forscher projizierten ein Foto eines Verkehrsschilds („90“) auf eine Hauswand – das von einem vorbeifahrenden Fahrzeug auch prompt erkannt wurde. Bis zum sicheren autonomen Fahren ist also noch viel zu tun.  weiterlesen

* Artikel ist ggf. nur mit deaktiviertem Adblocker lesbar.

THEMA IM FOKUS

Smart-Home oder Wanze? Verschiedene Medien berichteten, dass das Innenministerium plane, zukünftig auch Daten von Sprachassistenten zur Beweisführung hinzuzuziehen. Grundlage der Berichterstattung war eine Beschlussvorlage für die Innenministerkonferenz (IMK) des schleswig-holsteinischen Innenministers und IMK-Vorsitzenden Hans-Joachim Grote (CDU). Laut Beschlussvorlage komme digitalen Spuren „eine immer größere Bedeutung“ bei der Aufklärung von Kapitalverbrechen und terroristischen Bedrohungslagen zu (beck.de). Bundesinnenminister Horst Seehofer (CSU) stellte daraufhin klar, dass die Bundesregierung nichts Neues vorhabe und es keine zusätzlichen Befugnisse geben werde. Allerdings könne der digitale Bereich vom Verfassungsschutz so ausgeleuchtet werden, wie das analoge Telefon. Dies solle keine Präventivmaßnahme sein, sondern lediglich bei der Aufklärung von Schwerverbrechen helfen (NDR).

Im Beschluss der IMK steht letztendlich, dass Strafverfolgungsbehörden „in der Lage sein [müssten], digitale Spuren zu erkennen, zu sichern und auszuwerten“. Dabei gehe es um Dateninhalte, die nach rechtlichen Grundlagen bereits erhoben und gespeichert werden und nicht um neue Eingriffsbefugnisse, wie das Auswerten von Daten aus Smart-Home-Geräten. Ein Arbeitskreis ist nun damit beauftragt, bis zur Herbstsitzung 2019 konkrete Handlungsempfehlungen vorzulegen (innenministerkonferenz.de).

Betrachtet man die aktuelle Rechtslage, stellt sich zunächst die Frage, inwieweit eine Verwendung der Daten schon durch die bestehenden Gesetze möglich ist. Maßgeblich ist hier Art. 13 des Grundgesetzes (gesetze-im-internet.de), der die Unverletzlichkeit der Wohnung eines jeden Bürgers garantiert. Im Kontext des Art. 13 Abs. 3 ist es möglich, dass „aufgrund richterlicher Anordnung technische Mittel zur akustischen Überwachung von Wohnungen, in denen der Beschuldigte sich vermutlich aufhält, eingesetzt werden, wenn die Erforschung des Sachverhalts auf andere Weise unverhältnismäßig erschwert oder aussichtslos wäre.“ Die Anwendung einer solchen Maßnahme ist auf den Hintergrund einer schweren Straftat beschränkt, darf also nicht in jedem Kontext verwendet werden.

Darüber hinaus regelt §100c StPO (gesetze-im-internet.de) die akustische Wohnraumüberwachung, in deren Rahmen „das in einer Wohnung nicht öffentlich gesprochene Wort mit technischen Mitteln abgehört und aufgezeichnet werden [kann]“. Beide Artikel verwenden den Terminus der „technischen Mittel“ – zu denen wohl auch Smart-Home-Geräte wie Amazons Alexa gehören. Auf den ersten Blick scheint eine Verwendung der Daten möglich. Die tatsächliche Rechtslage ist jedoch komplexer und wird zurzeit laut Innenministerium ausgiebig geprüft. Fraglich ist insgesamt nicht nur, ob die Norm im aktuellen Fall Anwendung findet, sondern ebenfalls ob unabhängig davon im Rahmen neuer technischer Möglichkeiten auch neue Rechtsgrundlagen geschaffen werden müssen. Diese könnten dazu dienen, die Privatsphäre der Bürger zu schützen oder den Einsatz neuer Technologien möglich zu machen. Des Weiteren ist unabhängig von der Rechtsgrundlage für die Verwendung der Daten relevant, ob in Bezug auf die Verschlüsselung und den Zugang zu Daten weitere Normen benötigt werden, um den Herstellern vorzuschreiben, dass bzw. wie sie Organen der Strafverfolgung Zugriff gewähren müssen. Nicht vereinbar mit einer solchen Vorschrift wäre allerdings die sehr wünschenswerte Ende-zu-Ende Verschlüsselung, die verschiedene Hersteller bereits implementiert haben oder noch implementieren wollen.

Auch wenn die Verwendung von Sprachassistenzsystemen zu Abhörzwecken rechtlich unbedenklich erscheint, gibt es im gesellschaftlichen Kontext Bedenken. Menschen empfinden ihre eigene Wohnung grundsätzlich als einen Raum der freien Meinungsäußerung. Zwar ist das Abhören dieses Raums bereits jetzt möglich; neue Technologien könnten jedoch dazu führen, dass die Hemmschwelle zur Überwachung aufgrund der einfacheren Umsetzung sinkt. Vorstellbar ist in diesem Zusammenhang etwa, dass in Zukunft Software eingesetzt wird, um z.B. Sprachdaten automatisch auszuwerten. Werden Sarkasmus oder Witze von der Software nicht zuverlässig erkannt, könnte es in Einzelfällen zu unrechtmäßigen Beschuldigungen kommen.

Aus §100c StPO ergibt sich noch ein weiteres Problem. Demnach ist es verboten, beim Abhören innerhalb einer Wohnung private Äußerungen zu erfassen. Hierfür müssten die Assistenzsysteme erkennen, ob es sich bei der Aufzeichnung um Privatgespräche handelt oder nicht (anwalt.de). Im Einzelfall müssten Aufzeichnungen wohl weiterhin von Menschen gegengeprüft werden, um eine korrekte Auswertung gewährleisten zu können.

Betrachtet man ein Patent, das Amazon kürzlich zugesprochen worden ist, kommen zusätzlich noch datenschutzrechtliche Bedenken auf. Bisher haben Geräte wie Alexa erst dann zugehört, wenn ein Aktivierungswort („Alexa“ oder „OK, Google“) ausgesprochen worden war. In Zukunft soll Alexa auch dann reagieren, wenn das Wort erst am Ende eines Befehls steht. Voraussetzung dafür ist, dass laufend aufgezeichnet wird, da nie klar ist, ob auf das Gesprochene noch der nötige Befehl folgt. Wann genau der Inhalt des Zwischenspeichers geleert wird und ob er auch anderweitig verwendet werden könnte (z.B. zur Verbesserung der Erkennungsleistung) ist bislang unklar.

Auch wenn die ursprünglichen Meldungen von einem „Abhörstaat“ und den Befugniserweiterungen der Strafverfolgungsbehörden übertrieben erscheinen – und von einigen Portalen inzwischen auch wieder entfernt wurden – ist die Thematik der mithörenden Smart-Home-Geräte und neuen technologischen Möglichkeiten bei der Überwachung potentieller Straftäter gesellschaftlich hoch relevant. Wir müssen sie weiterhin aufmerksam beobachten.

Dieser Überblick wurde verfasst von Elrike van den Heuvel, Yasmina Adams und Johannes Korz aus unserer „Redaktion Sozioinformatik“. Vielen Dank! Sie erreichen die Autoren unter redaktion.sozioinformatik@cs.uni-kl.de.

GI-MELDUNGEN

GI-Präsidiumswahl 2019: Kandidaturen bekanntgegeben. Die Kandidatenfindungskommission für die Präsidiumswahl 2019 hat dem GI-Präsidium Ende Juni das Resultat der Kandidatensuche vorgestellt. Zehn Personen stellen sich zur Wahl, sechs davon ziehen ins GI-Präsidium ein. Die Liste finden Sie auf der GI-Webseite.  weiterlesen

Informatik Spektrum zu Blockchain erschienen. Das neue Informatik Spektrum ist da. Es beschäftigt sich mit Blockchain und thematisiert unter anderem die Entwicklung, rechtliche Aspekte, Werkzeuge zur Zusammenarbeit und die Grenzen der Technik. Das Heft findet sich in Einzelartikeln in der Digitalen Bibliothek der GI oder zum Herunterladen als Komplett-PDF im Mitgliederbereich.  weiterlesen

Turing-Bus und digitale Mündigkeit (Der Freitag). In einer großen Reportage ist der Turing-Bus auf seiner ersten Etappe durchs Land begleitet worden. In dem ausführlichen Bericht lässt sich nacherleben, wie junge Leute einen kritischen und bewussten Blick auf KI-Anwendungen erlernen und dass das bevorzugte „Spielzeug“ Sprachassistent einen tatsächlich ausspionieren kann.  weiterlesen

IFIP SELECT: Onlinejournal für IT-Professionals. IFIP, der internationale Dachverband der Informatik-Fachgesellschaften, hat ein neues Onlinejournal für Praktiker gestartet. Die Bedeutung wissenschaftlicher Ergebnisse wird dort in kurzen Überblicksbeiträgen prägnant zusammengefasst. Die Zeitschrift ist frei verfügbar.  weiterlesen

FUNDSTÜCK

Allmächtiges Amazon? Für viele steht der Name „Amazon“ für bequemes Einkaufen im Internet. Dass der Konzern neben dem Einzelhandel noch auf vielen anderen Geschäftsfeldern aktiv ist, ist hingegen weniger bekannt. Während Google und Facebook regelmäßig für ihre unzureichenden Datenschutzpraktiken kritisiert werden, blieb Amazon von solchen Vorwürfen bisher weitgehend verschont. Das ist durchaus bemerkenswert, wenn man sich anschaut, in welchem Umfang Amazon Daten sammelt. Unser Fundstück ist auch deswegen interessant, weil es sehr plastisch aufzeigt, wie Amazon hinter den Kulissen in erheblichem Ausmaß mit Strafverfolgungsbehörden zusammenarbeitet.  Zum Beitrag (medium.com, engl., 20 min)

Welches Fundstück hat Sie zuletzt inspiriert? Senden Sie uns Ihre Ideen!

Dies war Ausgabe 243 des GI-Radars. Zusammengestellt hat sie Dominik Herrmann, der an dieser Stelle daran erinnern möchte, dass wir für die Bereitstellung des GI-Radars keine Dienste von Amazon, Facebook und Google einsetzen. Die Mitteilungen hat wie immer GI-Geschäftsführerin Cornelia Winter zusammengetragen. Das nächste GI-Radar erscheint am 26. Juli 2019.

Im GI-Radar berichten wir alle zwei Wochen über ausgewählte Informatik-Themen. Wir sind sehr an Ihrer Meinung interessiert. Für Anregungen und Kritik haben wir ein offenes Ohr, entweder per E-Mail (redaktion@gi-radar.de) oder über das Feedback-Formular bei SurveyMonkey. Links und Texte können Sie uns auch über Twitter (@informatikradar) zukommen lassen.