|
Sehr geehrte Leserinnen und Leser,
wie bereits in der vorigen Ausgabe des Radars angekündigt, vertiefen wir dieses Mal das Thema der gesellschaftlichen Verantwortung von Informatikern. Damit die Lektüre nicht zu trocken wird, können Sie bei der „MIT Moral Machine“ gleich selbst aktiv werden. Die Frage lautet: Wen würden Sie in dieser Situation überfahren? Am Ende erfahren Sie, wie sich ihre Moralvorstellung von den bisherigen Teilnehmern unterscheidet.
Warum so viel Philosophisches? Auf der GI-Homepage haben Sie weiterhin die Möglichkeit, die Ethischen Leitlinien der GI zu kommentieren (Direktlink). Bitte bringen Sie sich dort in die Diskussion ein!
Viel Spaß mit der Lektüre dieser Ausgabe!
auf gi-radar.de weiterlesen
Bot hackt Spiel + Festnahme durch Maschine + Schönes neues China + KI verhindert Bugs + Google wertet Drohnenfotos aus + Trojaner frei Haus + Moralische Dilemmata + GI-Präsident zu IVBB-Hack + INFORMATIK 2018 Workshops + GI zum Koalitionsvertrag + Jepsen
KURZMITTEILUNGEN
Lernender Bot hackt altes Atari-Spiel (Heise). Forscher der Uni Freiburg haben das historische Spiel Q*Bert als Testgegenstand für ihre Arbeiten an Algorithmen zum maschinellen Lernen verwendet. Wie schon aus anderen Beispielen wie Go oder Poker bekannt, wählen die Bots auch hier sehr unkonventionelle Strategien, auf die ein Mensch normalerweise nicht kommen würde. weiterlesen
Linzer am Münchner Flughafen „von Maschine verhaftet“ (ORF). Ganz ohne menschliche Unterstützung hat ein automatisiertes Passkontrollsystem nun einem österreichischen Staatsbürger die Freiheit entziehen lassen, weil gegen ihn ein Haftbefehl vorlag. Menschen wurden in diesem Fall „nur noch“ für die Festnahme und den Abtransport des Delinquenten benötigt. weiterlesen
China schafft digitales Punktesystem für den besseren Menschen (Heise). Was in unseren westlichen Demokratien immer noch undenkbar ist, ist in China in einigen Städten bereits Realität: Soziale Konformität wird durch lückenlose Überwachung und eine Vergabe von Punkten für erwünschtes Verhalten hergestellt. Selbst George Orwell hätte sich das nicht träumen lassen. weiterlesen
Künstliche Intelligenz soll Bugs verhindern, bevor Entwickler diese einbauen (Wired, engl.). Gefüttert mit den Bugs und deren Fixes der letzten 10 Jahre hat Ubisoft ein System namens „Commit Assistant“ geschaffen, das Codebeiträge einzelner Entwickler noch vor dem Einchecken einer maschinellen Durchleuchtung zuführt. Es soll nicht nur das Aufnehmen defekten Codes verhindern, sondern sogar gleich passende Fixes empfehlen. weiterlesen
Big Data und Machine Learning sollen dem Pentagon bei der Auswertung von Drohnen-Aufnahmen helfen (gizmodo, engl.). Google hilft dem US-Verteidigungsministerium bei der Entwicklung einer künstlichen Intelligenz, die Drohnen-Aufnahmen auswerten soll. Dieser Schritt hat einen Sturm der Entrüstung bei den Angestellten des Technologieriesen ausgelöst, als diese erfuhren, wo Google nun involviert ist. weiterlesen
Trojanisches Pferd frei Haus (Heise). Wer sich beim Kauf von Smartphones von der typisch deutschen Losung „Geiz ist geil“ leiten lässt, kann Pech haben: Eine nicht vollständige Liste von mindestens 40 Smartphone-Modellen kommt gleich ab Werk mit einem Trojanischen Pferd. Das spart, etwas sarkastisch betrachtet, Zeit – denn so muss man sich nicht erst umständlich selbst Schadsoftware einfangen. weiterlesen
THEMEN IM FOKUS
Ethische Leitlinien für Informatiker. Was kann ich wissen? Was soll ich tun? Was darf ich hoffen? Was ist der Mensch? Diese Fragen wurden zwar erst vor gut zweihundert Jahren formuliert, treiben die Menschheit jedoch seit Anbeginn der Kultur um. Die philosophischen Lehren in West, Ost, Nord und Süd versuchten Leitlinien zur Beantwortung dieser Fragen zu geben. Nun, im technischen Zeitalter, sind wir technisch Handelnden versucht, konkrete Antworten darauf zu geben. Das World Wide Web sammelt das Wissen, die Maschinen sagen uns, was wir tun sollen („klicken Sie hier“) und die Technologische Singularität beantwortet uns die letzte Frage mit einem simplen „obsolet“.
Informationstechnische Systeme helfen uns, diese allgemeinen Fragen der Menschheit genauer, und wenn schon nicht besser, dann wenigstens anders zu stellen. Im Bereich der Ethik erleben wir dank hochautomatisierter Automobile eine Renaissance der grundlegenden Fragen sowie der dazugehörigen Dilemmata.
Das Trolley-Problem. Sie haben vielleicht schon einmal vom Trolley-Problem gehört (Wikipedia-Eintrag). Eigentlich handelt es sich dabei nur um eine intellektuelle Spielerei, die uns helfen soll, unsere Natur besser zu verstehen. Handeln und denken Sie eher deontologisch, utilitaristisch oder folgen Sie einer anderen moralischen Motivation? Denken Sie eher an die Folgen oder an ihre Pflicht? Das Massachusetts Institute of Technology untersucht mit einer interaktiven Implementation des Trolley-Problems, wie Menschen diese Fragen beantworten (MIT-Webseite). Es gibt sogar Bestrebungen, solche Experimente unter „echten“ Bedingungen, also auf einer echten Zugstrecke, durchzuführen (YouTube-Video, engl., 34 min).
Der Philosoph Hans Jonas hat uns technisch Handelnden ins Stammbuch geschrieben, dass wir stets auch die unbeabsichtigten Folgen unserer Handlungen bedenken sollen (Wikipedia-Eintrag zu „Das Prinzip Verantwortung“). Sicher, wir wissen nicht, was die Zukunft bringt (siehe Frage 1), aber wir wissen sehr wohl, dass unsere Handlungen Auswirkungen haben, beabsichtige und unbeabsichtigte. Das Gebot lautet also nicht „tue dies oder das“ (Frage 2), sondern halte kurz ein und denke über deine Handlung nach. Dies erscheint uns auf den ersten Blick nur allzu selbstverständlich, ist aber angesichts der externen Taktung durch die Maschinen nur sehr schwer einzuhalten.
Handlungsempfehlungen. Die Vereinigungen technisch Handelnder aller Zeiten und Länder haben diese Herausforderung erkannt und daher Handlungsempfehlungen für ihre Mitglieder herausgegeben.
Den Aufschlag im Nachkriegsdeutschland machte das „Bekenntnis des Ingenieurs“, vorgestellt auf dem VDI-Kongress im Mai 1950 in Kassel. Es beginnt mit den Worten „Der Ingenieur übe seinen Beruf aus in Ehrfurcht vor den Werten jenseits von Wissen und Erkennen und in Demut vor der Allmacht, die über seinem Erdendasein waltet“ (Bericht in der Schweizerischen Bauzeitung, 1950). Die aktuellen Ethischen Grundsätze des Vereins Deutscher Ingenieure finden Sie auf der Webseite des VDI (Direktlink zur VDI-Seite).
In diesem Jahr stehen zudem zwei „Updates“ bereits verabschiedeter Ethik-Leitlinien an. Das größere und sicher ambitioniertere Projekt ist das Code 2018 Project der Association for Computing Machinery (ACM). Die rund 100.000 Mitglieder sind dazu aufgerufen, den überarbeiteten Code of Ethics der ACM zu kommentieren (Direktlink zur ACM-Seite).
Auch die GI aktualisiert derzeit ihre Ethischen Leitlinien und hat ihre Mitglieder zur Mitarbeit aufgerufen. Einige von Ihnen haben sich bereits rege beteiligt, manche öffentlich, viele privat per E-Mail. Vielen Dank dafür! Sie können die Leitlinien direkt im Web kommentieren (Direktlink zur GI-Seite).
Die Rückmeldungen, die ACM und GI bekommen haben, ähneln sich. Häufig wird die Länge kritisiert (8 Seiten bei der ACM, 3 Seiten plus Glossar bei der GI): Es werden noch kürzere und prägnantere Formulierungen gefordert. Inspirieren lassen könnte man sich dazu beim modern aufgemachten „Code of Ethics for Researchers“, der von der World Economic Forum Young Scientists Community formuliert worden ist (Direktlink). Was denken Sie darüber?
Der Dialog wird inzwischen übrigens auch länderübergreifend geführt: Am vergangenen Mittwoch traf sich die Ethik-Arbeitsgruppe der International Federation for Information Processing (IFIP), um über die Vermittlung ethischer Prinzipien zu sprechen. In der Juni-Ausgabe des Informatik Spektrums lesen Sie einen kurzen Bericht darüber. Bis dahin sind Sie weiterhin dazu eingeladen, öffentlich von Ihrem Verstand Gebrauch zu machen und sich einzubringen!
An dieser Stelle danken wir unserem Gastautor Stefan Ullrich, dem Sprecher der Fachgruppe Informatik und Ethik. Alle Leser des GI-Radars können ein solches „Thema im Fokus“ beitragen. Schicken Sie uns Ihre Ideen an redaktion@gi-radar.de und wir stimmen die Details mit Ihnen ab.
GI-MELDUNGEN
GI-Präsident Federrath zum Hack auf das Regierungsnetz. In einem Interview mit der ZEIT skizziert Hannes Federrath, warum es so schwer ist, sich vor entsprechenden Angriffen zu schützen, wo die Schwachstellen sein könnten und was es besser zu machen gilt. weiterlesen
Workshops auf der INFORMATIK 2018 in Berlin. Immer wieder werden wir gefragt, wie auf der INFORMATIK 2018 Workshops organisiert werden können. Einige Hinweise haben wir daher auf einer eigenen Webseite für Sie zusammengestellt. weiterlesen
Stellungnahme der GI zum Koalitionsvertrag. „Digitale Bildung kommt nicht mit dem Möbelwagen“. Die geplanten Investitionen der großen Koalition in digitale Infrastruktur an Schulen reichen nicht aus. Die GI fordert bessere Lehrerqualifizierung und Pflichtzeiten für das Fach Informatik. weiterlesen
FUNDSTÜCK
Jepsen.io. In modernen Informationssystemen erstreckt sich nicht nur die Anwendungslogik über Server und Clients, sondern auch die Daten werden auf mehreren Systemen verteilt gespeichert. Das von Eric Brewer vor knapp 20 Jahren formulierte CAP-Theorem besagt, dass solche Systeme immer nur zwei der drei Anforderungen Consistency, Availability und Partition Tolerance erfüllen können. Die zuverlässige Implementierung ist zudem nicht trivial. So ist es kaum verwunderlich, dass gerade neuere Systeme (z.B. MongoDB) kritische Fehler enthalten, die zu Inkonsistenzen oder Datenverlust führen können. In unserem Fundstück zeigt Kyle Kingsbury, wie er mit seinem Tool Jepsen Probleme in einer Vielzahl von Systemen gefunden hat und was Entwickler von verteilten Systemen beachten sollten. Video (youtube.com, 53 min)
Welches Fundstück hat Sie zuletzt inspiriert? Senden Sie uns Ihre Vorschläge!
Dies war Ausgabe 209 des GI-Radars. Das Thema im Fokus stammt von Stefan Ullrich, Sprecher der Fachgruppe Informatik und Ethik. Die Kurzmitteilungen hat GI-Vizepräsident Alexander von Gernler gesammelt. GI-Junior-Fellow Dominik Herrmann hat die Schlussredaktion übernommen und ist überrascht, dass so vielen Moral-Machines-Teilnehmern das Leben eines Tieres offenbar wertvoller ist als das eines Mitmenschen. Die GI-Mitteilungen hat GI-Geschäftsführerin Cornelia Winter zusammengetragen. Das nächste GI-Radar erscheint am 23. März 2018.
Im GI-Radar berichten wir alle zwei Wochen über ausgewählte Informatik-Themen. Wir sind sehr an Ihrer Meinung interessiert. Für Anregungen und Kritik haben wir ein offenes Ohr, entweder per E-Mail (redaktion@gi-radar.de) oder über das Feedback-Formular bei SurveyMonkey. Links und Texte können Sie uns auch über Twitter (@informatikradar) oder Facebook zukommen lassen.
|
