GI-Radar 252: Konzentrationskontrolle

 

Sehr geehrte Leserinnen und Leser,

in den Kurzmitteilungen finden Sie unter anderem eine provokante Datenschutz-These des Psychologen Michal Kosinski (dessen Forschung angeblich Cambridge Analytica als Vorlage diente). Das Thema im Fokus analysiert den Einsatz von EEGs in chinesischen Schulen. In den GI-Mitteilungen finden Sie unter anderem einen Link auf das neue Informatik Spektrum. Das Fundstück ist ein lesenswerter Foliensatz eines amerikanischen Wissenschaftlers, der sich kritisch mit dem KI-Hype auseinandersetzt.

Wir wünschen Ihnen viel Spaß bei der Lektüre.

auf gi-radar.de weiterlesen

Obsoleszenz + Relevanz der Privatsphäre + Algorithmen und Kredite + soziales Internet + tradierte Rollenbilder und IT + EEGs in Chinas Schulen + Jugend-IGF + Informatik Spektrum + Endspurt GI-Wahlen + KI-Fragen der Zukunft + KI-Schlangenöl

KURZMITTEILUNGEN

Software entwertet Hardware: geplante Obsoleszenz (SZ). Das übliche Ärgernis vieler Handybesitzer: das Gerät ist knapp zwei Jahr alt, und plötzlich lahmt der Akku. Oder aber der Drucker druckt nicht mehr, obwohl er noch Tinte hat. Hersteller bauen ein Verfallsdatum ein, um mehr Geräte zu verkaufen. Der Verbraucherschutz will intervenieren.  weiterlesen*

Privatsphäre abschaffen und sich um Wichtige(re)s kümmern (NZZ). Aus Sicht des Psychologen Michael Kosinski ist Privatsphäre eine Entwicklung der neueren Zeit – und anderes derzeit deutlich wichtiger. Während in kleineren Gemeinschaften nahezu jeder alles vom anderen wusste, hat erst das Leben in der Großstadt Anonymität ermöglicht. Tatsächlich versuchen die USA und Europa noch immer in gewissem Umfang, eine Privatsphäre zu schützen, die sich – je nach Blickwinkel – nicht mehr schützen lässt. Deshalb sei es weitaus wichtiger, sich um die Beherrschung neuerer Technologien zu kümmern.  weiterlesen

Intransparente Kreditvergabe: sind Algorithmen sexistisch? (ZEIT) Derzeit entzündet sich eine neue Debatte, inwieweit Algorithmen einzelne Personen oder Gruppen diskriminieren. Anlass ist die vermeintlich unterschiedliche Kreditwürdigkeit von Frauen und Männern bei der Kreditkarte von Apple, die seit kurzem in den Vereinigten Staaten erhältlich ist. Tatsächlich scheinen weder der Anbieter der Kreditkarte noch die kooperierende Bank in den Algorithums schauen zu können.  weiterlesen

WWW-Gründer Tim Berners-Lee mahnt: Internet soll sozialer werden (FAZ). Im Rahmen des Internet Governance Forums in Berlin mahnte Berners-Lee, allen Menschen einen gleichberechtigten und kostengünstigen Zugang zum Internet zu ermöglichen, um die Demokratie zu fördern. Wie allerdings unter anderem politischer Missbrauch durch einzelne Länder zu verhindern sei, blieb offen.  weiterlesen*

Geschlechtsspezifische Rollenbilder verhindern Frauen in der IT (Golem). Dass es (zu) wenige Frauen in der IT gibt, ist mittlerweile allgemein bekannt. Viele Initiativen versuchen seit langem, dies zu ändern. Golem hat verschiedene Studien gesammelt und kommt zu dem Schluss, dass in erster Linie tradierte Rollenbilder von Gehalt, Haushalt und Kinderziehung Frauen wie Männer in „geschlechtstypische“ Berufe bringen: Frauen beispielsweise in die Pflege und Männer eben in die IT.  weiterlesen

* Artikel ist ggf. nur mit deaktiviertem Adblocker lesbar.

THEMA IM FOKUS

EEG-Bänder geben Einblick in die Köpfe chinesischer Schüler. Im Januar 2019 war bekannt geworden, dass in chinesischen Schulen künftig EEG-Stirnbänder eingesetzt werden sollen. Mit den Stirnbändern soll überwacht werden, ob die 10- bis 17-Jährigen dem Unterricht aufmerksam folgen. Nun hat das Wall Street Journal in einem Video erste Eindrücke veröffentlicht (Twitter).

Das aufgezeichnete EEG wird in Echtzeit ausgewertet. Die Konzentration der Schülerinnen und Schüler wird farblich kodiert. Leuchtet das Band rot, ist ein Schüler tief konzentriert, leuchtet es blau, ist er abgelenkt. Die Datenauswertung wird dabei nicht nur auf der Stirn dargestellt, sondern auch dem Lehrer am Laptop sowie den Eltern in Echtzeit auf ihrem Smartphone angezeigt. Dabei werden den Eltern nicht nur die Ergebnisse des eigenen Kindes angezeigt, sondern auch ein Vergleich mit anderen Kindern in der Klasse. Die in Boston ansässige Firma Brainco (Homepage) ist eine Ausgliederung des Harvard Innovation Lab und hat bereits 20.000 Exemplare der Bänder an China verkauft (Independent).

Russell Barkley, Professor an der Virginia Commonwealth Universität, kritisiert, dass die zugehörige klinische Studie nicht öffentlich zugänglich sei – und etwaige Leistungsverbesserungen somit möglicherweise lediglich auf den Placebo-Effekt zurückzuführen sein könnten (Independent). Des Weiteren ist anzumerken, dass das Stirnband lediglich 3 Elektroden verwendet, während reguläre EEGs bis zu 21 Elektroden haben. Daraus resultiert eine höhere Fehleranfälligkeit. Auch Nutzer sozialer Medien in China bringen ihren Unmut über diese in ihren Augen unethische Anwendung zum Ausdruck. Sie beschreiben Szenarien wie aus einem Horrorfilm (supchina.com).

Befürworter der EEG-Bänder argumentieren, dass die Technologie Lehrerinnen und Lehrern ein Werkzeug an die Hand gibt, um Jugendliche individueller und dadurch besser beim Lernen zu unterstützen. Auch ist das System eine vielversprechende Datenquelle für das Training maschineller Lernverfahren. Brainco-Gründer Bicheng Han rechnet mit den Daten von 1,2 Millionen Schülerinnen und Schülern. Diese möchte er dazu nutzen, um Feedbackschleifen von KI-Programmen zu verbessern (Heise). Dieses Vorhaben passt zu Chinas Bestreben, im Bereich der Künstlichen Intelligenz eine Führungsrolle zu übernehmen (futureoflife.org). 

Es bleibt allerdings fraglich, ob eine rein leistungsorientierte Förderung in Verbindung mit dem Erfolgsdruck, der durch die Bänder und den direkten Leistungsvergleich erzeugt wird, aus pädagogischer Sicht sinnvoll ist. Können sich Kinder unter diesen Bedingungen zu selbstbestimmten, kreativen Individuen entfalten? Verschiedene Studien deuten darauf hin, dass Langeweile und Tagträumerei einen wichtigen Beitrag zum kreativen Denken liefern und wichtige Gelegenheiten sozialer, kognitiver und emotionaler Stimulation sind, die man sonst verpassen würde (Mueller & Dyer 1985 sowie Bench & Lench 2013). 

Es sind viele Fragen offen: Was geschieht mit besonders leistungsstarken Schülerinnen und Schülern, die sich bei dem für sie „einfachen“ Schulstoff gar nicht so sehr konzentrieren müssen? Ist die durch das System erzeugte Leistungstransparenz wünschenswert und mit Datenschutzgrundsätzen vereinbar? Wie kann garantiert werden, dass die Daten nur anonymisiert weiterverarbeitet werden und keine Rückschlüsse auf Einzelne möglich sind? Gibt es langfristige Konsequenzen, die besonders berücksichtigt werden müssen?

Da durch die Verwendung neuer Technologie immer wieder ethisch fragwürdige Situationen entstehen, würden wir uns freuen, gemeinsam einen Diskurs zu gestalten, der sich genau mit solchen Fragen beschäftigt. Verlinken Sie uns gerne mit dem Hashtag #RedaktionSozioinformatik.

Dieser Kommentar wurde verfasst von Elrike van den Heuvel, Yasmina Adams und Johannes Korz aus unserer „Redaktion Sozioinformatik“. Vielen Dank! Kontakt zu den Autoren: redaktion.sozioinformatik@cs.uni-kl.de

GI-MELDUNGEN

GI organisiert Jugend-IGF mit. Vor dem Auftakt des Internet Governance Forums in Berlin fand unter Beteiligung der GI das Jugend-IGF statt. Die jungen Menschen einigten sich auf 11 netzpolitische Forderungen, unter anderem zu Transparenz, Cybersicherheit und Mitsprache.  weiterlesen

Das neue Informatik Spektrum ist da. Unter dem Titel „Privacy in Process Analytics“ finden sich Interviews, größere und kleinere Artikel, Gewissensbits sowie ein aktuelles Schlagwort. Das Heft steht über den folgenden Link als Komplett-PDF zum Herunterladen bereit.  weiterlesen

Endspurt zur GI-Wahl. Heute in einer Woche schließt die Wahl zu Vorstand und Präsidium der GI. Bislang haben 2.309 GI-Mitglieder gewählt. Wir freuen uns, wenn Sie – sofern noch nicht geschehen – Ihre Stimme abgeben.  weiterlesen

#KI50-Zukunftsfragen vorgestellt. Welche Fragen rund um das Thema Künstliche Intelligenz sind am drängendsten? Wo sollen sich GI-Mitglieder und andere Informatikfachleute am ehesten engagieren? Wo ist die Politik gefragt, wo die Unternehmen? Fragen rund um die KI sind vielfältig. Wir haben zehn besonders wichtige Fragen zusammengestellt.  weiterlesen

FUNDSTÜCK

AI-Snake-Oil. Das Wissenschaftsjahr 2019 stand ganz im Zeichen der Künstlichen Intelligenz. Euphorie und Schreckensbilder liegen hier besonders nah beieinander. Erstaunlich ist: viele dieser Diskussionen werden gar nicht von Informatikerinnen und Informatikern geführt. Alle glauben, etwas über Chancen und Risiken sagen zu können. Hanebüchene Vermutungen werden dabei oft als Fakten verkauft. Es gibt nur wenige Wissenschaftler, die ausreichend interdisziplinär verwurzelt sind und sachlich Auskunft geben können. Arvind Narayanan ist eine solche Person. Er kann sowohl zu den Grenzen und Möglichkeiten der Technik als auch zu ökonomischen und ethischen Dimensionen und somit zu den gesellschaftlichen Auswirkungen etwas sagen. Narayanan ist Informatik-Professor an der Princeton University. Unser Fundstück ist ein ausführlich annotierter Foliensatz, den er kürzlich vorgetragen hat. Die Zusammenfassung ist: „Much of what’s being sold as "AI" today is snake oil. It does not and cannot work. In a talk at MIT yesterday, I described why this happening, how we can recognize flawed AI claims, and push back.“   Zum Fundstück (princeton.edu, engl., 15 min)

Welches Fundstück hat Sie zuletzt inspiriert? Senden Sie uns Ihre Ideen!

 

Dies war Ausgabe 252 des GI-Radars. Zusammengestellt hat sie Dominik Herrmann, der um KI-Veranstaltungen momentan einen großen Bogen macht. Die Mitteilungen hat wie immer GI-Geschäftsführerin Cornelia Winter zusammengetragen. Das nächste GI-Radar erscheint am 13. Dezember 2019.

Im GI-Radar berichten wir alle zwei Wochen über ausgewählte Informatik-Themen. Wir sind sehr an Ihrer Meinung interessiert. Für Anregungen und Kritik haben wir ein offenes Ohr, entweder per E-Mail (redaktion@gi-radar.de) oder über das Feedback-Formular bei SurveyMonkey. Links und Texte können Sie uns auch über Twitter (@informatikradar) zukommen lassen.