GI-Radar 260: KI stellt ein

 

Sehr geehrte Leserinnen und Leser,

nach unserem Aufruf in der letzten Ausgabe haben uns einige Antworten erreicht. So hat uns etwa Gabriel Zachmann auf das Coronavirus Tech Handbook hingewiesen, in dem Freiwillige Informationen zusammentragen. Johannes Ebke berichtete uns, dass an seiner Hochschule die Open-Source-Software BigBlueButton.org eingeführt und bereits für Konferenzen mit bis zu 40 Teilnehmerinnen und Teilnehmern genutzt worden sei. Martin Leucker hat uns auf ein kostenloses Webinar mit Tipps für das Homeoffice hingewiesen.

Glücklicherweise gibt es abseits von „Corona“ auch noch andere Themen, die wir Ihnen in dieser Ausgabe vorstellen. Viel Spaß!

auf gi-radar.de weiterlesen

Neues vom NetzDG + Neuland-Ausstellung virtuell + Smartphone im Auto + WirVsVirus-Hackaton + Zeitvertreib im Lockdown + Dezentrale Infrastrukturen + Algorithmen im Recruiting + ACM DL vorerst frei verfügbar + Video der informatiCup-Endrunde + GI-Geschäftsstelle im Homeoffice + Alternativlos-Podcast

KURZMITTEILUNGEN

NetzDG: Mehr Rechte für Nutzerinnen und Nutzer (ZEIT). Die Bundesregierung hat Änderungen am Netzwerkdurchsetzungsgesetz beschlossen. Damit sollen Betroffene mehr Rechte erhalten und es soll ihnen leichter gemacht werden, sich bei Verstößen zur Wehr zur setzen. Der Bundestag muss noch beschließen!  weiterlesen

Neuland-Ausstellung in Frankfurt (Museum für Kommunikation). Konzerte fallen aus, Museen sind geschlossen: das institutionalisierte Kulturleben liegt brach. Das Musum für Kommunikation in Frankfurt ermöglicht es deshalb jetzt, die für Mitte April geplante Ausstellung „Neuland – Ich – Wir & Digitalisierung“ im Web zu besuchen.  weiterlesen

Smartphone im Auto: wer liest mit? (FAZ) So praktisch es sein kann, sich die entsprechende App zu seinem Fahrzeug herunterzuladen und es damit zu bedienen: aus datenschutztechnischer Sicht ist dieser Service nicht unbedenklich. Ein Großteil der Apps funkt Daten und Prozesse direkt an den Autohersteller.  weiterlesen*

Hackaton der Bundesregierung: Ergebnisse jetzt umsetzen! (ZEIT). Ein Wochenende lang war die Öffentlichkeit aufgerufen, im Hackaton „WirVsVirus“ Lösungen zu entwickeln, mit der in der aktuellen Pandemie-Situation das Leben erleichtert und Hilfestellung gegeben werden kann. Knapp 30.000 Interessierte nahmen daran teil. Die 20 besten Projekte wurden ausgezeichnet und harren jetzt der Umsetzung.  weiterlesen

Zeitvertreib im Lockdown (heise). Auch wenn viele im Homeoffice ihrer regulären Arbeit nachgehen: ab und zu tut ein bisschen – nicht immer ernsthafte – Ablenkung einfach gut. Heise stellt Spiele, Lernplattformen und ein Bullshit-Bingo vor.  weiterlesen

Digitales Arbeiten in der Krise: Dezentrale, öffentliche Infrastrukturen schaffen (netzpolitik). Im GI-Radar 249 haben wir ausführlich dezentrale Infrastrukturen vorgestellt. Damals war allerdings noch nicht daran zu denken, dass ganz plötzlich sehr viele Menschen von zu Hause aus arbeiten und die entsprechende Infrastruktur brauchen werden. Ein Plädoyer für die Etablierung unabhängiger Plattformen und Dienste.  weiterlesen

* Artikel ist ggf. nur mit deaktiviertem Adblocker lesbar.

THEMA IM FOKUS

KI im Bewerbungsgespräch: Eingestellt! Wie sieht das Bewerbungsverfahren der Zukunft aus? Unilever, eines der weltweit größten Verbrauchsgüterunternehmen, experimentiert mit neuen Möglichkeiten. Wie „The Telegraph“ schon im September 2019 berichtete, nutzt das Unternehmen einen vom amerikanischen Softwarehersteller HireVue entwickelten Algorithmus zur Analyse von Gesichtsausdrücken und Sprachverhalten, um eine Vorauswahl unter Bewerberinnen und Bewerbern vorzunehmen (Telegraph). Bei der Bewerbung nimmt man von sich selbst per Smartphone oder Computer ein Video auf, das von einer „video interviewing software“ anschließend analysiert wird. Angepasst an das jeweilige Jobangebot, beantworten alle Bewerberinnen und Bewerber im Interview die gleichen Fragen. Ausgewertet werden unter anderem Aspekte der Sprache, der Tonlage oder auch Gesichtsausdrücke. Die eingesetzten Maschinellen Lernverfahren werden zuvor mit Videos von Arbeitnehmerinnen und Arbeitnehmern trainiert, deren Job-Eignung vom Arbeitgeber bereits bewertet worden ist. Durch die Analyse des Videos ermittelt der HireVue-Algorithmus einen Score von 0 bis 100. Anhand dieses Scores kann der Arbeitgeber nun entscheiden, ob die Bewerbung einer Person weiter berücksichtigt oder verworfen wird.

Die Vorzüge solcher Lösungen liegen auf der Hand: Eingereichte Videos lassen sich in kürzester Zeit analysieren. Bewerbungsunterlagen müssen nicht mehr vollständig von Menschen bearbeitet werden. Außerdem verspricht man sich eine objektivere Einschätzung der Bewerberinnen und Bewerber. HireVue verspricht seinen Kunden bis zu 50% schnelleres Wachstum, 29% mehr Umsatz und 13% mehr „Top-Performer“ (hirevue.com).

Unilever ist nicht der einzige Anbieter von Lösungen für die datengetriebene Bewerberanalyse. Unter dem Leitsatz „Let's make work better“ beschäftigt sich Google im Projekt „re:Work“ mit den Praktiken und der Erforschung eines datengetriebenen Ansatzes für Human Resources (HR). Mithilfe von Daten und wissenschaftlichen Methoden soll die Arbeit für alle Mitarbeiterinnen und Mitarbeiter verbessert und ein kollaborativer Prozess für allen Interessenten geschaffen werden (Google) Die Forschung begann dabei bereits im Jahr 2008 im „Project Oxygen“. In Mitarbeiterbefragungen wurden dabei die Eigenschaften der besten Führungskräfte des Unternehmens erhoben (Google). 

Basierend auf den so gewonnenen Informationen stellt re:Work Leitfäden und Gütekriterien für verschiedene Prozesse bereit, etwa die Rekrutierung neuer Mitarbeiter (Google).

Nach Einschätzung der Wirtschaftsprofessoren Biemann und Weckmüller verfolgt Google dabei jedoch den Ansatz „people should make people decisions“ und verzichtet auf den Einsatz von Algorithmen in Bewerbungsverfahren (haufe.de).

Dass die Verwendung von Algorithmen zu schwer kontrollierbaren Problemen führt, zeigt das Beispiel von Amazon. Dort wurden vor einigen Jahren Algorithmen für den Rekrutierungsprozess eingeführt, wie etwa die Nachrichtenagentur Reuters im Oktober 2018 meldete (Reuters). Anhand von Bewerbungen aus einem Zeitraum von zehn Jahren wurde ein auf Maschinellem Lernverfahren basierendes System entwickelt, das 100 Bewerbungen entgegennimmt und daraus die fünf am besten geeigneten Kandidaten zurückliefert. Es stellte sich jedoch heraus, dass das System einen entscheidenden Fehler machte: Im männlich dominierten technischen Umfeld, lernte der Algorithmus schnell, männliche Bewerber zu bevorzugen. Laut den anonymen Quellen von Reuters sei das System nie als alleiniges Entscheidungskriterium eingesetzt und inzwischen eingestellt worden.

Einige deutsche Unternehmen, etwa Fraport oder das Handelsblatt, nutzen Software der PRECIRE Technologies GmbH in Bewerbungsgesprächen. Die eingesetzte Lösung ermittelt anhand von einer 15-minütigen Sprachaufnahme die (vermeintliche) Persönlichkeit von Bewerbenden. Die Messergebnisse konnten wissenschaftlich jedoch nicht bestätigt werden und die Firma bekam 2019 den Negativpreis „Big Brother Award“ (algorithmwatch.org).

Weniger kritisch erscheint der im Journal „The Business Case of AI in HR“ vorgestellte Ansatz der Firma IBM. So sammelt „IBM Watson Recruitment“ Informationen über den Stellenmarkt und bereits rekrutierte Arbeitnehmerinnen und Arbeitnehmer, um die Dauer vorherzusagen, die benötigt wird, um eine Stelle wieder zu besetzen. Weiterhin werden Trefferquoten erstellt, die angeben, wie gut Anforderungen der Jobbeschreibung mit den Kenntnissen der Bewerberinnen und Bewerber zusammenpassen. Dabei geht es offenbar primär darum, den Bewerbungsprozess von Vorurteilen frei zu halten und den zuständigen Mitarbeiterinnen und Mitarbeitern mehr Zeit für das Kennenlernen und Netzwerken mit Bewerberinnen und Bewerbern zu geben (ibm.com).

Bei der Einführung von Software für Entscheidungen, die über Menschen getroffen werden, stellt sich immer die Frage nach der Fairness der angewandten Software. Abgesehen davon, dass die bekannten Probleme bei der Datenerhebung zu Diskriminierung führen können, benachteiligen mitunter auch korrekt erhobene Datensätze einzelne Menschengruppen. Dies wurde auch am AMS-Algorithmus kritisiert (gi.de). Trotz korrekter Erhebung diskriminierten die vorliegenden Daten Menschengruppen mit bestimmten Eigenschaften. Dieses Problem gab es auch beim bereits erwähnten Amazon-System, das das Geschlecht zur Entscheidungsfindung nicht heranzieht, aber trotzdem Männer bevorzugt (Reuters).

Trotz dieser Risiken kann man davon ausgehen, dass in Zukunft öfter datengetriebene Systeme zur Analyse von Bewerbungsgesprächen verwendet werden. Schon jetzt sollten wir uns daher über die daran anzulegenden Anforderungen klar werden. So hat AlgorithmWatch im März 2020 ein Gutachten über die Automatisierung im Personalmanagement veröffentlicht (algorithmwatch.org). In diesem Gutachten werden insbesondere automatisiert getroffene Entscheidungen diskutiert. 

Datengetriebene Systeme greifen in die Persönlichkeitsrechte der Bewerberinnen ein. Laut Art. 22 Abs. 1 Nr. 1 DSGVO darf bei Bewerbungsverfahren die Entscheidung zur Einstellung nicht vollautomatisiert getroffen werden. Dies wird in der Verordnung damit begründet, dass vollautomatisierte Entscheidungen weitaus weniger transparent sind als menschliche. Wären die verwendeten Algorithmen hingegen völlig transparent und verständlich, würde sich die Gefahr der Manipulation des Algorithmus erhöhen. Sind relevante Variablen bekannt, ist es möglich, das eigene Verhalten so anzupassen, dass man im Bewerbungsverfahren als idealer Kandidat erscheint, unabhängig von der tatsächlichen Eignung für die Stelle.

Die Entscheidung über die Annahme eines Bewerbenden sollte daher am Ende, wie im Gutachten von AlgorithmWatch dargelegt, auch weiterhin von Menschen getroffen werden. So gelingt es uns hoffentlich, die Risiken zu beherrschen und von den positiven Effekten der Automatisierung zu profitieren, etwa um mehr Zeit für zwischenmenschliche Interaktion zur Verfügung zu haben.

Da durch die Verwendung neuer Technologie immer wieder ethisch fragwürdige Situationen entstehen, würden wir uns freuen, gemeinsam einen Diskurs zu gestalten, der sich mit solchen Fragen beschäftigt. Verlinken Sie uns gerne mit dem Hashtag #RedaktionSozioinformatik.

Wir bedanken uns herzlich bei Elrike van den Heuvel, Sarah Groos, Lasse Cezanne und Johannes Korz für diesen Beitrag. Die vier sind Mitglieder der Redaktion Sozioinformatik. Kontakt zu den Autoren: redaktion.sozioinformatik@cs.uni-kl.de.

GI-MELDUNGEN

ACM stellt Digitale Bibliothek frei zur Verfügung. Unsere Schwestergesellschaft ACM stellt für die Dauer von drei Monaten ihre Digitale Bibliothek kostenfrei zur Verfügung. Schmökern erlaubt.  weiterlesen

Endausscheidung des informatiCup nacherleben. Nachdem Corona uns bei der Endausscheidung zum informatiCup in der Autostadt Wolfsburg einen Strich durch die Rechnung gemacht hat, haben wir ein (für die GI) neues Format ausprobiert. Als Ergebnis können jetzt alle Interessierten den spannenden Nachmittag inklusive der Auszeichung nacherleben.  weiterlesen

Geschäftsstellen (vorerst) nur virtuell erreichbar. Die beiden GI-Geschäftsstellen sind vorerst nur virtuell für Sie da. Aufgrund der Empfehlung der Bundesregierung sitzen wir im Homeoffice und kümmern uns von dort aus um Ihre Belange.  weiterlesen

 

Kennen Sie eigentlich den GI-Pressespiegel? Dort sammeln wir die Berichterstattung über unsere Fachgesellschaft in Zeitungs-, Radio- und Fernsehbeiträgen. Beispielsweise zitiert die Süddeutsche Zeitung* die GI-Präsidiumsmitglieder Andrea Herrmann und Bernhard Witt aus unserem GI-Radar von vor 14 Tagen zum Thema Tracking bei Corona. Auch der informatiCup ist eine ausführliche Meldung wert: der Deutschlandfunk berichtet in einem Podcast über unseren Wettbewerb.

FUNDSTÜCK

Alternativlos-Podcast. Sie müssen nicht gleichzeitig Heimunterricht, Kinderbetreuung und Homeoffice stemmen? Sie haben inzwischen alle Netflix-Serien gesehen und nun wissen Sie nicht wohin mit Ihrer Zeit? Sie sehnen sich nach anspruchsvoller Unterhaltung mit Technikbezug? Wenn einige dieser Kriterien auf Sie zutreffen, empfehlen wir Ihnen den Alternativlos-Podcast von Frank Rieger und Felix von Leitner. Die Sendungen fokussieren sich jeweils auf ein Thema, das fundiert (mit Quellenangabe) und ausführlich diskutiert wird. Und besonders wichtig in ernsten Zeiten wie diesen: Der Spaß kommt dabei nicht zu kurz.   Zum Fundstück (alternativlos.org)

Dieses Fundstück (insbes. die Alternativlos-Ausgabe 42) wurde von unserem Leser Detlef Morgenstern vorgeschlagen. Vielen Dank! Welches Fundstück hat Sie zuletzt inspiriert? Senden Sie uns Ihre Ideen!

 

Dies war Ausgabe 260 des GI-Radars. Zusammengestellt hat sie, und das ist – zumindest bisher – ebenfalls alternativlos, Dominik Herrmann. Die Mitteilungen hat GI-Geschäftsführerin Cornelia Winter zusammengetragen. Das nächste GI-Radar erscheint dann nach Ostern am 17. April 2020.

Im GI-Radar berichten wir alle zwei Wochen über ausgewählte Informatik-Themen. Wir sind sehr an Ihrer Meinung interessiert. Für Anregungen und Kritik haben wir ein offenes Ohr, entweder per E-Mail (redaktion@gi-radar.de) oder über das Feedback-Formular bei SurveyMonkey. Links und Texte können Sie uns auch über Twitter (@informatikradar) zukommen lassen.