GI-Radar 364: KI im Blick christlicher Ethik

Liebe Leserinnen und Leser,

in dieser Ausgabe geht es um einen neuen Supercomputer, der eventuell Begehrlichkeiten weckt, um nicht genutzte KI-Potenziale, wie es sich anfühlt, mit 40 das erste Mal ein Smartphone zu nutzen und um Stress in der Lehre durch immer mehr digitale Technologien. Das Thema im Fokus behandelt die Frage, wie Entwicklung und Einsatz von KI-Technologien aus Sicht einer christlichen Ethik aussieht. In den GI-Mitteilungen werben wir noch einmal für unser Festival, das kommenden Dienstag in Wiesbaden startet, stellen Ihnen schon einmal unsere vier neuen Junior-Fellows vor, fordern eine bessere IT-Administration in den Schulen und weisen auf notwendige Kontrollen bei Wahlsystemen hin. Das Fundstück befasst sich mit Farben.

Wir wünschen Ihnen viel Spaß mit dieser Ausgabe.

auf gi-radar.de weiterlesen

KURZMITTEILUNGEN

Neuer Supercomputer an der ETH Zürich (NZZ). Am kommenden Wochenende weiht die ETH Zürich den für KI-Anwendungen optimierten Supercomputer Alps ein. Alps wurde entwickelt, um die grossen Daten- und Rechenanforderungen der Wissenschaft zu erfüllen. Die Rechenleistung von Alps dürfte also begehrt sein. Wer in den Genuss der Nutzung kommt, entscheidet ein Gremium aus Fachleuten.  weiterlesen

KI-Potenziale heben (Computerwoche). Dass mittels generativer KI manches in Unternehmen einfacher und besser wird, steht außer Frage. Dennoch hapert es häufig an der Umsetzung. Dies hängt zum einen mit der Erfassung der Daten zusammen und zum anderen auch mit der Bereitschaft, die entsprechenden Technologien zu implementieren.  weiterlesen

Technikskepsis: das erstes Smartphone mit 40 (ZEIT). Anschaulich beschreibt ein Autor, wie sein 40-jähriger Bruder gerade das Leben mit seinem allerersten Smartphone entdeckt. Eine putzige Zeitreise, die zum Nachdenken anregt.  weiterlesen

Stress in der Lehre durch digitale Technologien (Forschung und Lehre). Eine Studie in den Vereinigten Staaten zeigt, dass sich Lehrende durch den zunehmenden Einsatz digitaler Technologien gestresst fühlen. Unter anderem sei es durch die digitalen Methoden und Mittel sehr viel schwerer, eine Trennung zwischen Arbeit und Freizeit zu schaffen.  weiterlesen

THEMA IM FOKUS

Künstliche Intelligenz: Verbreitung und Versuch einer Definition. Der Begriff „Künstliche Intelligenz“ ist spätestens mit dem Vorstellen und der schnellen Verbreitung des von OpenAI vorgestellten Chat GPT seit November 2022 einer breiten Öffentlichkeit bekannt geworden. Innerhalb von nur fünf Tagen hatte das System weltweit eine Million Nutzerinnen und Nutzer; innerhalb von acht Wochen bereits 100 Mio. 

Kristian Kersting, Professor für KI und maschinelles Lernen an der TU Darmstadt definiert KI so: „Künstliche Intelligenz (KI) ist die Wissenschaft von Algorithmen, die es Computern ermöglichen, intelligentes (nicht unbedingt menschliches) Verhalten abzubilden“ (welt.de). Diese Definition gleicht inhaltlich anderen ähnlichen Definitionsversuchen, bleibt aber wie diese unbefriedigend, denn sie misst die KI an der menschlichen Intelligenz und setzt damit voraus, dass wir wissen, was die menschliche Intelligenz ausmacht (wikipedia.org)

Es verhält sich mit der „Intelligenz“ so ähnlich, wie mit der Vorstellung von dem Begriff „Zeit“, von der Kirchenvater Augustinus schreibt: „Wenn mich niemand danach fragt, weiß ich es; will ich einem Fragenden es erklären, weiß ich es nicht!“ (buboquote.com)

Damit aber bleibt jede Definition der Künstlichen Intelligenz unscharf. 

Brüche im Selbstverständnis des Menschen. In seiner Sozialisation und in der Entwicklung seiner Kultur haben sich, resultierend aus seinen zumeist naturwissenschaftlichen Erkenntnissen für den Menschen immer wieder Brüche in seinem Selbstverständnis ergeben (idea.de).

Mit der KI tritt eine neue Herausforderung an den denkenden Menschen heran. Diesmal wird sein geglaubtes Alleinstellungsmerkmal unter all den Spielarten der belebten und unbelebten Natur als einziger ein Denkender zu sein, in Frage gestellt. Unbestreitbar zeigt sich die KI als ein Werkzeug mit kognitiven Fähigkeiten, die den Menschen nicht nur verblüfft, sondern dem Menschen zumindest partiell auch überlegen scheint. 

Bedeutung der Künstlichen Intelligenz in Unternehmen und der Gesellschaft. Die Bedeutung der KI resultiert aus der großen Zahl denkbarer Anwendungsfälle in verschiedensten Fachdisziplinen. Ähnlich wie Maschinen und Roboter, die den Menschen bei ansonsten körperlichen Arbeiten unterstützen, stellt die KI ihre Leistung bei kognitiven Arbeiten unter Beweis (ki.thws.de). Es ist absehbar, dass die KI in Form von „intelligenten“ Assistenzfunktionen mit einer ausgefeilten, auf natürlicher Sprache basierenden Mensch-Maschine-Schnittstelle, an praktisch allen digitalen Arbeitsplätzen eingesetzt werden kann (fraunhofer.de, weforum.org). Kommunikation ist die Grundlage jeder Zivilisation. Sprache mündlich oder schriftlich, Bilder oder Filme, Gestik und Mimik bestimmen unser soziales Miteinander im Privaten wie in der Berufswelt. In Form von digitalen Assistenzsystemen können KI-Systeme heute alle diese Facetten der Kommunikation mit dem Menschen (scheinbar sogar auf Augenhöhe) leisten und sind damit in der Lage den Menschen bei seiner Arbeit erheblich zu unterstützen.

Heutige Grenzen und Risiken der Künstlichen Intelligenz. Die Leistung der heutigen KI-Systeme ist verblüffend. Gerade die KI auf der Basis der Neuronalen Netze zeigt Ergebnisse, die in Teilbereichen die kognitiven Leistungen von Menschen erreichen, ja diese bereits übertreffen können und ein Ende dieser Entwicklung ist überhaupt noch nicht absehbar (fraunhofer.de). Dabei verfügt die KI im deutlichen Unterschied zum Menschen weder über ein wirkliches Verständnis der Welt noch über irgendeine Art von Bewusstsein (spektrum.de). Damit aber bleibt die KI ohne eigenen Antrieb, sich Problemen zu stellen, für die sie nie programmiert wurde und ohne die Fähigkeit, solche Probleme einer Lösung zuzuführen.

Erlernen von neuem Wissen ist KI-Systemen ohne große menschliche Unterstützung bei der Annotation (Hinzufügungen zur Erklärung semantischer Zusammenhänge) nur in Spezialfällen möglich. Darüber hinaus benötigen KI-Systeme viel mehr Trainingsdaten als ein Mensch. Ändern sich die Trainingsdaten, sind die Ergebnisse nicht mehr sicher vorhersehbar. Auch können KI-Systeme ihre Entscheidungen nur unzureichend „erklären“ (wolfgang-wahlster.de). Die sogenannte „Erklärbare Künstliche Intelligenz“ (Explainable Artificial Intelligence, XAI) soll die Ergebnisse für den Menschen nachvollziehbar aufbereiten. Dies ist aber nur sehr schwer möglich und immer noch Forschungsgegenstand (wikipedia.org).

Eine KI, die tatsächlich die kognitive Leistungsfähigkeit des Menschen umfassend erreicht, wird „starke KI“ oder „AGI – Artificial General Intelligence“ genannt (wikipedia.org). Es ist aber noch nicht einmal absehbar, ob oder wie eine solche KI entwickelt werden kann. Auch bleibt hierbei offen, inwieweit diese Leistungsfähigkeit ein Bewusstsein zwingend evoziert oder umgekehrt voraussetzt.

Gleichwohl lassen sich bei der verfügbaren „schwachen KI“ bereits heute viele gesellschaftliche Risiken erkennen (sueddeutsche.de; books.google.de, S. 34 ff.). Diese resultieren sowohl aus den besonderen Fähigkeiten der KI und ihrem Einsatz in so vielen Disziplinen als auch aus den Grenzen und den Schwächen heutiger KI-Systeme.

Ethische Schlussfolgerungen und christlicher Glaube. Aus moralischer und insb. christlicher Sicht ergeben sich mindestens drei Betrachtungsebenen: Zum ersten die Frage nach unserer Sprache und der unreflektierten Übertragung von menschlichen Eigenschaften und Fähigkeiten (z.B. sehen, wahrnehmen, erkennen, …) auf Maschinen und den damit einhergehenden Assoziationen (ekd.de, S. 29 ff.). Zum zweiten die Frage nach der singulären Stellung des Menschen im Schöpfungsplan Gottes und zum dritten die Frage nach den gesellschaftlichen Folgen des rein an wirtschaftlichen Prioritäten ausgerichteten Einsatzes von KI.

Der zweite Aspekt wird erst dann zum Tragen kommen, wenn zumindest absehbar KI-Systeme oder KI gesteuerte Androiden im Sinne einer Artificial General Intelligence agieren können und darüber hinaus über ein dem Menschen vergleichbares Bewusstsein mit Selbstwahrnehmung, Reflexion und Leidensfähigkeit verfügen. Zum heutigen Zeitpunkt ist dies beides nicht gegeben.

Die aktuell so populären „generative pre-trained transformers“ wie Chat GPT erzeugen Texte, bei denen geschickt Wahrscheinlichkeiten genutzt werden, um die Folgewörter zu bestimmen. Damit aber sind diese Modelle bei der Generierung von Texten von ihren konzeptionellen Grundlagen her vermutlich weiter von einem menschlichen Geist entfernt als die bisherigen symbolischen KI-Modelle oder die neurosymbolischen Ansätze, die stärker semantische Beziehungen und vorgegebene Regeln explizit berücksichtigen.  

Allerdings sind viele dieser KI-Systeme heute schon so weit, dass sie im Dialog (in einem begrenzten Kontext) ein Wesen mit Bewusstsein und Empfindungen so gut simulieren, dass es dem Menschen schwerfällt, diese von einem adäquaten menschlichen Gesprächspartner zu unterscheiden. Damit bestehen diese Systeme den sog. Turing-Test und gelten in diesem Sinne als intelligent (netzwoche.ch).

Der dritte Aspekt nutzt diese Fähigkeiten für den Aufbau von KI-Systemen für z.B. Textverarbeitung, Bildverarbeitung, Sprachassistenten, Robotik und Automatisierung, medizinische Anwendung und militärische Systeme. 

Zwingende Grundlage dieser Systeme sind immer große und sehr große Datenmengen. Der Wert der zugrunde gelegten Datensammlungen ist immens, aber die Rechte derjenigen, die die Daten „geben“ werden dabei oft nicht beachtet. Besonders problematisch sind hierbei personenbezogene Daten, die eigentlich unter die DSGVO fallen, aber von den Systemen zum Teil durch entsprechende Lernschritte auf Basis von Wahrscheinlichkeiten abgeleitet werden können (plattform-lernende-systeme.de).

Technische Systeme sind nie gut oder schlecht (philpapers.org). Die ethischen Bewertungen können immer nur auf den Menschen und den Einsatz seiner Werkzeuge und seiner Systeme angewendet werden. Dort, wo KI das Leben der Menschen erleichtert, repetitive Arbeiten reduziert oder Leben rettet, ist der Einsatz von KI-Systemen moralisch sogar geboten. Diese innovativen Technologien haben wegen ihrer umfassenden Einsatzmöglichkeiten ein sehr hohes wirtschaftliches Potenzial. Die wesentlichen Schranken eines ungebremsten Einsatzes liegen aktuell in der Verfügbarkeit der Technik und vor allem in den hohen Kosten, solche KI-Systeme praxistauglich zu entwickeln und zu trainieren. Diese marktwirtschaftlichen Faktoren orientieren sich eher an Renditeerwartungen und weniger an dem wie auch immer gefassten Nutzen für eine Gesellschaft. Insbesondere die unbeabsichtigten gesellschaftlichem Implikationen („Unseens“) werfen moralische Fragen auf (nomos-elibrary.de, S. 3 ff.).

Die christlichen Kirchen orientieren sich in der Bewertung gesellschaftlicher Gegebenheiten und Veränderungen an der Bibel. In der langen Auseinandersetzung mit den naturwissenschaftlichen Erkenntnissen haben sie sich die nüchterne Haltung eines biblischen Realismus zu eigen gemacht (ekd.de, S. 233 ff.). Daraus ergibt sich die Auffassung, dass der Mensch aufgefordert ist, die Welt in der Verantwortung vor dem Wort Gottes zu gestalten. Diese grundsätzliche Position kann bei der sachlichen Beurteilung des digitalen Wandels hilfreich sein.

Fazit. Der gesellschaftliche Wandel durch neue innovative Technologien ist nichts neues und die ethischen Prinzipien, abgeleitet aus der Bibel, sind ebenfalls nicht neu. Christinnen und Christen sind aufgefordert, ihr Wissen und ihre Überzeugungen in den gesellschaftlichen Dialog einzubringen und den Digitalen Wandel aktiv mitzugestalten (ekd.de).

Wir danken Dr. Karl Teille, der diesen Beitrag verfasst hat. Er ist Referent für Künstliche Intelligenz in der Service Agentur der ev.-luth. Landeskirche Hannovers, Sprecher der Regionalgruppe der GI in Braunschweig/Wolfsburg und Dozent an der OvGU in Magdeburg und der TU Braunschweig zu den Themen Ethik im Digitalen Zeitalter und Projektmanagement. Er war 20 Jahre Manager im VW-Konzern und verantwortet u.a. Projekte zur Einführung von KI.

GI-MELDUNGEN

Informatik Festival in Wiesbaden. Nächste Woche ist es soweit: in Wiesbaden öffnen wir am 24. September die Türen für unser Informatik Festival 2024. Noch gibt es Tickets für alle Veranstaltungen. Wir freuen uns sehr, wenn wir ganz viele von Ihnen persönlich begrüßen können.  weiterlesen

Vier neue Junior-Fellows. Auf unserem Informatik Festival werden wir vier ganz besondere junge Leute auszeichnen. Diese haben sich verdient gemacht um KI, Diversität und Medizin in der Informatik. Wir freuen uns auf Franziska Boehnisch, Daniel Braun, Bettina Finzel und Mareike Lisker.  weiterlesen

Deutscher Philologenverband (DPgV) und GI drängen auf Umsetzung des Digitalpaktes. Dass Informatiklehrkräfte fehlen, ist allgemein bekannt. Doch auch bei der Administration der IT-Systeme in den Schulen hapert es gewaltig. Deshalb fordern GI und DPhV die Etablierung einer professionellen IT-Administration an den Schulen.  weiterlesen

Softwarefehler bei Landtagswahl in Sachsen: stärkere Kontrolle nötig. Bei der Landtagswahl in Sachsen stellte sich nach der Veröffentlichung des vorläufigen, amtlichen Endergebnisses heraus, dass die Berechnung der Sitzverteilung fehlerhaft war. Der AK Datenschutz und IT-Sicherheit fordert deshalb eine stärke Kontrolle von Wahlsystemen.  weiterlesen

Kennen Sie eigentlich den GI-Pressespiegel? Dort sammeln wir die Berichterstattung über unsere Fachgesellschaft in Zeitungs-, Radio- und Fernsehbeiträgen. Diese Woche hat sich die Berliner Zeitung (Paywall) eine unserer Junior-Fellows in spe herausgepickt und ein Portrait über sie veröffentlicht. Schauen Sie rein, es gibt da immer wieder Neues oder auch ältere Fundstücke.

FUNDSTÜCK

Blau oder grün? Dieses Mal geht es um die unterschiedliche Wahrnehmung von Farben. Gerade im Spektrum zwischen blau und grün herrscht keine Einigkeit. Unser Fundstück präsentiert Ihnen eine Reihe von Blau- und Grüntönen und fordert Sie auf, sich zu entscheiden, welchen Farbton Sie wahrnehmen. Am Ende erfährt man, ob die eigene Wahrnehmung dem Durchschnitt entspricht oder ob man aus der Reihe tanzt.   Zum Fundstück (ismy.blue)

Welches Fundstück hat Sie zuletzt inspiriert? Senden Sie uns Ihre Ideen!

Dies war Ausgabe 364 des GI-Radars vom 20.09.2024. Zusammengestellt hat diese Ausgabe Dominik Herrmann, für den die Farbe „türkis“ ganz klar zu „blau“ gehört. GI-Geschäftsführerin Cornelia Winter hat die Mitteilungen und Meldungen zusammengetragen. Das nächste Radar erscheint am 4. Oktober.

Im GI-Radar berichten wir alle zwei Wochen über ausgewählte Informatik-Themen. Wir sind sehr an Ihrer Meinung interessiert. Für Anregungen und Kritik haben wir ein offenes Ohr, entweder per E-Mail (redaktion@gi-radar.de) oder über das Feedback-Formular bei SurveyMonkey. Links und Texte können Sie uns auch via X unter @informatikradar zukommen lassen.