Big-Tech-Regulierung: China gibt ethische Richtlinien für KI vor
Menschen sollen die volle Entscheidungsbefugnis über KI-Systeme haben, heißt es in den Vorgaben. Parallel sind strenge Regeln für Algorithmen in der Mache.
(Bild: rongyiquan/Shutterstock.com)
China hat seine ersten ethischen Leitlinien für Künstliche Intelligenz (KI) veröffentlicht. Menschen sollen demnach das Recht haben, selbst zu entscheiden, ob sie KI-Dienste annehmen, eine Interaktion mit einem einschlägigen System beenden oder dessen Betrieb ganz einstellen wollen. Ziel ist es sicherzustellen, "dass die Künstliche Intelligenz immer unter der Kontrolle des Menschen steht".
Die Vorgaben mit dem Titel "Eine neue Generation ethischer Spezifikationen für Künstliche Intelligenz" hat das chinesische Ministerium für Wissenschaft und Technologie vor rund einer Woche veröffentlicht, meldet die South China Morning Post. Sie seien von einem Expertenausschuss ausgearbeitet worden, den das Ressort im Februar 2019 eingerichtet habe. Im selben Jahr hatte das Gremium zunächst eine erste Reihe kurzer Leitprinzipien für die KI-Regulierung herausgegeben, die durch den deutlich ausführlicheren Rahmen nun ergänzt werden.
Sechs Grundprinzipien
Die Autoren des Dokuments legen dem Bericht zufolge sechs Grundprinzipien für KI-Systeme fest. Anbieter müssen demnach etwa gewährleisten, dass die Technik "kontrollierbar und vertrauenswürdig" ist. Die anderen Grundsätze beziehen sich auf die Steigerung des menschlichen Wohlergehens, die Förderung von Fairness und Gerechtigkeit, den Schutz der Privatsphäre der Nutzer und der IT-Sicherheit sowie die Verbesserung der ethischen Kompetenz. Vor allem die auf die Anwender bezogenen Regeln spiegeln die Bemühungen Pekings wider, den Technologiesektor des Landes stärker zu kontrollieren.
Um Risiken vorzubeugen, sollen Hersteller technische und sicherheitsrelevante Schwachstellen in KI-Systemen aufspüren und beheben. Zudem müssen sie sicherstellen, dass die zuständigen Stellen zur Verantwortung gezogen werden und die Verwaltung und Kontrolle der KI-Produktqualität ständig verbessert wird.
Die Leitlinien enthalten auch ein Verbot, KI-Produkte und -Dienste für illegale Zwecke einzusetzen. Untersagt wird, damit die Sicherheit des Landes, der Öffentlichkeit oder von Waren ernsthaft zu gefährden. Einschlägige Systeme dürfen ferner nicht dem öffentlichen Interesse schaden.
Keine Regeln für Behörden
Wie in China üblich ist der Hauptadressat der Vorschriften die Wirtschaft. Um den Einsatz von automatisierter Gesichtserkennung und anderer biometrischer Identifizierungstechniken im öffentlichen Raum etwa durch Polizeibehörden geht es nicht. Die Frage eines Verbots solcher tief in die Grundrechte einschneidender Verfahren steht in Europa im Mittelpunkt der Debatte über die geplanten KI-Regeln. Etwa die Maßgabe, dass der Mensch die Kontrolle behalten soll, findet sich dagegen auch im Entwurf der EU-Kommission.
Fast parallel hat die Cyberspace Administration of China (CAC) laut der Global Times Ende September einen gemeinsamen Plan mit acht anderen Behörden angekündigt, um in den nächsten drei Jahren klare Verwaltungsvorschriften und ein Kontrollsystem für Algorithmen einzurichten. Dabei geht es demnach vorwiegend darum, das Risiko von Missbrauch wie die Beeinflussung der öffentlichen Meinung, Angriffe auf geschäftliche Wettbewerber sowie die Beeinträchtigung der Rechte und Interessen von Internetnutzern zu vermeiden.
"Mehrdimensionales Regulierungssystem"
"Es wird ein mehrdimensionales Regulierungssystem eingerichtet, um die Sicherheitsrisiken von Algorithmen, die Verwaltung von Archiven und illegales Verhalten zu überwachen", erklärte die CAC. Gleichzeitig sollten innovative Programmroutinen gefördert werden. Auch autonome Fähigkeiten von Algorithmen, die trotzdem kontrollierbar sein müssten, und der "Schutz des geistigen Eigentums" sollen vorangetrieben werden.
Eine der jüngsten Maßnahmen des vor knapp einem Jahr gestarteten Big-Tech-Crackdowns der kommunistischen Staatsführung zielt auf Algorithmen zur Empfehlung von Inhalten ab, die auf der Sammlung und Analyse großer Mengen von Nutzerdaten basieren. Die CAC hatte dazu bereits Ende August einen Richtlinienentwurf zur Diskussion gestellt.
"Anbieter algorithmischer Empfehlungsdienste halten sich an Gesetze und Vorschriften", heißt es in dem Papier. Sie respektierten die Ethik und befolgen die Grundsätze von Fairness, Offenheit, Transparenz, wissenschaftlicher Rationalität und Ehrlichkeit. Konzerne wie ByteDance (TikTok alias Douyin), Alibaba, Tencent und Didi werden zudem angehalten, mit solchen Systemen "aktiv positive Energie" zu verbreiten und "die Anwendung von Algorithmen zum Besseren" voranzutreiben.
Gegen Inhalte, die "extravaganten Lebensstil fördern"
Inhalte, "die übermäßigen Konsum und einen extravaganten Lebensstil fördern", stehen dem Entwurf nach im Widerspruch zum jüngsten Vorstoß der Regierung, "gemeinsamen Wohlstand zu fördern und Einkommensungleichheit zu verringern". Anbieter sollen angehalten werden, regelmäßig die Mechanismen, Modelle, Daten und Anwendungsergebnisse von Algorithmen zu verifizieren und deren Grundprinzipien sowie Funktionsweise über eine Schnittstelle für die Nutzer offenzulegen.
Dienstleister "dürfen keine algorithmischen Modelle erstellen, die gegen die öffentliche Ordnung und die guten Sitten verstoßen", betont die CAC. Sie sollen eine "Merkmalsdatenbank zur Identifizierung illegaler und gesundheitsschädlicher Informationen" führen. Schlägt der Filter an, müsse die Übertragung unverzüglich eingestellt und eine weitere Verbreitung entsprechender Inhalte verhindert werden. Der Plan enthält so laut Spandana Singh, Analystin am Open Technology Institute, neben vielen weithin unterstützten Grundsätzen auch Komponenten, die die Kontrolle und Zensur des chinesischen Staats ausweiten würden.
(axk)
