Die Ministerpräsidentin des Landes Rheinland-Pfalz Mainz, 3. März 2020
An den Präsidenten des Bundesrates
Herrn Ministerpräsidenten
Dr. Dietmar Woidke
Sehr geehrter Herr Präsident,
die Landesregierung Rheinland-Pfalz hat beschlossen, dem Bundesrat die als Anlage beigefügte Entschließung des Bundesrates: Digitale Souveränität bei Algorithmen in Europa stärken - Marktortprinzip einführen zuzuleiten.
Ich bitte Sie, die Vorlage gemäß § 36 Absatz 2 der Geschäftsordnung des Bundesrates in die Tagesordnung der 986. Sitzung des Bundesrates am 13. März 2020 aufzunehmen und anschließend den Ausschüssen zur Beratung zuzuweisen.
Mit freundlichen Grüßen
Malu Dreyer
Entschließung des Bundesrates: Digitale Souveränität bei Algorithmen in Europa stärken - Marktortprinzip einführen
- 1. Der Bundesrat stellt fest, dass der Einsatz von Algorithmen und Künstlicher Intelligenz (KI) weltweit über ein großes Potential verfügt. Europa trägt auf der Basis europäischer Werte und Grundrechte entscheidend zum Erfolg einer vertrauenswürdigen KI (trusted Artificial Intelligence) bei.
- 2. Der Bundesrat bekräftigt seine Stellungnahme zur KI-Strategie der Europäischen Kommission (BR-Drs. 165/19(B)
). Er bittet die Bundesregierung dafür Sorge zu tragen, dass ein Vorschlag für ein europäisches Gesetzgebungsverfahren zeitnah unterstützt wird und die von der Europäischen Kommission vorgelegten Ethik-Leitlinien für eine vertrauenswürdige künstliche Intelligenz im Übrigen zeitnah und so verbindlich wie möglich umgesetzt werden. - 3. Der Bundesrat begrüßt, dass auch die Datenethikkommission der Bundesregierung - einstimmig - Empfehlungen vorgelegt hat, die zur Stärkung der digitalen Souveränität der Einzelnen, aber auch Deutschlands und Europas insgesamt, beitragen können. Nun gilt es zu prüfen, wie diese Empfehlungen im Einklang mit den Ethik-Leitlinien der EU in die Praxis umgesetzt werden können.
- 4. Der Bundesrat begrüßt weiter, dass die Datenethikkommission eine risikoabhängige Regulierung für algorithmische Systeme vorschlägt, die den Bürgerinnen und Bürgern einen angemessenen Schutz vermittelt, Innovationen ermöglicht, Planungssicherheit für Investitionen schafft und das Vertrauen der Verbraucherinnen und Verbraucher stärkt.
- 5. Der Bundesrat bittet die Bundesregierung, sich für das Persönlichkeitsrecht schützende Regelungen für grundrechtssensible algorithmische Systeme unter Geltung des EU-Marktortprinzips einzusetzen. Der Bundesrat teilt die Auffassung, dass zahlreiche Anwendungen kein oder nur geringes Schädigungspotenzial aufweisen und daher auch keiner besonderen Kontrolle bedürfen. Bei den anderen Anwendungen bittet der Bundesrat die Bundesregierung zu prüfen, welche Fallgruppen so grundrechtssensibel sind, dass sie weitergehende gesetzliche Schutzvorkehrungen, u.a. Maßnahmen der Information (Transparenz) oder Maßnahmen gegen auftretende Diskriminierungen, erfordern. Denkbare Schutzmechanismen könnten z.B. sein: Rechte auf Kenntnis der involvierten Logik und Tragweite des Systems, auf individuelle Erklärung der Entscheidungsgründe oder ein weitergehender Zugang zu Informationen über algorithmische Systeme. Mehr Transparenz ist auch die Voraussetzung dafür, dass die Verbraucherinnen und Verbraucher von ihren teilweise schon bestehenden Auskunftsrechten auch Gebrauch machen können.
- 6. Der Bundesrat hält entsprechend den Empfehlungen der Datenethikkommission ergänzende Maßnahmen für erforderlich, um die digitale Souveränität zu stärken, und bittet die Bundesregierung, sich dafür einzusetzen. Als solche Maßnahmen kommen insbesondere technische Standards, Informationsangebote und Bewusstseinsbildung, die Errichtung von Kompetenzzentren, die Förderung von EU-Dateninfrastrukturen und die Harmonisierung forschungsspezifischer Regelungen in Betracht.
- 7. Der Bundesrat erinnert daran, dass in den Ländern bereits eine langjährig gewachsene, leistungsstarke Wissenschaftslandschaft mit weitreichenden Kompetenzen im KI-Bereich vorliegt, die es mit den vorgeschlagenen Maßnahmen zu stärken, zu erhalten, und aktiv mit einzubeziehen gilt.
Begründung (nur gegenüber dem Plenum):
Zu Ziffer 1:
Der "europäische Weg" im globalen Wettlauf um Zukunftstechnologien wie der KI zeichnet sich aus durch eine Ausrichtung an der Charta der Grundrechte der Europäischen Union und der Konvention zum Schutz der Menschenrechte und Grundfreiheiten des Europarats (vertrauenswürdige KI/trusted AI) .
Zu Ziffer 2:
Die Datenethikkommission hatte den Auftrag, ethische Leitlinien für den Schutz der Einzelnen, die Wahrung des gesellschaftlichen Zusammenlebens und die Sicherung des Wohlstands im Informationszeitalter zu entwickeln. Die Datenethikkommission stellt unter anderem fest, dass nicht alle Datennutzungen ethisch vertretbar sind und regt neben Ideen für Innovationen auch Maßnahmen zum Schutz natürlicher und juristischer Personen an. Es gilt nun zu prüfen, wie der Abschlussbericht vom 23. Oktober 2019 in die Praxis umgesetzt werden kann.
Zu Ziffer 3:
Kern der Empfehlungen der DEK ist ein risikoabhängiges Regulierungsregime für algorithmische Systeme mit fünf Risikostufen, deren Regulierungstiefe sich am Schädigungspotenzial der Algorithmen orientiert.
Zu Ziffer 4:
Die Datenethikkommission empfiehlt eine EU-Verordnung für Algorithmische Systeme und eine teilweise Stärkung der Aufsicht in den Mitgliedstaaten. Das vorgeschlagene Marktortprinzip nach dem Vorbild der Datenschutzgrundverordnung (Art. 3 Abs. 2 DSGVO) würde dazu führen, dass die Verordnung auch für Unternehmen mit Sitz außerhalb der EU gilt, die hier ihre Dienste anbieten. Dies stärkt die digitale Souveränität Deutschlands und der EU.
Zu Ziffer 5:
Während manche algorithmischen Systeme mit keinen oder nur wenig Risiken verbunden sind, gibt es auch sehr grundrechtssensible Systeme, z.B. mit Gesichtserkennung verbundene Systeme. Hier ist zu prüfen, welche Fallgruppen so grundrechtssensibel sind, dass es besonderer Regelungen zum Schutz des Persönlichkeitsrechts bedarf. Die Datenethikkommission empfiehlt als weitere Maßnahmen insbesondere technische Standards, Informationsangebote und Bewusstseinsbildung, die Errichtung von Kompetenzzentren, die Förderung von EU-Dateninfrastrukturen und die Harmonisierung forschungsspezifischer Regelungen. Solche Maßnahmen können zur Nutzung der Chancen von KI ebenso beitragen wie zur Verbesserung des Schutzes der Verbraucherinnen und Verbraucher.
Zu Ziffer 6:
Zur gewachsenen, leistungsstarken Wissenschaftslandschaft mit weitreichender KI-Kompetenz zählen Universitäten, Hochschulen und außeruniversitäre Forschungseinrichtungen.