989. Sitzung des Bundesrates am 15. Mai 2020
A
Der Ausschuss für Agrarpolitik und Verbraucherschutz (AV) und der Ausschuss für Kulturfragen (K) empfehlen dem Bundesrat, die Entschließung nach Maßgabe der folgenden Änderungen zu fassen:
1. Zu Nummer 1 Satz 3 - neu -, Nummer 1 Nummer 4, Satz 1 und Satz 2* - neu -, Nummer 5 Satz 3, Nummer 6 Satz 2** und Nummer 7 Satz 1 und Satz 2 - neu -
- a) Nummer 1 ist folgender Satz anzufügen:
"Voraussetzung für eine entsprechende technologische Gestaltung ist, dass Europa zusammen mit seinen forschungsstarken Nachbarn zeitnah ein global wettbewerbsfähiger FuE-Standort wird, der die gesamte Wertschöpfungskette von der Grundlagenforschung bis zur Anwendung umfasst."
- b) Nach Nummer 1 sind folgende Nummern 1a bis 1d einzufügen:
- "1a) Der Bundesrat begrüßt die Pläne der Kommission zur Stärkung und Vernetzung der KI-Forschung in Europa vom 19. Februar 2020 und fordert die Bundesregierung auf, zeitnah die seit 2018 angekündigten Maßnahmen zur Stärkung der KI in der Bundesrepublik und deren Vernetzung mit europäischen Partnern anzugehen, unter anderem durch die angekündigte deutschfranzösische Vernetzung mit den deutschen KI-Kompetenzzentren.
- 1b) Der Bundesrat fordert die Bundesregierung auf, in Abstimmung mit der Kommission und den Ländern zeitnah eine Roadmap für die weitere europäische Vernetzung der KI-Spitzenforschung vorzulegen und dabei entsprechende Initiativen aus der Wissenschaft (ELLIS, CLAIRE) konstruktiv einzubeziehen. Die Zusammenarbeit mit den Spitzenforschungsstandorten in den europäischen Nachbarländern muss gewährleistet sein, um die notwendige kritische Maße zu erreichen.
- 1c) Der Bundesrat bittet die Bundesregierung, die bundesgesetzlichen Rahmenbedingungen dahingehend zu überprüfen, ob sie hinreichend flexibel anwendbar sind. Dies betrifft ebenso die Rahmenbedingungen für Forschende als auch den Umgang mit großen Datenbeständen für Forschungszwecke.
- 1d) Der Bundesrat bittet die Bundesregierung, sich in den aktuellen Verhandlungen um den Mehrjährigen Finanzrahmen der EU und während der Europäischen Ratspräsidentschaft für substantielle Investitionen im Bereich KI einzusetzen und Kürzungsvorschläge im Bereich Innovation gegenüber dem Vorschlag der Kommission abzuwenden, um die europäische Souveränität in dieser Zukunftstechnologie zu sichern."
- c) Nummer 4 ist wie folgt zu ändern:
- aa) In Satz 1 sind nach den Wörtern "angemessen Schutz vermittelt" die Wörter "Forschung und Wissenschaft ermöglicht, Grundlagen für Innovation bietet," einzufügen.
- bb) Folgender Satz ist anzufügen:
"Mit Blick auf die hohe globale Dynamik der Entwicklungen regt der Bundesrat eine enge Zusammenarbeit zwischen Staat, Wissenschaft und Forschung sowie Industrie und Wirtschaft an, um Prozesse und Verfahren zu entwickeln, die unter Wahrung der erforderlichen Sicherheit und Transparenz so effizient wie möglich ablaufen können."
- d) In Nummer 5 Satz 3 sind die Wörter "welche Fallgruppen" durch die Wörter "in welchen Anwendungsgebieten der Einsatz von Künstlicher Intelligenz die individuellen Rechte von Personen direkt berührt und ein zusätzlicher Schutz über die bestehenden Regeln hinaus notwendig ist oder welche Institutionen diesen Schutz bereits heute sicherstellen können bzw." zu ersetzen.
- e) In Nummer 6 Satz 2 sind die Wörter "und Bewusstseinsbildung, die Errichtung von Kompetenzzentren" durch die Wörter "für die Sensibilisierung von Bürgerinnen und Bürgern durch kompetente Einrichtungen," zu ersetzen.
- f) Nummer 7 ist wie folgt zu ändern:
2. Zu Nummer 2 Satz 2, Nummer 3 Satz 2, Nummer 4 Satz 2 - neu - bis Satz 4 - neu - und Nummer 6 Satz 2 und Satz 3 - neu -
- a) In Nummer 2 ist Satz 2 wie folgt zu fassen:
"Er bittet die Bundesregierung anlässlich des Weißbuchs der Kommission zur künstlichen Intelligenz (COM (2020) 65 final, BR-Drucksache 095/20 (PDF) ) dafür Sorge zu tragen, dass ein Vorschlag für ein europäisches Gesetzgebungsverfahren unterstützt wird und dabei die von der Kommission vorgelegten Ethik-Leitlinien für eine vertrauenswürdige künstliche Intelligenz sowie die Empfehlungen der von der Bundesregierung eingesetzten Datenethik-Kommission vom Oktober 2019 umgesetzt werden."
- b) In Nummer 3 ist Satz 2 zu streichen.
- c) Der Nummer 4 sind folgende Sätze anzufügen:
"Er unterstützt die Empfehlungen zur Stärkung der Transparenzanforderungen an algorithmische Systeme und die Etablierung von Rechenschaftsstrukturen. Aus Sicht des Bundesrates sind aber zentrale datenethische Fragen weiterhin offen, die bei einer Regulierung geklärt werden müssen. Klärungsbedürftig ist insbesondere, ob die bestehenden Diskriminierungsverbote ausreichend sind und wie die Grenzen von Datenauswertungen und algorithmischen Entscheidungen definiert werden können, mit denen der notwendige Schutz der betroffenen Grundrechte sowie der von der Datenethik-Kommission und der Kommission geforderte menschenzentrierte Ansatz sichergestellt werden können."
- d) In Nummer 6 ist Satz 2 durch folgende Sätze zu ersetzen:
"Dies gilt insbesondere für die Forderung nach einer Einführung von innovativen Datenmanagement- und Datentreuhandmodellen, deren Systeme datenschutzkonform ausgestaltet sind und die Nutzungspräferenzen des Einzelnen abbilden. Auch bittet der Bundesrat die Bundesregierung, sich für Datenschutz durch Technikgestaltung einzusetzen und weitere Maßnahmen wie Informationsangebote und Bewusstseinsbildung, die Errichtung von Kompetenzzentren, die Förderung von EU-Dateninfrastrukturen sowie die Harmonisierung forschungsspezifischer Regelungen in Betracht zu ziehen."
Begründung (nur gegenüber dem Plenum):
Die Entschließung sollte auf das Weißbuch der Kommission zur KI vom 19. Februar 2020 (BR-Drucksache 095/20 (PDF) ) Bezug nehmen, da darin bereits ein möglicher Regulierungsrahmen für algorithmenbasierte Systeme skizziert wird, mit dem das Anliegen, dass bestimmte datenethische Leitlinien und Empfehlungen berücksichtigt werden sollen, verknüpft werden sollte.
Außerdem sollte der Bundesrat sich deutlich dafür aussprechen, dass die Empfehlungen der von der Bundesregierung eingesetzten Datenethik-Kommission - und nicht nur die Leitlinien der von der Kommission eingesetzten Expertengruppe - bei der künftigen Regulierung von KI-Systemen berücksichtigt werden. Zugleich sollte der Bundesrat darauf aufmerksam machen, dass bestimmte zentrale Fragen noch der Klärung bedürfen.
Denn auch der von der Datenethik-Kommission vorgeschlagene, nach Risiken gestufte Regulierungsrahmen mit Transparenzanforderungen, Risikofolgenabschätzungen und Aufsichtsmaßnahmen setzt voraus, dass Klarheit über die materiellen Maßstäbe für den Einsatz von KI-Systemen mit erheblichem Risikopotenzial besteht.
Der Bundesrat sollte außerdem deutlich machen, dass Datenmanagement- und Datentreuhandsysteme sowie Datenschutz durch Technikgestaltung wichtige Ansätze darstellen, um die Datensouveränität der Verbraucherinnen und Verbraucher zu unterstützen.
B
3. Der federführende Ausschuss für Fragen der Europäischen Union, der Ausschuss für Innere Angelegenheiten und der Rechtsausschuss empfehlen dem Bundesrat, die Entschließung zu fassen.
- * wird bei gleichzeitiger Annahme mit Ziffer 2 als Satz 5 - neu - eingefügt
- ** wird bei gleichzeitiger Annahme mit Ziffer 2 in Satz 3 - neu - ersetzt