Der Bundesrat hat in seiner 989. Sitzung am 15. Mai 2020 die aus der Anlage ersichtliche Entschließung gefasst
Anlage
Entschließung des Bundesrates: Digitale Souveränität bei Algorithmen in Europa stärken - Marktortprinzip einführen
- 1. Der Bundesrat stellt fest, dass der Einsatz von Algorithmen und Künstlicher Intelligenz (KI) weltweit über ein großes Potenzial verfügt. Europa trägt auf der Basis europäischer Werte und Grundrechte entscheidend zum Erfolg einer vertrauenswürdigen KI (trusted Artificial Intelligence - trusted AI) bei. Voraussetzung für eine entsprechende technologische Gestaltung ist, dass Europa zusammen mit seinen forschungsstarken Nachbarn zeitnah ein global wettbewerbsfähiger FuE-Standort wird, der die gesamte Wertschöpfungskette von der Grundlagenforschung bis zur Anwendung umfasst.
- 2. Der Bundesrat begrüßt die Pläne der Kommission zur Stärkung und Vernetzung der KI-Forschung in Europa vom 19. Februar 2020 und fordert die Bundesregierung auf, zeitnah die seit 2018 angekündigten Maßnahmen zur Stärkung der KI in der Bundesrepublik und deren Vernetzung mit europäischen Partnern anzugehen, unter anderem durch die angekündigte deutschfranzösische Vernetzung mit den deutschen KI-Kompetenzzentren.
- 3. Der Bundesrat fordert die Bundesregierung auf, in Abstimmung mit der Kommission und den Ländern zeitnah eine Roadmap für die weitere europäische Vernetzung der KI-Spitzenforschung vorzulegen und dabei entsprechende Initiativen aus der Wissenschaft (ELLIS, CLAIRE) konstruktiv einzubeziehen. Die Zusammenarbeit mit den Spitzenforschungsstandorten in den europäischen Nachbarländern muss gewährleistet sein, um die notwendige kritische Masse zu erreichen.
- 4. Der Bundesrat bittet die Bundesregierung, die bundesgesetzlichen Rahmenbedingungen dahin gehend zu überprüfen, ob sie hinreichend flexibel anwendbar sind. Dies betrifft ebenso die Rahmenbedingungen für Forschende als auch den Umgang mit großen Datenbeständen für Forschungszwecke.
- 5. Der Bundesrat bittet die Bundesregierung, sich in den aktuellen Verhandlungen um den Mehrjährigen Finanzrahmen der EU und während der Europäischen Ratspräsidentschaft für substantielle Investitionen im Bereich KI einzusetzen und Kürzungsvorschläge im Bereich Innovation gegenüber dem Vorschlag der Kommission abzuwenden, um die europäische Souveränität in dieser Zukunftstechnologie zu sichern.
- 6. Der Bundesrat bekräftigt seine Stellungnahme zur KI-Strategie der Kommission (vergleiche BR-Drucksache 165/19(B)
). Er bittet die Bundesregierung anlässlich des Weißbuchs der Kommission zur künstlichen Intelligenz (COM (2020) 65 final,
BR-Drucksache 095/20 (PDF) ) dafür Sorge zu tragen, dass ein Vorschlag für ein europäisches Gesetzgebungsverfahren unterstützt wird und dabei die von der Kommission vorgelegten Ethik-Leitlinien für eine vertrauenswürdige künstliche Intelligenz sowie die Empfehlungen der von der Bundesregierung eingesetzten Datenethikkommission (DEK) vom Oktober 2019 umgesetzt werden. - 7. Der Bundesrat begrüßt, dass auch die DEK der Bundesregierung - einstimmig - Empfehlungen vorgelegt hat, die zur Stärkung der digitalen Souveränität der Einzelnen, aber auch Deutschlands und Europas insgesamt, beitragen können.
- 8. Der Bundesrat begrüßt weiter, dass die DEK eine risikoabhängige Regulierung für algorithmische Systeme vorschlägt, die den Bürgerinnen und Bürgern einen angemessenen Schutz vermittelt, Forschung und Wissenschaft ermöglicht, Grundlagen für Innovation bietet, Innovationen ermöglicht, Planungssicherheit für Investitionen schafft und das Vertrauen der Verbraucherinnen und Verbraucher stärkt. Er unterstützt die Empfehlungen zur Stärkung der Transparenzanforderungen an algorithmische Systeme und die Etablierung von Rechenschaftsstrukturen. Aus Sicht des Bundesrates sind aber zentrale datenethische Fragen weiterhin offen, die bei einer Regulierung geklärt werden müssen. Klärungsbedürftig ist insbesondere, ob die bestehenden Diskriminierungsverbote ausreichend sind und wie die Grenzen von Datenauswertungen und algorithmischen Entscheidungen definiert werden können, mit denen der notwendige Schutz der betroffenen Grundrechte sowie der von der DEK und der Kommission geforderte menschenzentrierte Ansatz sichergestellt werden können. Mit Blick auf die hohe globale Dynamik der Entwicklungen regt der Bundesrat eine enge Zusammenarbeit zwischen Staat, Wissenschaft und Forschung sowie Industrie und Wirtschaft an, um Prozesse und Verfahren zu entwickeln, die unter Wahrung der erforderlichen Sicherheit und Transparenz so effizient wie möglich ablaufen können.
- 9. Der Bundesrat bittet die Bundesregierung, sich für das Persönlichkeitsrecht schützende Regelungen für grundrechtssensible algorithmische Systeme unter Geltung des EU-Marktortprinzips einzusetzen. Der Bundesrat teilt die Auffassung, dass zahlreiche Anwendungen kein oder nur geringes Schädigungspotenzial aufweisen und daher auch keiner besonderen Kontrolle bedürfen. Bei den anderen Anwendungen bittet der Bundesrat die Bundesregierung zu prüfen, in welchen Anwendungsgebieten der Einsatz von KI die individuellen Rechte von Personen direkt berührt und ein zusätzlicher Schutz über die bestehenden Regeln hinaus notwendig ist oder welche Institutionen diesen Schutz bereits heute sicherstellen können bzw. welche so grundrechtssensibel sind, dass sie weitergehende gesetzliche Schutzvorkehrungen, unter anderem Maßnahmen der Information (Transparenz) oder Maßnahmen gegen auftretende Diskriminierungen, erfordern. Denkbare Schutzmechanismen könnten zum Beispiel sein: Rechte auf Kenntnis der involvierten Logik und Tragweite des Systems sowie auf individuelle Erklärung der Entscheidungsgründe oder ein weitergehender Zugang zu Informationen über algorithmische Systeme. Mehr Transparenz ist auch die Voraussetzung dafür, dass die Verbraucherinnen und Verbraucher von ihren teilweise schon bestehenden Auskunftsrechten auch Gebrauch machen können.
- 10. Der Bundesrat hält entsprechend den Empfehlungen der DEK ergänzende Maßnahmen für erforderlich, um die digitale Souveränität zu stärken, und bittet die Bundesregierung, sich dafür einzusetzen. Dies gilt insbesondere für die Forderung nach einer Einführung von innovativen Datenmanagement- und Datentreuhandmodellen, deren Systeme datenschutzkonform ausgestaltet sind und die Nutzungspräferenzen des Einzelnen abbilden. Auch bittet der Bundesrat die Bundesregierung, sich für Datenschutz durch Technikgestaltung einzusetzen und weitere Maßnahmen, wie Informationsangebote für die Sensibilisierung von Bürgerinnen und Bürgern durch kompetente Einrichtungen, die Förderung von EU-Dateninfrastrukturen sowie die Harmonisierung forschungsspezifischer Regelungen, in Betracht zu ziehen.
- 11. Der Bundesrat erinnert daran, dass in den Ländern bereits eine langjährig gewachsene, leistungsstarke Wissenschafts- und Forschungslandschaft mit weitreichenden Kompetenzen im KI-Bereich vorliegt, die es mit den von der Kommission und der Bundesregierung vorgeschlagenen Maßnahmen zu stärken, zu erhalten und aktiv mit einzubeziehen gilt. Er unterstützt das Bestreben der Bundesregierung und der Kommission, die Förderlandschaft einheitlicher und den Verwaltungsaufwand in Antragsverfahren möglichst gering zu gestalten.