Die Datenschutzbehörden der Länder üben deutliche Kritik an einem aktuellen Gesetzesvorhaben des Bundesministeriums für Digitales und Staatsmodernisierung. Danach soll die Marktüberwachung für den Einsatz von KI-basierten Anwendungen, die grundrechtsrelevant sind wie zum Beispiel im Hoch-Sicherheitsbereich, der Bundesnetzagentur übertragen werden. Obwohl diese Aufgabe die sogenannte KI-Verordnung (KI-VO) bereits den Datenschutzaufsichtsbehörden zugewiesen hat. Die Landesdatenschutzbehörden sind sich einig, dass der entsprechende Referentenentwurf zu einer massiven Schwächung von Grundrechten führt.

„Die europäische KI-Verordnung schreibt vor, dass es originäre Aufgabe der Datenschutzaufsichtsbehörden ist, in diesem Bereich der Marktüberwachung die Einhaltung von Grundrechten zu kontrollieren. Nun will das Ministerium die Aufgabe einem neu zu schaffenden Gremium übertragen. Dabei wird übersehen, dass diese Entscheidung nicht zur Disposition des deutschen Gesetzgebers steht. Das europäische Recht hat es bereits anders geregelt“, fasst Sebastian Schmidt, der Landesbeauftragte für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern, den Widerspruch zusammen.

Begründet wird das Vorhaben unter anderem damit, vermeintliche Hemmnisse für Innovation abbauen zu wollen, da sich „die Datenschutzbehörden primär auf den Grundrechtsschutz fokussieren“, wie es im Entwurf heißt. Betroffen sind Hochrisiko-KI‑Systeme, sofern diese Systeme für Strafverfolgungszwecke, Grenzmanagement und Justiz und Demokratie eingesetzt werden. Die Datenschutzaufsichtsbehörden, die die Grundrechte der Bürgerinnen und Bürger wahren und stärken, sollen nach dem Referentenentwurf eben deswegen künftig keine Rolle spielen bei der Aufsicht in diesem sehr sensiblen Bereich.

Sebastian Schmidt irritiert das merkwürdige Verständnis in dem Entwurf zur Bedeutung von Grundrechten und auch über die Aufgaben der Datenschutzaufsicht. „Gewerbefreiheit, Wissenschaftsfreiheit oder das Recht auf freie Meinungsäußerung sind wichtige Grundrechte, die die Datenschutzaufsichtsbehörden bei ihren Entscheidungen stets in Einklang mit dem Grundrecht auf Datenschutz bringen. So funktioniert ein demokratischer Rechtsstaat. Weder darf Datenschutz Wissenschaft und Entwicklungen blockieren, noch dürfen wir nach der Devise handeln, erst der Fortschritt, dann die Grundrechte. Denn genau dafür sind Grundrechte da: Fortschritt im Sinne der Bürgerinnen und Bürger zu gewährleisten“, erklärt er.

Für die Datenschutzaufsichtsbehörden steht fest, dass Grundrechtsschutz kein Makel ist, sondern eine demokratische Notwendigkeit. Gerade angesichts der weitreichenden Auswirkungen, die die Nutzung von Künstlicher Intelligenz potenziell auf die Gesellschaft hat, müssen die Grundrechte der Bürgerinnen und Bürger geachtet werden. Die Datenschutzaufsichtsbehörden machen darüber hinaus klar, dass weder alle Kompetenzen bei der Bundesnetzagentur gebündelt noch bei den Datenschutzaufsichtsbehörden die gesamte Zuständigkeit der Marktüberwachung liegen muss. Die von der europäischen KI-Verordnung getroffenen Regelungen sehen einen Ausgleich der Kompetenzen vor.

„Die Bundesregierung sollte diesem Weg folgen und schon mit der Kompetenzverteilung die Weichen für grundrechtsorientierte Innovationen setzen“, fasst Sebastian Schmidt zusammen. „Die Aufsichtsbehörden in den Ländern verfügen über die Kompetenzen und Strukturen, um die Aufsicht über die KI-Systeme in den grundrechtsrelevanten Bereichen effizient und verbindlich wahrzunehmen“, stellt er klar. Außerdem fällt nach dem Gesetzentwurf der Bundesnetzagentur auch die Marktaufsicht über den Einsatz von KI durch Landesbehörden zu. Das ist jedenfalls beim Einsatz von KI für originäre Landesaufgaben verfassungswidrig.

Hintergrund

Im März 2024 hat das Europäische Parlament die Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO) angenommen. Nach Inkrafttreten der KI‐VO im Februar 2025 muss in Deutschland eine behördliche Aufsichtsstruktur eingerichtet werden. In der anstehenden Länder- und Verbändeanhörung zum Referentenentwurf werden sich die Landesdatenschutzbehörden mit einer Stellungnahme beteiligen.

Die Aufsicht über den Datenschutz ist in Deutschland föderal strukturiert. Neben der Aufsicht über die Landes- und Kommunalbehörden wird auch der nicht-öffentliche Bereich grundsätzlich von den Landesdatenschutzbehörden betreut. Insgesamt gibt es 17 Landesdatenschutzbehörden in Deutschland (in Bayern zwei).

Kontakt: presse@datenschutz-mv.de

Telefon: 0385 59494-56