EU-Verordnung zur KI umstritten


Definition von KI im Verordnungsentwurf der Europäischen Kommission viel zu breit gewählt?
Kritik: Mit der KI-Verordnung in dieser Form werde Künstliche Intelligenz in Europa unmöglich gemacht




Der Entwurf für eine EU-Verordnung zur Regulierung Künstlicher Intelligenz (KI) wird von Sachverständigen unterschiedlich bewertet. Das wurde während einer öffentlichen Anhörung des Ausschusses für Digitales deutlich. Während beispielsweise Professor Patrick Glauner von der Technischen Hochschule Deggendorf vor einer Überregulierung warnte, die vor allem kleine und mittelständische Unternehmen (KMU) träfe, lobte Joachim Bühler, Geschäftsführer beim TÜV-Verband, den "risikobasierten Ansatz" der Verordnung. Reguliert werde lediglich der Hochrisikobereich, der einen Anteil von 5 bis 15 Prozent habe, sagte er.

Die Definition von KI sei in dem Verordnungsentwurf der Europäischen Kommission viel zu breit gewählt, kritisierte Patrick Glauner. Er umfasse sogar einen Taschenrechner, der natürlich keine KI sei. Die bisherigen Einengungsversuche seien nicht erfolgreich gewesen, befand er. Eine schärfere Definition sei wichtig, weil es eben ausdrücklich nicht um eine Software-Regulierung gehen solle. Aktuell sehe der Entwurf im Grunde jede Google-Suche als Hochrisikoanwendung an, kritisierte Glauner. Die Anforderungen an die Hochrisikoanwendungen seien aber schlichtweg technisch unerfüllbar. Mit der KI-Verordnung in dieser Form werde Künstliche Intelligenz in Europa unmöglich gemacht, lautete sein Fazit.

Aus Sicht von Jonas Andrulis, Gründer und Geschäftsführer des KI-Unternehmens Aleph Alpha, ändert sich KI gerade fundamental. Sei sie früher von einer Vielzahl individueller Algorithmen geprägt gewesen, werde es in Zukunft weniger Anwender geben, die generalisierte Intelligenz anbieten "und Dinge möglich machen, die eine neue Ära der Mensch-Maschine-Zusammenarbeit definieren". Der Einfluss auf das Wirtschaftswachstum werde generell sehr hoch eingeschätzt - oberhalb von Dampfmaschine, Buchdruck oder Elektrizität. "Die Frage ist nicht, ob diese Entwicklung stattfindet, sondern nur, ob wir sie aktiv mitgestalten wollen", sagte Andrulis. "Wenn wir die KI nicht selbst bauen können, wird unsere Welt fremdbestimmt werden", so der Experte.

Michael Backes, Gründungsdirektor und Geschäftsführer des CISPA Helmholtz Center for Information Security, sagte, die KI-Verordnung könne ein wichtiger Schritt für Deutschland und Europa sein, um Rechtssicherheit zu schaffen und den KI-Einsatz zu regulieren. Allerdings sei der bisherige Entwurf "an manchen Stellen deutlich zu breit gefasst". Umfasst werde im Grunde jede Software. Diejenigen, die von Grund auf die transparenten und fairen Systeme erarbeiten, dürften nicht behindert werden, verlangte der Experte. Nur so sei sicherzustellen, dass europäische Forscher "nicht strukturell benachteiligt sind gegenüber China und den USA". Die KI-Verordnung müsse daher innovationsfördernd gestaltet werden.

Laut TÜV-Geschäftsführer Bühler ermöglicht der risikobasierte Ansatz der Verordnung Innovationen für Unternehmen und berücksichtigt zugleich das berechtigte Sicherheitsinteresse der Gesellschaft angesichts neuer Technologien. So werde die Innovationsfähigkeit Europas erhalten, ohne die Sicherheitsinteressen zu vernachlässigen, sagte er.

Der Sachverständige Jürgen Geuter sieht den Entwurf stark auf Zukunftsnarrative bezogen. "Wir versuchen jetzt Regelungen aufzuschreiben, für eine Fiktion, die in fünf bis zehn Jahren Realität sein soll", sagte er. Es bestehe die Frage, ob KI-Systeme tatsächlich reglementiert werden müssen. Zwar könnten diese tatsächlich diskriminieren, "wenn sie so eingesetzt werden". Das entstehe aber immer aus der Situation heraus, wenn KI-Systeme, oft als Teil größerer Infrastruktursysteme, implementiert würden.

Angela Müller von der AW AlgorithmWatch gGmbH wies darauf hin, dass sich der Verordnungsentwurf auf Anbieter konzentriere. Diskriminierende und ungerechte Auswirkungen seien aber nicht einzig auf technische Effekte zurückzuführen. "KI-basierte Systeme sind sozio-technische Systeme, die in einem bestimmten gesellschaftlichen Kontext eingesetzt werden, der die Auswirkung des Systems unweigerlich beeinflusst", sagte sie. Daher müsse der Fokus auch daraufgelegt werden, auf welche Weise KI-System eingesetzt werden. Es brauche also viel strengere Verpflichtungen für die Betreiber der Systeme.

Catelijne Muller von der Organisation ALLAI begrüßte die Verordnung, "auch wenn sie nicht perfekt ist". Ziel der Verordnung sei es, die Gesundheit, die Sicherheit und die Grundrechte vor negativen Einflüssen der KI zu schützen. Problematisch sei beispielsweise, wenn etwa in der Strafverfolgung durch KI schon die Übereinstimmung von Charaktereigenschaften mit anderen Verdächtigen ausreichend sein könne, um eine Strafverfolgung in Gang zu setzen. Auch könnten Menschen von der Teilnahme an erlaubten Demonstrationen abgehalten werden, weil sie davon ausgehen müssten, dass biometrische Gesichtserkennungssysteme ständig im Einsatz sind und zu Verdächtigungen führen. Deshalb müsse die KI-Verordnung aus Sicht der Grundrechte beleuchtet werden, verlangte Muller.

Durch den Entwurf könne mehr Rechtssicherheit für Unternehmen geschaffen werden, "was deutlich dazu beiträgt, die Akzeptanz für die Nutzung von KI in der Breite der deutschen Wirtschaft zu erhöhen", befand Oliver Suchy vom Deutschen Gewerkschaftsbund (DGB). Dies sei angesichts der noch immer rudimentären Nutzung von KI in der Arbeitswelt dringend geboten. Damit der EU-Vorschlag seine Wirkung zur Entfaltung bringen kann, seien jedoch noch deutliche Nachbesserungen erforderlich, sagte der DGB-Vertreter. Dies gelte insbesondere für die Reichweite des geplanten Hochrisiko-Bereichs sowie für die geplanten Regularien hinsichtlich der Überprüfung der Konformitätsbewertung sowie die Ausgestaltung im Verhältnis Anbieter-Nutzer-Dritte. (Deutscher Bundestag: ra)

eingetragen: 27.09.22
Newsletterlauf: 01.12.22


Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>


Meldungen: Bundestag, Bundesregierung, Bundesrat

  • Bürokratie auf Bundesebene

    Zum Stichtag 24. Mai 2024 sind auf Bundesebene 1.797 Gesetze mit 52.401 Einzelnormen sowie 2.866 Rechtsverordnungen mit 44.475 Einzelnormen gültig gewesen. Das führt die Bundesregierung in einer Antwort (20/11746) auf eine Kleine Anfrage der AfD-Fraktion (20/11510) zu "Maßnahmen zur Reduzierung von Bürokratie auf Bundesebene" aus. Bezogen auf die Zahl der Gesetze beziehungsweise Rechtsverordnungen ist das jeweils der Höchstwert seit 2010.

  • Schrottimmobilien-Missbrauchsbekämpfungsgesetz

    Der Rechtsausschuss hat sich in einer öffentlichen Anhörung mit dem von der Bundesregierung vorgelegten Entwurf eines "Gesetzes zur Bekämpfung missbräuchlicher Ersteigerungen von Schrottimmobilien" (20/11308) befasst. Das Echo der geladenen Expertinnen und Experten zum Schrottimmobilien-Missbrauchsbekämpfungsgesetz fiel dabei sehr unterschiedlich aus.

  • Finanzierung des EEG-Kontos

    Um erneuerbare Energien zu fördern, werden Betreibern von Photovoltaik- und Windanlagen Preise garantiert. Der paradoxe Effekt in der gegenwärtigen Situation: Die Strompreise an der Börse sinken, was gut für den Verbraucher ist.

  • Bekämpfung von Finanzkriminalität

    Geldwäsche soll in Deutschland besser bekämpft werden. Das ist das Ziel des Gesetzentwurfs der Bundesregierung (20/9648) zur Verbesserung der Bekämpfung von Finanzkriminalität (Finanzkriminalitätsbekämpfungsgesetz, FKBG), das der Finanzausschuss mit den Stimmen der Koalitionsfraktionen von SPD, Bündnis 90/Die Grünen und FDP gegen die Stimmen der CDU/CSU- und der AfD-Fraktion sowie der Gruppe Die Linke verabschiedet hat.

  • Innovative Ansätze in der Datenpolitik nötig

    Mit den Rahmenbedingungen für eine innovative Datenpolitik, also Datenaustausch und -nutzung sowie Datenschutz, hat sich der Digitalausschuss in einer öffentlichen Anhörung befasst. Die Sachverständigen bewerteten auch die nationalen Spielräume bei der Umsetzung des europäischen Data Acts, des Data Governance Acts aber auch der KI-Verordnung.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen