EU-Verordnung zur KI umstritten


Definition von KI im Verordnungsentwurf der Europäischen Kommission viel zu breit gewählt?
Kritik: Mit der KI-Verordnung in dieser Form werde Künstliche Intelligenz in Europa unmöglich gemacht




Der Entwurf für eine EU-Verordnung zur Regulierung Künstlicher Intelligenz (KI) wird von Sachverständigen unterschiedlich bewertet. Das wurde während einer öffentlichen Anhörung des Ausschusses für Digitales deutlich. Während beispielsweise Professor Patrick Glauner von der Technischen Hochschule Deggendorf vor einer Überregulierung warnte, die vor allem kleine und mittelständische Unternehmen (KMU) träfe, lobte Joachim Bühler, Geschäftsführer beim TÜV-Verband, den "risikobasierten Ansatz" der Verordnung. Reguliert werde lediglich der Hochrisikobereich, der einen Anteil von 5 bis 15 Prozent habe, sagte er.

Die Definition von KI sei in dem Verordnungsentwurf der Europäischen Kommission viel zu breit gewählt, kritisierte Patrick Glauner. Er umfasse sogar einen Taschenrechner, der natürlich keine KI sei. Die bisherigen Einengungsversuche seien nicht erfolgreich gewesen, befand er. Eine schärfere Definition sei wichtig, weil es eben ausdrücklich nicht um eine Software-Regulierung gehen solle. Aktuell sehe der Entwurf im Grunde jede Google-Suche als Hochrisikoanwendung an, kritisierte Glauner. Die Anforderungen an die Hochrisikoanwendungen seien aber schlichtweg technisch unerfüllbar. Mit der KI-Verordnung in dieser Form werde Künstliche Intelligenz in Europa unmöglich gemacht, lautete sein Fazit.

Aus Sicht von Jonas Andrulis, Gründer und Geschäftsführer des KI-Unternehmens Aleph Alpha, ändert sich KI gerade fundamental. Sei sie früher von einer Vielzahl individueller Algorithmen geprägt gewesen, werde es in Zukunft weniger Anwender geben, die generalisierte Intelligenz anbieten "und Dinge möglich machen, die eine neue Ära der Mensch-Maschine-Zusammenarbeit definieren". Der Einfluss auf das Wirtschaftswachstum werde generell sehr hoch eingeschätzt - oberhalb von Dampfmaschine, Buchdruck oder Elektrizität. "Die Frage ist nicht, ob diese Entwicklung stattfindet, sondern nur, ob wir sie aktiv mitgestalten wollen", sagte Andrulis. "Wenn wir die KI nicht selbst bauen können, wird unsere Welt fremdbestimmt werden", so der Experte.

Michael Backes, Gründungsdirektor und Geschäftsführer des CISPA Helmholtz Center for Information Security, sagte, die KI-Verordnung könne ein wichtiger Schritt für Deutschland und Europa sein, um Rechtssicherheit zu schaffen und den KI-Einsatz zu regulieren. Allerdings sei der bisherige Entwurf "an manchen Stellen deutlich zu breit gefasst". Umfasst werde im Grunde jede Software. Diejenigen, die von Grund auf die transparenten und fairen Systeme erarbeiten, dürften nicht behindert werden, verlangte der Experte. Nur so sei sicherzustellen, dass europäische Forscher "nicht strukturell benachteiligt sind gegenüber China und den USA". Die KI-Verordnung müsse daher innovationsfördernd gestaltet werden.

Laut TÜV-Geschäftsführer Bühler ermöglicht der risikobasierte Ansatz der Verordnung Innovationen für Unternehmen und berücksichtigt zugleich das berechtigte Sicherheitsinteresse der Gesellschaft angesichts neuer Technologien. So werde die Innovationsfähigkeit Europas erhalten, ohne die Sicherheitsinteressen zu vernachlässigen, sagte er.

Der Sachverständige Jürgen Geuter sieht den Entwurf stark auf Zukunftsnarrative bezogen. "Wir versuchen jetzt Regelungen aufzuschreiben, für eine Fiktion, die in fünf bis zehn Jahren Realität sein soll", sagte er. Es bestehe die Frage, ob KI-Systeme tatsächlich reglementiert werden müssen. Zwar könnten diese tatsächlich diskriminieren, "wenn sie so eingesetzt werden". Das entstehe aber immer aus der Situation heraus, wenn KI-Systeme, oft als Teil größerer Infrastruktursysteme, implementiert würden.

Angela Müller von der AW AlgorithmWatch gGmbH wies darauf hin, dass sich der Verordnungsentwurf auf Anbieter konzentriere. Diskriminierende und ungerechte Auswirkungen seien aber nicht einzig auf technische Effekte zurückzuführen. "KI-basierte Systeme sind sozio-technische Systeme, die in einem bestimmten gesellschaftlichen Kontext eingesetzt werden, der die Auswirkung des Systems unweigerlich beeinflusst", sagte sie. Daher müsse der Fokus auch daraufgelegt werden, auf welche Weise KI-System eingesetzt werden. Es brauche also viel strengere Verpflichtungen für die Betreiber der Systeme.

Catelijne Muller von der Organisation ALLAI begrüßte die Verordnung, "auch wenn sie nicht perfekt ist". Ziel der Verordnung sei es, die Gesundheit, die Sicherheit und die Grundrechte vor negativen Einflüssen der KI zu schützen. Problematisch sei beispielsweise, wenn etwa in der Strafverfolgung durch KI schon die Übereinstimmung von Charaktereigenschaften mit anderen Verdächtigen ausreichend sein könne, um eine Strafverfolgung in Gang zu setzen. Auch könnten Menschen von der Teilnahme an erlaubten Demonstrationen abgehalten werden, weil sie davon ausgehen müssten, dass biometrische Gesichtserkennungssysteme ständig im Einsatz sind und zu Verdächtigungen führen. Deshalb müsse die KI-Verordnung aus Sicht der Grundrechte beleuchtet werden, verlangte Muller.

Durch den Entwurf könne mehr Rechtssicherheit für Unternehmen geschaffen werden, "was deutlich dazu beiträgt, die Akzeptanz für die Nutzung von KI in der Breite der deutschen Wirtschaft zu erhöhen", befand Oliver Suchy vom Deutschen Gewerkschaftsbund (DGB). Dies sei angesichts der noch immer rudimentären Nutzung von KI in der Arbeitswelt dringend geboten. Damit der EU-Vorschlag seine Wirkung zur Entfaltung bringen kann, seien jedoch noch deutliche Nachbesserungen erforderlich, sagte der DGB-Vertreter. Dies gelte insbesondere für die Reichweite des geplanten Hochrisiko-Bereichs sowie für die geplanten Regularien hinsichtlich der Überprüfung der Konformitätsbewertung sowie die Ausgestaltung im Verhältnis Anbieter-Nutzer-Dritte. (Deutscher Bundestag: ra)

eingetragen: 27.09.22
Newsletterlauf: 01.12.22


Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>


Meldungen: Bundestag, Bundesregierung, Bundesrat

  • GKV soll weniger Mittel für Werbung verwenden

    Die gesetzlichen Krankenkassen (GKV) sollen nach Auffassung des Petitionsausschusses weniger Beitragsmittel für Werbung aufwenden. In der Sitzung am Mittwochmorgen verabschiedeten die Abgeordneten einstimmig die Beschlussempfehlung an den Bundestag, eine dahingehende Petition dem Bundesministerium für Gesundheit (BMG) als Material zu überweisen, "soweit es um die weitere Begrenzung der Verwendung von Beitragsmitteln für Werbemaßnahmen und Werbegeschenke geht", und das Petitionsverfahren "im Übrigen abzuschließen".

  • Neue Missbrauchsregelung weiterreichend

    Der Gesetzentwurf der Deutschen Bundesregierung zur Umsetzung der Bestimmungen der Umwandlungsrichtlinie über die Mitbestimmung der Arbeitnehmer bei grenzüberschreitenden Umwandlungen, Verschmelzungen und Spaltungen (20/3817) ist bei Sachverständigen auf ein überwiegend positives Echo gestoßen.

  • Reform der Firmenumwandlung

    Überwiegend positiv war das Urteil von Sachverständigen zur geplanten Reform des Rechtsrahmens für grenzüberschreitende Fusionen, Aufspaltungen sowie Umwandlungen der Rechtsform von Unternehmen in einer Öffentlichen Anhörung des Rechtsausschusses.

  • Weiterentwicklung des Lobbyregisters

    Eine Weiterentwicklung des Lobbyregisters von Bundestag und Bundesregierung ist Thema der Antwort der Bundesregierung (20/3482) auf eine Kleine Anfrage der Fraktion Die Linke (20/3305). Wie sie darin mit Stand vom 16. September ausführt, erarbeitet sie aktuell eine Änderung des Lobbyregistergesetzes und stimmt sich in Hinblick auf die verfassungsrechtlichen Voraussetzungen einer Ausweitung der Eintragungspflicht sowie Fragen des Gesetzgebungsverfahrens ab.

  • Vergabe von Antibiotika in der Tierhaltung

    Die von der Bundesregierung geplanten Änderungen des Tierarzneimittelgesetzes zur Erhebung von Daten über antibiotisch wirksame Arzneimittel und zur Änderung weiterer Vorschriften (20/3712) werden von Sachverständigen unterschiedlich beurteilt.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen