EU-Verordnung zur KI umstritten


Definition von KI im Verordnungsentwurf der Europäischen Kommission viel zu breit gewählt?
Kritik: Mit der KI-Verordnung in dieser Form werde Künstliche Intelligenz in Europa unmöglich gemacht




Der Entwurf für eine EU-Verordnung zur Regulierung Künstlicher Intelligenz (KI) wird von Sachverständigen unterschiedlich bewertet. Das wurde während einer öffentlichen Anhörung des Ausschusses für Digitales deutlich. Während beispielsweise Professor Patrick Glauner von der Technischen Hochschule Deggendorf vor einer Überregulierung warnte, die vor allem kleine und mittelständische Unternehmen (KMU) träfe, lobte Joachim Bühler, Geschäftsführer beim TÜV-Verband, den "risikobasierten Ansatz" der Verordnung. Reguliert werde lediglich der Hochrisikobereich, der einen Anteil von 5 bis 15 Prozent habe, sagte er.

Die Definition von KI sei in dem Verordnungsentwurf der Europäischen Kommission viel zu breit gewählt, kritisierte Patrick Glauner. Er umfasse sogar einen Taschenrechner, der natürlich keine KI sei. Die bisherigen Einengungsversuche seien nicht erfolgreich gewesen, befand er. Eine schärfere Definition sei wichtig, weil es eben ausdrücklich nicht um eine Software-Regulierung gehen solle. Aktuell sehe der Entwurf im Grunde jede Google-Suche als Hochrisikoanwendung an, kritisierte Glauner. Die Anforderungen an die Hochrisikoanwendungen seien aber schlichtweg technisch unerfüllbar. Mit der KI-Verordnung in dieser Form werde Künstliche Intelligenz in Europa unmöglich gemacht, lautete sein Fazit.

Aus Sicht von Jonas Andrulis, Gründer und Geschäftsführer des KI-Unternehmens Aleph Alpha, ändert sich KI gerade fundamental. Sei sie früher von einer Vielzahl individueller Algorithmen geprägt gewesen, werde es in Zukunft weniger Anwender geben, die generalisierte Intelligenz anbieten "und Dinge möglich machen, die eine neue Ära der Mensch-Maschine-Zusammenarbeit definieren". Der Einfluss auf das Wirtschaftswachstum werde generell sehr hoch eingeschätzt - oberhalb von Dampfmaschine, Buchdruck oder Elektrizität. "Die Frage ist nicht, ob diese Entwicklung stattfindet, sondern nur, ob wir sie aktiv mitgestalten wollen", sagte Andrulis. "Wenn wir die KI nicht selbst bauen können, wird unsere Welt fremdbestimmt werden", so der Experte.

Michael Backes, Gründungsdirektor und Geschäftsführer des CISPA Helmholtz Center for Information Security, sagte, die KI-Verordnung könne ein wichtiger Schritt für Deutschland und Europa sein, um Rechtssicherheit zu schaffen und den KI-Einsatz zu regulieren. Allerdings sei der bisherige Entwurf "an manchen Stellen deutlich zu breit gefasst". Umfasst werde im Grunde jede Software. Diejenigen, die von Grund auf die transparenten und fairen Systeme erarbeiten, dürften nicht behindert werden, verlangte der Experte. Nur so sei sicherzustellen, dass europäische Forscher "nicht strukturell benachteiligt sind gegenüber China und den USA". Die KI-Verordnung müsse daher innovationsfördernd gestaltet werden.

Laut TÜV-Geschäftsführer Bühler ermöglicht der risikobasierte Ansatz der Verordnung Innovationen für Unternehmen und berücksichtigt zugleich das berechtigte Sicherheitsinteresse der Gesellschaft angesichts neuer Technologien. So werde die Innovationsfähigkeit Europas erhalten, ohne die Sicherheitsinteressen zu vernachlässigen, sagte er.

Der Sachverständige Jürgen Geuter sieht den Entwurf stark auf Zukunftsnarrative bezogen. "Wir versuchen jetzt Regelungen aufzuschreiben, für eine Fiktion, die in fünf bis zehn Jahren Realität sein soll", sagte er. Es bestehe die Frage, ob KI-Systeme tatsächlich reglementiert werden müssen. Zwar könnten diese tatsächlich diskriminieren, "wenn sie so eingesetzt werden". Das entstehe aber immer aus der Situation heraus, wenn KI-Systeme, oft als Teil größerer Infrastruktursysteme, implementiert würden.

Angela Müller von der AW AlgorithmWatch gGmbH wies darauf hin, dass sich der Verordnungsentwurf auf Anbieter konzentriere. Diskriminierende und ungerechte Auswirkungen seien aber nicht einzig auf technische Effekte zurückzuführen. "KI-basierte Systeme sind sozio-technische Systeme, die in einem bestimmten gesellschaftlichen Kontext eingesetzt werden, der die Auswirkung des Systems unweigerlich beeinflusst", sagte sie. Daher müsse der Fokus auch daraufgelegt werden, auf welche Weise KI-System eingesetzt werden. Es brauche also viel strengere Verpflichtungen für die Betreiber der Systeme.

Catelijne Muller von der Organisation ALLAI begrüßte die Verordnung, "auch wenn sie nicht perfekt ist". Ziel der Verordnung sei es, die Gesundheit, die Sicherheit und die Grundrechte vor negativen Einflüssen der KI zu schützen. Problematisch sei beispielsweise, wenn etwa in der Strafverfolgung durch KI schon die Übereinstimmung von Charaktereigenschaften mit anderen Verdächtigen ausreichend sein könne, um eine Strafverfolgung in Gang zu setzen. Auch könnten Menschen von der Teilnahme an erlaubten Demonstrationen abgehalten werden, weil sie davon ausgehen müssten, dass biometrische Gesichtserkennungssysteme ständig im Einsatz sind und zu Verdächtigungen führen. Deshalb müsse die KI-Verordnung aus Sicht der Grundrechte beleuchtet werden, verlangte Muller.

Durch den Entwurf könne mehr Rechtssicherheit für Unternehmen geschaffen werden, "was deutlich dazu beiträgt, die Akzeptanz für die Nutzung von KI in der Breite der deutschen Wirtschaft zu erhöhen", befand Oliver Suchy vom Deutschen Gewerkschaftsbund (DGB). Dies sei angesichts der noch immer rudimentären Nutzung von KI in der Arbeitswelt dringend geboten. Damit der EU-Vorschlag seine Wirkung zur Entfaltung bringen kann, seien jedoch noch deutliche Nachbesserungen erforderlich, sagte der DGB-Vertreter. Dies gelte insbesondere für die Reichweite des geplanten Hochrisiko-Bereichs sowie für die geplanten Regularien hinsichtlich der Überprüfung der Konformitätsbewertung sowie die Ausgestaltung im Verhältnis Anbieter-Nutzer-Dritte. (Deutscher Bundestag: ra)

eingetragen: 27.09.22
Newsletterlauf: 01.12.22


Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>


Meldungen: Bundestag, Bundesregierung, Bundesrat

  • E-Rechnung: E-Mail-Postfach reicht aus

    Für den Empfang einer E-Rechnung reicht künftig die Bereitstellung eines E-Mail-Postfachs aus. Das erklärt die Bundesregierung in ihrer Antwort (20/12742) auf eine Kleine Anfrage der CDU/CSU-Fraktion (20/12563). Allerdings können die beteiligten Unternehmen auch andere elektronische Übermittlungswege vereinbaren.

  • Flächenkreislaufwirtschaft angestrebt

    Die Nutzung neuer Flächen für Bau- und Verkehrsprojekte soll weiter reduziert und bis 2050 auf "Netto-Null" reduziert werden. Dieses Ziel wird in dem von der Bundesregierung als Unterrichtung (20/12650) vorgelegten Transformationsbericht zum Bereich Nachhaltiges Bauen und Verkehrswende formuliert.

  • Förderung für Reparaturinitiativen statt Reparatur

    Die Bundesregierung will laut einer Antwort (20/12723) auf eine Kleine Anfrage der Gruppe Die Linke (20/12495) Reparaturinitiativen mit insgesamt drei Millionen Euro fördern. Die Einführung eines Reparaturbonus auf Elektrogeräte lehnt sie mit Verweis auf die Haushaltslage ab.

  • Vor möglichen Lieferengpässen gewarnt

    Eine Bedrohung der Arzneimittelversorgung ist nach Angaben der Bundesregierung durch das novellierte chinesische Anti-Spionage-Gesetz derzeit nicht zu befürchten. Es gebe einen engen Austausch mit den Ländern, um mögliche Bedenken und Risiken bei künftigen Inspektionsreisen zu minimieren, heißt es in der Antwort (20/12695) der Bundesregierung auf eine Kleine Anfrage (20/12482) der Unionsfraktion.

  • Bericht zur Gleichstellung auf dem Arbeitsmarkt

    Die Bundesregierung hat den "Bericht über die für die Europäische Kommission zu erstellenden Berichte über die durch die Strukturfonds geleisteten Beiträge zur Verwirklichung der Gleichstellung von Frauen und Männern auf dem Arbeitsmarkt" als Unterrichtung (20/12550) vorgelegt.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen