- Anzeigen -
Besuchen Sie auch unser Zeitschriftenportfolio im Bereich Governance, Risk, Compliance & Interne Revision

Transparenz-Anforderungen an KI-Systeme


Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche Potenziale/Ausschuss
Carla Hustedt: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme"

- Anzeigen -





Anforderungen an die Transparenz sowie rechtliche Fragen rund um haftungs-, patent- und datenschutzrechtliche Aspekte KI-basierter Systeme haben die Mitglieder der Enquete-Kommission "Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale" in zwei Fachgesprächen diskutiert. Die Impulsvorträge der insgesamt fünf Sachverständigen fanden in öffentlicher Sitzung statt, Fragerunde und Diskussion unter Ausschluss der Öffentlichkeit.

Carla Hustedt (Bertelsmann Stiftung) warb in ihrem Vortrag unter dem Titel "KI-Transparenz aus Verantwortung" für "mehr Genauigkeit" in der Debatte um KI-Transparenz. Die Vieldeutigkeit sei ein Problem, sagte die Leiterin des Projekts "Ethik der Algorithmen".

So müsse geklärt werden, was mit Transparenz erreicht, welche Systeme transparent gemacht und wie diese Transparenz geschaffen werden soll. Hustedt betonte, dass Transparenz kein Selbstzweck, sondern ein "wirkungsvoller Hebel" sei, um verschiedene Ziele zu erreichen, etwa um "individuelles Vertrauen und gesellschaftliche Akzeptanz für algorithmische Entscheidungsprozesse" zu schaffen. Die Sachverständige sprach sich in diesem Zusammenhang für einen Teilhabe-Fokus aus: Demnach ist das entscheidende Kriterium für Transparenz-Anforderungen an ein algorithmisches System, inwiefern es Einfluss auf die "Teilhabe von Menschen an gesellschaftlich relevanten Gütern" habe. Fragen nach der Teilhaberelevanz stellen sich daher auch für im Vergleich zu komplexen lernenden Systemen bei einfachen Softwaresystemen.

Diese hätten oft mehr Einfluss auf das Leben von Menschen als ein Großteil der aktuell im Einsatz befindlichen KI-Systeme. "Nicht jede Black Box muss geöffnet werden", sagte Hustedt mit Verweis auf das in Zusammenhang mit komplexen KI-Systemen diskutierte Problem der mangelnden Nachvollziehbarkeit der Entscheidungen dieser Systeme. Hustedt unterstrich zudem, dass mit Kennzeichnung, Nachvollziehbarkeit sowie Überprüfbarkeit unterschiedliche Arten von Transparenz nötig seien. In teilhaberelevanten Bereichen müssten die Nutzer beispielsweise wissen, womit sie es zu tun haben: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme."

Als Handlungsempfehlungen schlug Hustedt der Enquete-Kommission vor, die interdisziplinäre Forschung zu KI-Transparenz zu fördern. Sie forderte zudem, erweiterte Transparenz-Anforderungen in staatliche Vergabestandards aufzunehmen, etwa indem Auftragnehmer verpflichtet werden, die Überprüfung durch Dritte sowie Schaffung von Nachvollziehbarkeit aktiv zu unterstützen. Auch sprach sich die Sachverständige für die Stärkung von Aufsichtsbehörden und zivilgesellschaftlicher Watchdog-Organisationen aus.

Im zweiten Fachgespräch stellten die Sachverständigen rechtliche Fragen sowie die Bedeutung der Normung und Standardisierung im KI-Bereich in den Vordergrund.

Jan Kuhlen, sachverständiges Mitglieder Kommission, sowie der Rechtswissenschaftler Axel Metzger (Humboldt-Universität Berlin) sprachen sich jeweils dafür aus, für Hersteller von KI-Systemen ein Gefährdungshaftung einzuführen. Kuhlen warb dabei für eine sektorale Betrachtung. KI sei nicht per se als gefährlich einzustufen. In einzelnen Sektoren, etwa bei Kraftfahrzeugen oder Medizinrobotern, könne Autonomie aber besonders gefährlich sein, sagte Kuhlen.

Aktuell keinen rechtlichen Handlungsbedarf sah Metzger im Patent- und Urheberrecht. Mit Blick auf das Datenschutzrecht sagte der Rechtswissenschaftler, dass die EU-Datenschutzgrundverordnung keine "unüberwindbare Hürde" darstelle. Der Datenschutz sei schwierig, aber nicht unmöglich. Metzger warb dafür, die Kooperation von Industrie und Datenschutzbeauftragten zu fördern.

Michael Teigeler (DKE Deutsche Kommission Elektrotechnik, Elektronik, Informationstechnik) und Sebastian Hallensleben (VDE Verband der Elektrotechnik, Elektronik, Informationstechnik) hoben die Bedeutung und Vorteile der Normung und Standardsetzung im KI-Bereich hervor. Teigeler verwies darauf, dass das Normungs-System ein Erfolgsmodell sei, das es fortzusetzen gelte. Deutschland habe aktuell großen Einfluss in diesem Bereich, auch wenn dieser künftig abnehmen werde. Es sei aber eine gute Ausgangslage für den KI-Bereich und könne auch ein Standort-Faktor sein.

Hallensleben berichtete über aktuelle Vorhaben im Bereich der KI-Normung. So seien die Bereiche "Methoden und Fachsprache" sowie Ethik international bereits in Arbeit. In anderen Bereichen, etwa der Normung im Bereich "Interoperabilität selbstlernender Systeme", stünde die Arbeit noch am Anfang. (Deutscher Bundestag: ra)

eingetragen: 12.05.19
Newsletterlauf: 14.06.19

- Anzeigen -




Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>



Meldungen: Bundestag, Bundesregierung, Bundesrat

  • Geldwäsche und Kryptowerte

    Die FDP-Fraktion macht "Kryptowerte und Geldwäsche" zum Thema einer Kleinen Anfrage (19/11489). Vor dem Hintergrund der in deutsches Recht umzusetzenden Änderungsrichtlinie zur vierten EU-Geldwäscherichtlinie fragt die Fraktion die Bundesregierung unter anderem, ob Kryptowerte in Deutschland für Geldwäsche genutzt werden. Zudem erkundigen sich die Liberalen nach Details zu im Referentenentwurf des Umsetzungsgesetzes vorgesehenen Vorgaben für Betreiber von Kryptoverwahrgeschäften.

  • Gebühren für Bankdienstleistungen

    Der Deutsche Bundesregierung liegen keine Erkenntnisse über das Ausmaß der gestiegenen Gebühren und Entgelte für Bankdienstleistungen vor. In ihrer Antwort (19/11436) auf eine Kleine Anfrage der Fraktion Die Linke (19/11064) schreibt sie weiter, da es in diesem Bereich keine staatliche Preisfestsetzung gebe, entwickle die Bundesregierung keine eigenen Preisvorstellungen, sondern setze auf intensiven Wettbewerb und Transparenz, so dass Verbraucher das für sie günstigste Konto am Markt finden können. In den vergangenen Jahren seien zahlreiche Regelungen geschaffen worden, um die Transparenz von Kontoentgelten zu steigern. Die Wirkung dieser auf EU-Vorgaben beruhenden Neuregelungen bleibe abzuwarten.

  • Regierung sieht Einheitssteuersatz kritisch

    Die Einführung eines einheitlichen Umsatzsteuersatzes in Höhe von 16 Prozent würde bei Beibehaltung der bestehenden Steuerbefreiungen zu Steuermindereinnahmen in einer Größenordnung von rund elf Milliarden Euro führen. Dies teilt die Bundesregierung in ihrer Antwort (19/11256) auf eine Kleine Anfrage der FDP-Fraktion (19/10648) mit. Mit dem Übergang zu einem einheitlichen Umsatzsteuersatz würde es zwar zu einer erheblichen Vereinfachung des Umsatzsteuerrechts kommen. Allerdings wäre eine einheitliche Anwendung des Regelsatzes von 16 Prozent gegenüber dem Status quo mit kaum vertretbaren Umverteilungseffekten zu Lasten von Haushalten mit geringem Einkommen verbunden, erwartet die Bundesregierung.

  • FDP gegen Finanztransaktionssteuer

    Die Deutsche Bundesregierung soll von der Einführung einer Finanztransaktionssteuer Abstand nehmen, da das gesetzte Ziel, negative Auswirkungen auf Kleinanleger, Realwirtschaft und Altersvorsorge zu vermeiden, nicht erreicht werden kann. Dies fordert die FDP-Fraktion in einem Antrag (19/11231). Darin stellt sie auch fest, dass das Großprojekt einer europäischen Finanztransaktionssteuer gescheitert sei. Schon 2010 sei die Einführung einer weltweiten Finanztransaktionssteuer beim G20-Gipfel in Toronto zum ersten Mal gescheitert. 2013 sei dann das Projekt einer europaweiten Transaktionssteuer beerdigt worden. Und bis zum heutigen Tag hätten sich die an der verstärkten Zusammenarbeit in der EU beteiligten Mitgliedstaaten nicht auf einem wirklichen Kompromiss zu dieser Steuer einigen können.

  • Betrug bei der Umsatzsteuer

    Für Betrügereien bei der Umsatzsteuer mittels sogenannter Umsatzsteuerkarusselle kann grundsätzlich jedes Produkt beziehungsweise jede Ware genutzt werden. Wie die Deutsche Bundesregierung in ihrer Antwort (19/11067) auf eine Kleine Anfrage der Fraktion Die Linke (19/10449) weiter mitteilt, würden erfahrungsgemäß allerdings vorzugsweise kleine und hochpreisige Waren genutzt. Dies geschehe unter dem Gesichtspunkt, dass man in kurzer Zeit den höchstmöglichen Nutzen aus einem Umsatzsteuerkarussell ziehen wolle. Auf Fragen nach der Bekämpfung dieser Betrugsformen und der Regulierung antwortet die Regierung, Bund und Länder würden bereits seit Jahren intensiv und erfolgreich beim Kampf gegen diese Form der Steuerhinterziehung zusammenarbeiten und hätten eine Vielzahl von Maßnahmen gemeinsam erarbeitet und umgesetzt.