- Anzeigen -
Besuchen Sie auch unser Zeitschriftenportfolio im Bereich Governance, Risk, Compliance & Interne Revision

Transparenz-Anforderungen an KI-Systeme


Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche Potenziale/Ausschuss
Carla Hustedt: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme"

- Anzeigen -





Anforderungen an die Transparenz sowie rechtliche Fragen rund um haftungs-, patent- und datenschutzrechtliche Aspekte KI-basierter Systeme haben die Mitglieder der Enquete-Kommission "Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale" in zwei Fachgesprächen diskutiert. Die Impulsvorträge der insgesamt fünf Sachverständigen fanden in öffentlicher Sitzung statt, Fragerunde und Diskussion unter Ausschluss der Öffentlichkeit.

Carla Hustedt (Bertelsmann Stiftung) warb in ihrem Vortrag unter dem Titel "KI-Transparenz aus Verantwortung" für "mehr Genauigkeit" in der Debatte um KI-Transparenz. Die Vieldeutigkeit sei ein Problem, sagte die Leiterin des Projekts "Ethik der Algorithmen".

So müsse geklärt werden, was mit Transparenz erreicht, welche Systeme transparent gemacht und wie diese Transparenz geschaffen werden soll. Hustedt betonte, dass Transparenz kein Selbstzweck, sondern ein "wirkungsvoller Hebel" sei, um verschiedene Ziele zu erreichen, etwa um "individuelles Vertrauen und gesellschaftliche Akzeptanz für algorithmische Entscheidungsprozesse" zu schaffen. Die Sachverständige sprach sich in diesem Zusammenhang für einen Teilhabe-Fokus aus: Demnach ist das entscheidende Kriterium für Transparenz-Anforderungen an ein algorithmisches System, inwiefern es Einfluss auf die "Teilhabe von Menschen an gesellschaftlich relevanten Gütern" habe. Fragen nach der Teilhaberelevanz stellen sich daher auch für im Vergleich zu komplexen lernenden Systemen bei einfachen Softwaresystemen.

Diese hätten oft mehr Einfluss auf das Leben von Menschen als ein Großteil der aktuell im Einsatz befindlichen KI-Systeme. "Nicht jede Black Box muss geöffnet werden", sagte Hustedt mit Verweis auf das in Zusammenhang mit komplexen KI-Systemen diskutierte Problem der mangelnden Nachvollziehbarkeit der Entscheidungen dieser Systeme. Hustedt unterstrich zudem, dass mit Kennzeichnung, Nachvollziehbarkeit sowie Überprüfbarkeit unterschiedliche Arten von Transparenz nötig seien. In teilhaberelevanten Bereichen müssten die Nutzer beispielsweise wissen, womit sie es zu tun haben: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme."

Als Handlungsempfehlungen schlug Hustedt der Enquete-Kommission vor, die interdisziplinäre Forschung zu KI-Transparenz zu fördern. Sie forderte zudem, erweiterte Transparenz-Anforderungen in staatliche Vergabestandards aufzunehmen, etwa indem Auftragnehmer verpflichtet werden, die Überprüfung durch Dritte sowie Schaffung von Nachvollziehbarkeit aktiv zu unterstützen. Auch sprach sich die Sachverständige für die Stärkung von Aufsichtsbehörden und zivilgesellschaftlicher Watchdog-Organisationen aus.

Im zweiten Fachgespräch stellten die Sachverständigen rechtliche Fragen sowie die Bedeutung der Normung und Standardisierung im KI-Bereich in den Vordergrund.

Jan Kuhlen, sachverständiges Mitglieder Kommission, sowie der Rechtswissenschaftler Axel Metzger (Humboldt-Universität Berlin) sprachen sich jeweils dafür aus, für Hersteller von KI-Systemen ein Gefährdungshaftung einzuführen. Kuhlen warb dabei für eine sektorale Betrachtung. KI sei nicht per se als gefährlich einzustufen. In einzelnen Sektoren, etwa bei Kraftfahrzeugen oder Medizinrobotern, könne Autonomie aber besonders gefährlich sein, sagte Kuhlen.

Aktuell keinen rechtlichen Handlungsbedarf sah Metzger im Patent- und Urheberrecht. Mit Blick auf das Datenschutzrecht sagte der Rechtswissenschaftler, dass die EU-Datenschutzgrundverordnung keine "unüberwindbare Hürde" darstelle. Der Datenschutz sei schwierig, aber nicht unmöglich. Metzger warb dafür, die Kooperation von Industrie und Datenschutzbeauftragten zu fördern.

Michael Teigeler (DKE Deutsche Kommission Elektrotechnik, Elektronik, Informationstechnik) und Sebastian Hallensleben (VDE Verband der Elektrotechnik, Elektronik, Informationstechnik) hoben die Bedeutung und Vorteile der Normung und Standardsetzung im KI-Bereich hervor. Teigeler verwies darauf, dass das Normungs-System ein Erfolgsmodell sei, das es fortzusetzen gelte. Deutschland habe aktuell großen Einfluss in diesem Bereich, auch wenn dieser künftig abnehmen werde. Es sei aber eine gute Ausgangslage für den KI-Bereich und könne auch ein Standort-Faktor sein.

Hallensleben berichtete über aktuelle Vorhaben im Bereich der KI-Normung. So seien die Bereiche "Methoden und Fachsprache" sowie Ethik international bereits in Arbeit. In anderen Bereichen, etwa der Normung im Bereich "Interoperabilität selbstlernender Systeme", stünde die Arbeit noch am Anfang. (Deutscher Bundestag: ra)

eingetragen: 12.05.19
Newsletterlauf: 14.06.19

- Anzeigen -




Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>



Meldungen: Bundestag, Bundesregierung, Bundesrat

  • Wertpapier-Verordnung wird überprüft

    Die Deutsche Bundesregierung unterstützt wie alle anderen Mitgliedstaaten den Beschluss des europäischen Ausschusses für Wirtschaft und Währung, die Überprüfung der Anfang 2018 in Kraft getretenen PRIIPs-Verordnung durch die Europäische Kommission bis zum 31. Dezember 2019 vornehmen zu lassen. Eine frühere Überprüfung nach nur einem Jahr Anwendung hätte keine brauchbaren Ergebnisse erbracht, heißt es in der Antwort der Deutschen Bundesregierung (19/9600) auf eine Kleine Anfrage der FDP-Fraktion (19/9004).

  • Geplante Belastungen für Aktionäre

    Um die Finanztransaktionssteuer und die mögliche Belastung von Kleinaktionären geht es in einer Kleinen Anfrage der FDP-Fraktion (19/9496). Wie es in der Vorbemerkung zur Kleinen Anfrage heißt, soll die Finanztransaktionssteuer mindestens 0,2 Prozent auf den Erwerb von Aktien von Unternehmen, die eine Marktkapitalisierung über eine Milliarde Euro aufweisen, betragen. Die Deutsche Bundesregierung soll begründen, inwieweit die Einführung einer solchen Steuer die Stabilität an den Finanzmärkten erhöhen kann. Außerdem soll die Bundesregierung die Frage beantworten, ob die Einführung einer Finanztransaktionssteuer nach dem diskutierten Vorschlag eine Beteiligung durch Aktien an den betroffenen Unternehmen unattraktiver macht und ob die Gefahr besteht, dass durch die Finanztransaktionssteuer Anleger vermehrt in ausländische Unternehmen investieren, die nicht einer solchen Steuer unterliegen. Weitere Fragen richten sich unter anderem auf die Auswirkungen der Steuer auf die Altersvorsorge und ob der Anreiz für Kleinanleger, Aktien zu kaufen, sinken könnte.

  • Verbesserungen für Ehrenamtliche

    Der Deutsche Bundesregierung sind keine bürokratischen Hürden für unentgeltlich ausgeübte ehrenamtliche Tätigkeiten bekannt. Dies teilt sie in einer Antwort (19/9579) auf eine Kleine Anfrage der FDP-Fraktion (19/9006) mit. Bei entgeltlicher Ausübung ehrenamtlicher Tätigkeiten würden zahlreiche Erleichterungen wie der sogenannte Übungsleiterfreibetrag bestehen. Es sei beabsichtigt, eine Gesetzesinitiative zur Umsetzung der im Koalitionsvertrag vereinbarten Erleichterungen für das ehrenamtliche Engagement und für die ehrenamtlich Engagierten in dieser Legislaturperiode vorzulegen, heißt es in der Antwort weiter.

  • FDP verlangt Offensive gegen Bürokratie

    Die FDP-Fraktion hat mehr Entschlossenheit beim Abbau der Bürokratie verlangt. In einem Antrag (19/9922), der sich auf den Abbau der Bürokratie im Steuerrecht konzentriert, steht besonders eine Vielzahl von Genehmigungen, Statistiken und behördlichen Verfahren im Fokus, mit denen sich vor allem mittlere und kleinere Unternehmen konfrontiert sehen würden. Unter anderem wird gefordert, die Wertgrenze für Sofortabschreibungen geringwertiger Wirtschaftsgüter auf Anschaffungskosten bis zu einem Betrag von 1.000 anzuheben. Die Abgabezeitpunkte für verschiedene Steueranmeldungen sollen nach dem Willen der FDP-Fraktion vereinheitlicht werden. Steuerpflichtige Rentner, die ausschließlich Renteneinkünfte beziehen, sollen keine Steuererklärung mehr abgeben müssen. In diesen Fällen sollen die dem Finanzamt bekannten Daten für die Steuerfestsetzung verwendet werden.

  • Experten diskutieren Bestellerprinzip

    Ein Gesetzentwurf der Fraktion Bündnis 90/Die Grünen zur Entlastung von Verbrauchern beim Kauf und Verkauf von Wohnimmobilien war Gegenstand einer öffentlichen Anhörung des Ausschusses für Recht und Verbraucherschutz. Die geladenen neun Sachverständigen aus den Bereichen Immobilienwirtschaft, Recht und Verbraucherschutz bewerteten den Entwurf des Makler-Bestellerprinzip- und Preisdeckelgesetzes (19/4557) differenziert, die Bandbreite der Stellungnahmen reichte von Ablehnung bis Zustimmung. Während die Immobilienwirtschaft mit höheren Kosten für Käufer durch das Gesetz rechnet, erwarten Verbraucherschützer selbst bei vollständiger Einpreisung der Provision keine Nachteile.