- Anzeigen -
Besuchen Sie auch unser Zeitschriftenportfolio im Bereich Governance, Risk, Compliance & Interne Revision

Transparenz-Anforderungen an KI-Systeme


Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche Potenziale/Ausschuss
Carla Hustedt: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme"

- Anzeigen -





Anforderungen an die Transparenz sowie rechtliche Fragen rund um haftungs-, patent- und datenschutzrechtliche Aspekte KI-basierter Systeme haben die Mitglieder der Enquete-Kommission "Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale" in zwei Fachgesprächen diskutiert. Die Impulsvorträge der insgesamt fünf Sachverständigen fanden in öffentlicher Sitzung statt, Fragerunde und Diskussion unter Ausschluss der Öffentlichkeit.

Carla Hustedt (Bertelsmann Stiftung) warb in ihrem Vortrag unter dem Titel "KI-Transparenz aus Verantwortung" für "mehr Genauigkeit" in der Debatte um KI-Transparenz. Die Vieldeutigkeit sei ein Problem, sagte die Leiterin des Projekts "Ethik der Algorithmen".

So müsse geklärt werden, was mit Transparenz erreicht, welche Systeme transparent gemacht und wie diese Transparenz geschaffen werden soll. Hustedt betonte, dass Transparenz kein Selbstzweck, sondern ein "wirkungsvoller Hebel" sei, um verschiedene Ziele zu erreichen, etwa um "individuelles Vertrauen und gesellschaftliche Akzeptanz für algorithmische Entscheidungsprozesse" zu schaffen. Die Sachverständige sprach sich in diesem Zusammenhang für einen Teilhabe-Fokus aus: Demnach ist das entscheidende Kriterium für Transparenz-Anforderungen an ein algorithmisches System, inwiefern es Einfluss auf die "Teilhabe von Menschen an gesellschaftlich relevanten Gütern" habe. Fragen nach der Teilhaberelevanz stellen sich daher auch für im Vergleich zu komplexen lernenden Systemen bei einfachen Softwaresystemen.

Diese hätten oft mehr Einfluss auf das Leben von Menschen als ein Großteil der aktuell im Einsatz befindlichen KI-Systeme. "Nicht jede Black Box muss geöffnet werden", sagte Hustedt mit Verweis auf das in Zusammenhang mit komplexen KI-Systemen diskutierte Problem der mangelnden Nachvollziehbarkeit der Entscheidungen dieser Systeme. Hustedt unterstrich zudem, dass mit Kennzeichnung, Nachvollziehbarkeit sowie Überprüfbarkeit unterschiedliche Arten von Transparenz nötig seien. In teilhaberelevanten Bereichen müssten die Nutzer beispielsweise wissen, womit sie es zu tun haben: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme."

Als Handlungsempfehlungen schlug Hustedt der Enquete-Kommission vor, die interdisziplinäre Forschung zu KI-Transparenz zu fördern. Sie forderte zudem, erweiterte Transparenz-Anforderungen in staatliche Vergabestandards aufzunehmen, etwa indem Auftragnehmer verpflichtet werden, die Überprüfung durch Dritte sowie Schaffung von Nachvollziehbarkeit aktiv zu unterstützen. Auch sprach sich die Sachverständige für die Stärkung von Aufsichtsbehörden und zivilgesellschaftlicher Watchdog-Organisationen aus.

Im zweiten Fachgespräch stellten die Sachverständigen rechtliche Fragen sowie die Bedeutung der Normung und Standardisierung im KI-Bereich in den Vordergrund.

Jan Kuhlen, sachverständiges Mitglieder Kommission, sowie der Rechtswissenschaftler Axel Metzger (Humboldt-Universität Berlin) sprachen sich jeweils dafür aus, für Hersteller von KI-Systemen ein Gefährdungshaftung einzuführen. Kuhlen warb dabei für eine sektorale Betrachtung. KI sei nicht per se als gefährlich einzustufen. In einzelnen Sektoren, etwa bei Kraftfahrzeugen oder Medizinrobotern, könne Autonomie aber besonders gefährlich sein, sagte Kuhlen.

Aktuell keinen rechtlichen Handlungsbedarf sah Metzger im Patent- und Urheberrecht. Mit Blick auf das Datenschutzrecht sagte der Rechtswissenschaftler, dass die EU-Datenschutzgrundverordnung keine "unüberwindbare Hürde" darstelle. Der Datenschutz sei schwierig, aber nicht unmöglich. Metzger warb dafür, die Kooperation von Industrie und Datenschutzbeauftragten zu fördern.

Michael Teigeler (DKE Deutsche Kommission Elektrotechnik, Elektronik, Informationstechnik) und Sebastian Hallensleben (VDE Verband der Elektrotechnik, Elektronik, Informationstechnik) hoben die Bedeutung und Vorteile der Normung und Standardsetzung im KI-Bereich hervor. Teigeler verwies darauf, dass das Normungs-System ein Erfolgsmodell sei, das es fortzusetzen gelte. Deutschland habe aktuell großen Einfluss in diesem Bereich, auch wenn dieser künftig abnehmen werde. Es sei aber eine gute Ausgangslage für den KI-Bereich und könne auch ein Standort-Faktor sein.

Hallensleben berichtete über aktuelle Vorhaben im Bereich der KI-Normung. So seien die Bereiche "Methoden und Fachsprache" sowie Ethik international bereits in Arbeit. In anderen Bereichen, etwa der Normung im Bereich "Interoperabilität selbstlernender Systeme", stünde die Arbeit noch am Anfang. (Deutscher Bundestag: ra)

eingetragen: 12.05.19
Newsletterlauf: 14.06.19

- Anzeigen -




Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>



Meldungen: Bundestag, Bundesregierung, Bundesrat

  • Börsenhandelsverbot für Schweiz-Aktien

    Die Bundesregierung hat noch versucht, mit einem von der Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) gestellten Antrag im April 2019 eine dauerhafte Verlängerung der Anerkennung der Börsenäquivalenz zwischen der Europäischen Union und der Schweiz zu erreichen. Dies teilt die Deutsche Bundesregierung in ihrer Antwort (19/12639) auf eine Kleine Anfrage der FDP-Fraktion (19/12181) mit, die sich nach den Gründen für das Verbot des Handels der meisten Schweizer Aktien an deutschen Börsen erkundigt hatte. Hintergrund sind Differenzen zwischen der EU und der Schweiz über den Abschluss eines institutionellen Rahmenabkommens.

  • Einflussnahme auf Politik durch Studien

    Die Deutsche Bundesregierung und ihr nachgeordneter Bereich informieren sich im Rahmen ihrer Aufgabenwahrnehmung durch unterschiedlichste Quellen, darunter zahlreiche Papiere und Studien, sowie Gespräche mit einer Vielzahl von Akteuren aller gesellschaftlichen Gruppen. Grundsätzlich fließen in die politische Entscheidungsfindung regelmäßig zahlreiche Faktoren ein, die sich im Nachhinein nicht entflechten lassen. Eine Verpflichtung zur Erfassung sämtlicher Studien und anderer Dokumente, die zum Ausbau des Wissens der Bundesregierung über ein Fachthema dienen, besteht nicht. Das schreibt die Bundesregierung in ihrer Antwort (19/12710) auf die Kleine Anfrage der Linken (19/11760). Die Linke hatte angeführt, dass in letzter Zeit über die Möglichkeiten der verdeckten Einflussnahme von Lobbyisten auf politische Entscheidungen durch wissenschaftliche Studien berichtet worden sei. Lobbyisten würden danach gezielt Studien mit bestimmten Ergebnissen oder bestimmte Ausrichtungen und Fragestellungen in Auftrag geben, die im Ergebnis zur Beeinflussung von Politik führen können.

  • Keine Daten zu Graumarkt-Investments

    Der Deutschen Bundesregierung liegen keine Daten vor, wie viele Personen insgesamt in den sogenannten grauen Kapitalmarkt investiert haben und wie hoch das tatsächliche Anlagevolumen derzeit sein könnte. Auch liegen keine Zahlen zu Straftaten oder entstandenen Schadenssummen im Bereich des grauen Kapitalmarkts vor, heißt es in der Antwort der Bundesregierung (19/12693) auf eine Kleine Anfrage der FDP-Fraktion (19/12080). Eine Befugnis zur Durchführung von Sonderprüfungen, wie zum Beispiel im Bereich der Institutsaufsicht von Banken und Finanzdienstleistungsinstituten, habe die Bundesanstalt für Finanzdienstleistungsaufsicht im Hinblick auf Anbieter von Vermögensanlagen nicht.

  • Kaum Wettbewerb im Schienenfernverkehr

    Der Umsatz im Eisenbahnmarkt ist laut dem als Unterrichtung vorgelegten Tätigkeitsbericht der Bundesnetzagentur für den Bereich der Eisenbahnen (19/11560) im Jahr 2017auf eine neue Höchstmarke von 20,7 Milliarden Euro gestiegen. Den stärksten Umsatzanstieg habe der Schienengüterverkehr (SGV) von 5,6 Milliarden Euro auf 5,7 Milliarden Euro verzeichnet, heißt es in der Vorlage. Im Schienenpersonenfernverkehr (SPFV) sei eine weitere Umsatzsteigerung von vier auf 4,2 Milliarden Euro erreicht worden - im Schienenpersonennahverkehr (SPNV) eine leichte Steigerung von 10,6 Milliarden Euro auf 10,8 Milliarden Euro. "Betrachtet man den Zeitraum der Jahre 2013 bis 2017, gab es im Eisenbahnverkehrsmarkt eine Steigerung um jährlich etwas mehr als zwei Prozent", schreibt die Bundesnetzagentur.

  • 270 Millionen Euro Rückstellungen

    Die Behörden haben bisher 104 Fälle wegen sogenannter Cum/Cum-Gestaltungen aufgegriffen, bei denen mit Geschäften um den Dividendenstichtag eine Belastung mit Kapitalertragsteuer vermieden werden sollte. Wie die Deutsche Bundesregierung in ihrer Antwort (19/12212) auf eine Kleine Anfrage der Fraktion Die Linke (19/11805) weiter mitteilt, ist bei den Fallzahlen zu berücksichtigen, dass für jeden Veranlagungszeitraum ein eigener Fall gebildet wurde. Somit könnten auf die gleiche Person mehrere Fälle entfallen. Wie aus der Antwort weiter hervorgeht, haben Finanzinstitute insgesamt über 270 Millionen Euro Rückstellungen wegen etwaiger Straf- und Steuernachzahlungen vorgenommen.