- Anzeigen -

Transparenz-Anforderungen an KI-Systeme


Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche Potenziale/Ausschuss
Carla Hustedt: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme"

- Anzeigen -





Anforderungen an die Transparenz sowie rechtliche Fragen rund um haftungs-, patent- und datenschutzrechtliche Aspekte KI-basierter Systeme haben die Mitglieder der Enquete-Kommission "Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale" in zwei Fachgesprächen diskutiert. Die Impulsvorträge der insgesamt fünf Sachverständigen fanden in öffentlicher Sitzung statt, Fragerunde und Diskussion unter Ausschluss der Öffentlichkeit.

Carla Hustedt (Bertelsmann Stiftung) warb in ihrem Vortrag unter dem Titel "KI-Transparenz aus Verantwortung" für "mehr Genauigkeit" in der Debatte um KI-Transparenz. Die Vieldeutigkeit sei ein Problem, sagte die Leiterin des Projekts "Ethik der Algorithmen".

So müsse geklärt werden, was mit Transparenz erreicht, welche Systeme transparent gemacht und wie diese Transparenz geschaffen werden soll. Hustedt betonte, dass Transparenz kein Selbstzweck, sondern ein "wirkungsvoller Hebel" sei, um verschiedene Ziele zu erreichen, etwa um "individuelles Vertrauen und gesellschaftliche Akzeptanz für algorithmische Entscheidungsprozesse" zu schaffen. Die Sachverständige sprach sich in diesem Zusammenhang für einen Teilhabe-Fokus aus: Demnach ist das entscheidende Kriterium für Transparenz-Anforderungen an ein algorithmisches System, inwiefern es Einfluss auf die "Teilhabe von Menschen an gesellschaftlich relevanten Gütern" habe. Fragen nach der Teilhaberelevanz stellen sich daher auch für im Vergleich zu komplexen lernenden Systemen bei einfachen Softwaresystemen.

Diese hätten oft mehr Einfluss auf das Leben von Menschen als ein Großteil der aktuell im Einsatz befindlichen KI-Systeme. "Nicht jede Black Box muss geöffnet werden", sagte Hustedt mit Verweis auf das in Zusammenhang mit komplexen KI-Systemen diskutierte Problem der mangelnden Nachvollziehbarkeit der Entscheidungen dieser Systeme. Hustedt unterstrich zudem, dass mit Kennzeichnung, Nachvollziehbarkeit sowie Überprüfbarkeit unterschiedliche Arten von Transparenz nötig seien. In teilhaberelevanten Bereichen müssten die Nutzer beispielsweise wissen, womit sie es zu tun haben: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme."

Als Handlungsempfehlungen schlug Hustedt der Enquete-Kommission vor, die interdisziplinäre Forschung zu KI-Transparenz zu fördern. Sie forderte zudem, erweiterte Transparenz-Anforderungen in staatliche Vergabestandards aufzunehmen, etwa indem Auftragnehmer verpflichtet werden, die Überprüfung durch Dritte sowie Schaffung von Nachvollziehbarkeit aktiv zu unterstützen. Auch sprach sich die Sachverständige für die Stärkung von Aufsichtsbehörden und zivilgesellschaftlicher Watchdog-Organisationen aus.

Im zweiten Fachgespräch stellten die Sachverständigen rechtliche Fragen sowie die Bedeutung der Normung und Standardisierung im KI-Bereich in den Vordergrund.

Jan Kuhlen, sachverständiges Mitglieder Kommission, sowie der Rechtswissenschaftler Axel Metzger (Humboldt-Universität Berlin) sprachen sich jeweils dafür aus, für Hersteller von KI-Systemen ein Gefährdungshaftung einzuführen. Kuhlen warb dabei für eine sektorale Betrachtung. KI sei nicht per se als gefährlich einzustufen. In einzelnen Sektoren, etwa bei Kraftfahrzeugen oder Medizinrobotern, könne Autonomie aber besonders gefährlich sein, sagte Kuhlen.

Aktuell keinen rechtlichen Handlungsbedarf sah Metzger im Patent- und Urheberrecht. Mit Blick auf das Datenschutzrecht sagte der Rechtswissenschaftler, dass die EU-Datenschutzgrundverordnung keine "unüberwindbare Hürde" darstelle. Der Datenschutz sei schwierig, aber nicht unmöglich. Metzger warb dafür, die Kooperation von Industrie und Datenschutzbeauftragten zu fördern.

Michael Teigeler (DKE Deutsche Kommission Elektrotechnik, Elektronik, Informationstechnik) und Sebastian Hallensleben (VDE Verband der Elektrotechnik, Elektronik, Informationstechnik) hoben die Bedeutung und Vorteile der Normung und Standardsetzung im KI-Bereich hervor. Teigeler verwies darauf, dass das Normungs-System ein Erfolgsmodell sei, das es fortzusetzen gelte. Deutschland habe aktuell großen Einfluss in diesem Bereich, auch wenn dieser künftig abnehmen werde. Es sei aber eine gute Ausgangslage für den KI-Bereich und könne auch ein Standort-Faktor sein.

Hallensleben berichtete über aktuelle Vorhaben im Bereich der KI-Normung. So seien die Bereiche "Methoden und Fachsprache" sowie Ethik international bereits in Arbeit. In anderen Bereichen, etwa der Normung im Bereich "Interoperabilität selbstlernender Systeme", stünde die Arbeit noch am Anfang. (Deutscher Bundestag: ra)

eingetragen: 12.05.19
Newsletterlauf: 14.06.19

- Anzeigen -




Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>



Meldungen: Bundestag, Bundesregierung, Bundesrat

  • Wirksamkeit der Vermögensabschöpfung

    Um die Wirksamkeit des Instruments der Vermögensabschöpfung geht es in einer Kleinen Anfrage der FDP-Fraktion (19/20858). Wie die Fragesteller darin schreiben, sind nach ihrer Ansicht die Gerichte und Strafverfolgungsorgane seit dem Inkrafttreten des Gesetzes zur Reform der strafrechtlichen Vermögensabschöpfung am 1. Juli 2017 mit diversen Unklarheiten der Neuregelungen beschäftigt. Medial in den Fokus geraten sei das neue Recht bisher insbesondere bei der Beschlagnahme von 77 Immobilien durch die Berliner Staatsanwaltschaft im Jahr 2018.

  • FDP-Antrag gegen Aktiensteuer abgelehnt

    Die FDP-Fraktion hat sich mit ihrer Forderung nach einem Verzicht auf die geplante Aktiensteuer nicht durchsetzen können. In einer von der Vorsitzenden Katja Hessel (FDP) geleiteten Sitzung des Finanzausschusses lehnten sowohl die Koalitionsfraktionen CDU/CSU und SPD als auch die Fraktionen von Die Linke und Bündnis 90/Die Grünen einen entsprechenden Antrag (19/10157) ab. Die FDP-Fraktion stimmte für ihren Antrag, die AfD-Fraktion enthielt sich. Die FDP-Fraktion hatte die Bundesregierung aufgefordert, von der Einführung einer Finanztransaktionsteuer wegen der negativen Auswirkungen auf Kleinanleger, Realwirtschaft und Altersvorsorge Abstand zu nehmen. Die Finanztransaktionsteuer sei ein ökonomisch verfehlter Ansatz. Das ursprüngliche Ziel, die Finanzinstitute mit einem angemessenen und substanziellen Beitrag an den Kosten der Finanzkrise zu beteiligen, werde nicht erreicht, da die Steuerbelastung im Wege der Überwälzung von den Anlegern, Sparern oder der Realwirtschaft getragen werden müsse.

  • Steuerfreie Risikoausgleichsrücklage

    Die FDP will für Betriebe, die Einkünfte aus Land- und Forstwirtschaft beziehen, die Bildung einer steuerfreien Risikoausgleichsrücklage bis zur Höhe des durchschnittlichen Gewinns der vergangenen vier Wirtschaftsjahre ermöglichen. Dazu legen die Liberalen einen Antrag (19/18948) vor, der einen Ansparbetrag auf einem separaten Bankkonto ermöglichen soll, um somit die betriebliche Risikovorsorge steuerrechtlich anzureizen und vergleichbaren Instrumenten zur Gewinnglättung wie dem Investitionsabzugsbetrag gleichzustellen. Die ertragswirksame Auflösung der Risikoausgleichsrücklage müsse dabei unbürokratisch möglich sein.

  • Entlastung für Finanzwirtschaft abgelehnt

    Der Finanzausschuss hat einen Vorstoß der FDP-Fraktion zur Entlastung der Finanzwirtschaft von Bürokratie abgelehnt. Der Ausschuss wies in seiner Sitzung unter Leitung der Vorsitzenden Katja Hessel (FDP) einen Antrag der FDP-Fraktion (19/18671) für ein "Corona-Moratorium zur Finanzmarktbürokratie" zurück. Für den Antrag stimmte nur die FDP-Fraktion. Die Fraktionen von CDU/CSU, SPD Die Linke und Bündnis 90/Die Grünen lehnten ab, die AfD-Fraktion enthielt sich. Die FDP-Fraktion hatte gefordert, angesichts der Corona-Epidemie und ihrer Folgen solle die Bundesregierung auf zahlreiche neue Regelungen für den Finanzmarkt verzichten. Gerade für den Finanzmarkt habe die Bundesregierung eine Reihe an neuen Regelungen geplant beziehungsweise bereits beschlossen, welche die jeweilige Branchen vor Herausforderungen stellen würden, die diese in Zeiten der Corona-Krise nicht bewältigen könnten, heißt es.

  • Stellung der Staatsanwaltschaft umstritten

    Die Stellung der Staatsanwaltschaft ist Thema einer Anhörung im Ausschuss für Recht und Verbraucherschutz gewesen. Den sieben Sachverständigen lagen ein Gesetzentwurf der FDP-Fraktion zur Stärkung der Unabhängigkeit der Staatsanwaltschaft (19/11095) und ein Antrag der Fraktion Bündnis 90/Die Grünen vor, der auf eine rechtsstaatliche Reform der Stellung der Staatsanwaltschaft abzielt (19/13516). Die Experten kamen in ihren Stellungnahmen zu unterschiedlichen Bewertungen. Gegen eine Reform sprach sich George Andoor, Regierungsrat aus Frankfurt am Main, aus. Beide Vorlagen sähen die Einführung einer unabhängigen Staatsanwaltschaft vor und seien auf die Abschaffung der ministeriellen Einzelweisungsbefugnis gerichtet. Andoor hält dies nicht für angezeigt. Die Staatsanwaltschaft als Exekutivbehörde unterscheide sich nicht so wesentlich von anderen Behörden, als dass nachzuvollziehen wäre, warum ausgerechnet bei ihr das Minus an parlamentarischer Kontrolle, das mit einer Unabhängigkeit der Staatsanwaltschaft einherginge, gerechtfertigt sein soll. Die vom Europäischen Gerichtshof (EuGH) letztendlich nur geforderte Ausstellung des Europäischen Haftbefehls durch eine unabhängige Stelle sei bereits möglich, sodass allenfalls eine klarstellende Gesetzesänderung angezeigt sei.