- Anzeigen -

Transparenz-Anforderungen an KI-Systeme


Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche Potenziale/Ausschuss
Carla Hustedt: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme"

- Anzeigen -





Anforderungen an die Transparenz sowie rechtliche Fragen rund um haftungs-, patent- und datenschutzrechtliche Aspekte KI-basierter Systeme haben die Mitglieder der Enquete-Kommission "Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale" in zwei Fachgesprächen diskutiert. Die Impulsvorträge der insgesamt fünf Sachverständigen fanden in öffentlicher Sitzung statt, Fragerunde und Diskussion unter Ausschluss der Öffentlichkeit.

Carla Hustedt (Bertelsmann Stiftung) warb in ihrem Vortrag unter dem Titel "KI-Transparenz aus Verantwortung" für "mehr Genauigkeit" in der Debatte um KI-Transparenz. Die Vieldeutigkeit sei ein Problem, sagte die Leiterin des Projekts "Ethik der Algorithmen".

So müsse geklärt werden, was mit Transparenz erreicht, welche Systeme transparent gemacht und wie diese Transparenz geschaffen werden soll. Hustedt betonte, dass Transparenz kein Selbstzweck, sondern ein "wirkungsvoller Hebel" sei, um verschiedene Ziele zu erreichen, etwa um "individuelles Vertrauen und gesellschaftliche Akzeptanz für algorithmische Entscheidungsprozesse" zu schaffen. Die Sachverständige sprach sich in diesem Zusammenhang für einen Teilhabe-Fokus aus: Demnach ist das entscheidende Kriterium für Transparenz-Anforderungen an ein algorithmisches System, inwiefern es Einfluss auf die "Teilhabe von Menschen an gesellschaftlich relevanten Gütern" habe. Fragen nach der Teilhaberelevanz stellen sich daher auch für im Vergleich zu komplexen lernenden Systemen bei einfachen Softwaresystemen.

Diese hätten oft mehr Einfluss auf das Leben von Menschen als ein Großteil der aktuell im Einsatz befindlichen KI-Systeme. "Nicht jede Black Box muss geöffnet werden", sagte Hustedt mit Verweis auf das in Zusammenhang mit komplexen KI-Systemen diskutierte Problem der mangelnden Nachvollziehbarkeit der Entscheidungen dieser Systeme. Hustedt unterstrich zudem, dass mit Kennzeichnung, Nachvollziehbarkeit sowie Überprüfbarkeit unterschiedliche Arten von Transparenz nötig seien. In teilhaberelevanten Bereichen müssten die Nutzer beispielsweise wissen, womit sie es zu tun haben: "Wir brauchen ein Vermummungsverbot für algorithmische Systeme."

Als Handlungsempfehlungen schlug Hustedt der Enquete-Kommission vor, die interdisziplinäre Forschung zu KI-Transparenz zu fördern. Sie forderte zudem, erweiterte Transparenz-Anforderungen in staatliche Vergabestandards aufzunehmen, etwa indem Auftragnehmer verpflichtet werden, die Überprüfung durch Dritte sowie Schaffung von Nachvollziehbarkeit aktiv zu unterstützen. Auch sprach sich die Sachverständige für die Stärkung von Aufsichtsbehörden und zivilgesellschaftlicher Watchdog-Organisationen aus.

Im zweiten Fachgespräch stellten die Sachverständigen rechtliche Fragen sowie die Bedeutung der Normung und Standardisierung im KI-Bereich in den Vordergrund.

Jan Kuhlen, sachverständiges Mitglieder Kommission, sowie der Rechtswissenschaftler Axel Metzger (Humboldt-Universität Berlin) sprachen sich jeweils dafür aus, für Hersteller von KI-Systemen ein Gefährdungshaftung einzuführen. Kuhlen warb dabei für eine sektorale Betrachtung. KI sei nicht per se als gefährlich einzustufen. In einzelnen Sektoren, etwa bei Kraftfahrzeugen oder Medizinrobotern, könne Autonomie aber besonders gefährlich sein, sagte Kuhlen.

Aktuell keinen rechtlichen Handlungsbedarf sah Metzger im Patent- und Urheberrecht. Mit Blick auf das Datenschutzrecht sagte der Rechtswissenschaftler, dass die EU-Datenschutzgrundverordnung keine "unüberwindbare Hürde" darstelle. Der Datenschutz sei schwierig, aber nicht unmöglich. Metzger warb dafür, die Kooperation von Industrie und Datenschutzbeauftragten zu fördern.

Michael Teigeler (DKE Deutsche Kommission Elektrotechnik, Elektronik, Informationstechnik) und Sebastian Hallensleben (VDE Verband der Elektrotechnik, Elektronik, Informationstechnik) hoben die Bedeutung und Vorteile der Normung und Standardsetzung im KI-Bereich hervor. Teigeler verwies darauf, dass das Normungs-System ein Erfolgsmodell sei, das es fortzusetzen gelte. Deutschland habe aktuell großen Einfluss in diesem Bereich, auch wenn dieser künftig abnehmen werde. Es sei aber eine gute Ausgangslage für den KI-Bereich und könne auch ein Standort-Faktor sein.

Hallensleben berichtete über aktuelle Vorhaben im Bereich der KI-Normung. So seien die Bereiche "Methoden und Fachsprache" sowie Ethik international bereits in Arbeit. In anderen Bereichen, etwa der Normung im Bereich "Interoperabilität selbstlernender Systeme", stünde die Arbeit noch am Anfang. (Deutscher Bundestag: ra)

eingetragen: 12.05.19
Newsletterlauf: 14.06.19

- Anzeigen -




Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>



Meldungen: Bundestag, Bundesregierung, Bundesrat

  • Einsatz von Backdoors verurteilen

    Die FDP-Fraktion ist mit einem Forderungskatalog zum Thema "Digitalisierung und Bürgerrechte" im Innenausschuss gescheitert. Mit den Stimmen der Koalitionsmehrheit von CDU/CSU und SPD lehnte das Gremium einen entsprechenden Antrag der FDP-Fraktion bei Enthaltung der Fraktionen von AfD und Linken und Zustimmung der Fraktion Bündnis 90/Die Grünen ab. Nach der Vorlage, die am Donnerstag zur abschließenden Beratung auf der Tagesordnung des Bundestagsplenums steht, soll die Bundesregierung die deutschen Regelungen zur Vorratsdatenspeicherung aufheben und als Alternative eine begrenzte anlassbezogene Speicherpflicht auf richterliche Anordnung hin einführen. Auch wird die Bundesregierung in dem Antrag aufgefordert, "der IT-Sicherheit höchste Priorität einzuräumen".

  • Stärkung der Gerichte in Wirtschaftsstreitigkeiten

    Der Bundesrat hat den Entwurf eines Gesetzes zur Stärkung der Gerichte in Wirtschaftsstreitigkeiten eingebracht. Zur Begründung heißt es darin, die zunehmende Globalisierung, die wachsende Komplexität der Rechtsbeziehungen sowie die veränderten Erwartungen der Rechtssuchenden an die Justiz erforderten Anpassungen des Gerichtsverfassungs- und Prozessrechts, um auch künftig die hohe Qualität und Attraktivität der Ziviljustiz insbesondere in Wirtschaftsstreitverfahren zu sichern. Mit dem Gesetzentwurf solle die staatliche Ziviljustiz im Bereich des Wirtschaftsrechts - und mittelbar auch allgemein - nachhaltig gestärkt werden.

  • Keine Bedenken gegen Clearingstelle Urheberrecht

    Die Bundesregierung hegt keine grundsätzlichen Bedenken gegen die Gründung einer Clearingstelle Urheberrecht im Internet. In der Antwort auf eine Kleine Anfrage der Fraktion Bündnis 90/Die Grünen verweist sie auf die formlose Einbindung der Bundesnetzagentur. So sei sichergestellt, dass vor Netzsperren durch Internetzugangsanbieter Netzneutralitätsvorgaben von EU-Seite berücksichtigt würden. Darüber hinaus sei es möglich, umgesetzte Sperren gerichtlich überprüfen zu lassen. Vorbemerkung der Fragesteller: Seit Jahren versuchen Rechteinhaberinnen und Rechteinhaber und ihre Interessensvertretungen gegen eine Vielzahl von Websites, die Nutzerinnen und Nutzer unter systematischer Verletzung von Urheberrechten Zugriff auf urheberrechtlich geschützten Inhalte vermitteln, vorzugehen. Neben der Löschung von Inhalten, fordern sie Sperrungen bestimmter Seiten und Angebote und streiten mit den Anbietern von Internetzugangsdiensten um die Frage, unter welchen Voraussetzungen ihnen ein Anspruch auf Sperrungen zusteht. Ihr Ziel ist es, so den Zugriff auf illegale Angebote von Kulturgütern wie Games, Musik, Filme, E-Books und weiteren urheberrechtlich geschützten Inhalten zu verhindern.

  • BMF: Anti-Geldwäsche-Einheit FIU besser ausstatten

    Rolf Bösinger, Staatssekretär im Bundesministerium der Finanzen (BMF), sagte als Zeuge vor dem 3. Untersuchungsausschuss ("Wirecard") des Deutschen Bundestages aus. Bei der Befragung ging es den Abgeordneten vor allem um die Rolle des BMF und die Zusammenarbeit des Ministeriums mit der unter dessen Rechtsaufsicht stehenden Financial Intelligence Unit (FIU) bei dem sich anbahnenden Zusammenbruch des Zahlungsdienstleisters Wirecard und den Umgang der FIU mit Hinweisen auf faule sogenannte TPA-Geschäfte (Third Party Acquiring, Drittpartnergeschäfte) von Wirecard in Asien. Hans Michelbach (CSU) und weitere Ausschussmitglieder hielten dem Zeugen vor, die unter der Rechtsaufsicht des Ministeriums stehende FIU habe weder die Geldwäscheverdachtsmeldungen seitens der Commerzbank ernst genommen noch die investigative Berichterstattung "Financial Times" bereits zu Beginn des Jahres 2019. Viel Anlegerunglück hätte vermieden werden können, wäre man den sich mehrenden Hinweisen nachgegangen und hätte so die Betrügereien bei Wirecard bereits früher aufdecken können, sagte Michelbach. Die Behörde sei "ihrem gesetzlichen Auftrag nicht nachgekommen", sagte Florian Toncar (FDP): "Zahlreiche Verdachtsmeldungen sind bei der FIU versandet." "Trotz einer Meldung der Commerzbank ist die FIU nicht darauf gekommen, dass ein Straftatbestand vorliegt - das ist doch keine gelungene Arbeit", monierte Bernd Riexinger (Die Linke).

  • Lektionen aus dem Fall Wirecard

    Hat die Behörde, die Geldwäscheaktivitäten in der Finanzwelt nachgeht, alles in ihrer Zuständigkeit liegende getan, um dabei zu helfen, die Bilanzmanipulation bei dem 2020 Pleite gegangenen Zahlungsdienstleister Wirecard zu verhindern beziehungsweise aufzuklären? Diese Frage stand im Mittelpunkt der Zeugenvernehmung im 3. Untersuchungsausschuss. Der Leiter der Financial Intelligence Unit (FIU), Christof Schulte, stellte sich den Fragen der Abgeordneten. Diese wollten zum Beispiel erfahren, ob sich nicht aufgrund von Verdachtsmeldungen über Geldwäscheaktivitäten Hinweise auf die Bilanztrickserei gewinnen und strafrechtliche Ermittlungen anstoßen ließen. Hätte die FIU die ihr zugesandten Sachverhalte, beispielsweise von der Commerzbank, anders bewerten müssen, Meldungen in größerer Zahl an die zuständige Staatsanwaltschaft München weiterleiten und besser mit der Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) zusammenarbeiten müssen? Wurden auf Weisung des Bundesministeriums der Finanzen (BMF) Vorgänge zu wenig transparent dargestellt? Keinesfalls, betonte Schulte, und unterstrich die Unabhängigkeit seiner Behörde, in deren fachliche Arbeit sich das Ministerium nicht einmische. Wohl aber arbeite man dem Ministerium auf Anfrage zu, wie es bei der Vorbereitung auf eine Sondersitzung des Finanzausschusses des Bundestages im vergangenen Sommer geschehen sei.