- Anzeigen -
Besuchen Sie auch unser Zeitschriftenportfolio im Bereich Governance, Risk, Compliance & Interne Revision

Datenaspekte im Fokus der KI-Enquete


Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche Potenziale
Bestehende gesellschaftliche Ungerechtigkeiten werden durch den Einbau in scheinbar neutrale Technologien verschleiert und potentiell verstärkt

- Anzeigen -





Die Mitglieder der Enquete-Kommission "Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale" haben sich schwerpunktmäßig mit dem Thema Daten befasst. Vier Sachverständige trugen dazu in öffentlicher Sitzung im Rahmen eines Fachgespräches vor. Zuvor hatte die Philosophin Judith Simon in der Sitzung öffentlich zu Fragen von Gerechtigkeit und Diskriminierungsfreiheit referiert. Die den Vorträgen jeweils folgende Fragerunde fand in nicht-öffentlicher Sitzung statt.

Judith Simon (Universität Hamburg) konzentrierte sich in ihrem Vortrag vor allem auf Aspekte der Diskriminierung, die sie als "ungerechtfertigte Ungleichbehandlung von Gleichen oder ungerechtfertigte Gleichbehandlung von Ungleichen" verstand. Im Kontext der Künstlichen Intelligenz (KI) problematisierte die Inhaberin des Lehrstuhls für Ethik in der Informationstechnologie, dass beim maschinellen Lernen, weil dort mit Daten der Vergangenheit trainiert werde, Prognosen und Empfehlungen die Vergangenheit in die Zukunft fortschrieben. Dadurch könnten "bestehende gesellschaftliche Ungerechtigkeiten durch den Einbau in scheinbar neutrale Technologien verschleiert und potentiell verstärkt werden", warnte die Philosophin.

Diese Diskriminierung sei ein Effekt von "technisch-methodischen Entscheidungen" und erfolge nicht unbedingt mit Absicht. Simon mahnte an, gesetzliche Anforderungen zu formulieren, die Software-Entwickler etwa verpflichten, Maßnahmen zur Minimierung von Diskriminierung nachzuweisen. Zudem bedürfe es Anreizen in Form von Forschungsförderung. Simon warb für den Auf- beziehungsweise Ausbau gut ausgestatteter Institutionen für eine "angemessene Aufsicht und Kontrolle". Anforderungen an die Minimierung von Diskriminierung sollten sich grundsätzlich an der Eingriffstiefe sowie daran, ob ein System unumgänglich ist, orientieren. Simon betonte zudem, dass nicht nur die Software-Entwickler in der Pflicht seien: "Welche Kriterien für Gerechtigkeit in welchem Kontext angemessen sind, ist keine technische, sondern eine gesellschaftliche und politische Frage."

Im zweiten Fachgespräch des Tages standen verschiedene Aspekte des Themas Daten im Fokus. Stefan Heumann, Vorstandsmitglied der Stiftung Neue Verantwortung sowie sachverständiges Mitglied der Enquete-Kommission, stellte Ergebnisse einer Studie zu Datenpools der Stiftung ("Wettbewerb um Daten - Über Datenpools zu Innovationen", April 2019) dar. Heumann betonte die Bedeutung, die Daten in der Plattform-Ökonomie einnehmen. Führend seien dabei Unternehmen aus den USA, aber auch aus China. In Europa gebe es mit Ausnahme von SAP keine wesentlichen Akteure. Heumann stellte unterschiedliche Modelle für Datenpools vor und skizzierte elementare Herausforderungen für die Anwendung in Europa. So müssten Unternehmen vom Mehrwert von Datenkooperationen überzeugt werden. Zudem bedürfe es Rechtssicherheit mit Bezug auf kartellrechtliche sowie datenschutzrechtliche Fragen. Technologisch bestünde Bedarf für Standards im Bereich Daten und maschinelles Lernen sowie für die Weiterentwicklung dezentraler KI-Modelle. Governanceseitig sei zudem über Regen für Datenpools nachzudenken, führte Heumann aus.

Boris Otto vom Fraunhofer-Institut für Software- und Systemtechnik stellte Grundzüge des Projekts "International Data Space" (IDS) vor. Ziel der Initiative sei es, eine Architektur für "Datensouveränität in der Plattformökonomie" zu schaffen. So solle der Fluss der Daten über verschiedene Plattformen hinweg unter Wahrung der Datensouveränität ermöglicht werden. Datensouveränität bedeute dabei die Selbstbestimmung des Datengebers über die Verwendung der Daten. Dies sei Voraussetzung dafür, dass Unternehmen ihre Daten überhaupt teilten. Otto sah die Politik in der Pflicht, entsprechende Rahmenbedingungen etwa durch die gesetzliche Verankerung von Grundsätzen zu schaffen.

Norbert Pohlmann (Westfälische Hochschule Gelsenkirchen) umriss zunächst Chancen des KI-Einsatzes im Bereich Cyber-Sicherheit. KI-Systeme könnten etwa zur Unterstützung und Entlastung von Cyber-Sicherheitsexperten dienen. In Hinblick auf den Bereich Daten empfahl der Leiter des Instituts für Internet-Sicherheit unter anderem, Standards für die Datenqualität von KI-Systemen zu definieren und zu etablieren. Enorm wichtig, gerade für den Mittelstand, sei zudem die Förderung einer "leistungsstarken KI-Infrastruktur", sagte Pohlmann und verwies etwa auf die Notwendigkeit europäischer Datenpools.

Elisa Lindinger von der Open Knowledge Foundation thematisierte den Zugang zu öffentlichen Daten. Diese seien "eine vielversprechende Grundlage für neue KI-Anwendungen" etwa in der Städte- oder Verkehrsplanung, sagte Lindinger. Der Zugang sei in Deutschland allerdings nicht gegeben. Dies könne durch ein bundesweites Transparenzgesetz ermöglicht werden, regte die Sachverständige an. Zudem müsse "Open by Default" zur Maxime öffentlicher Verwaltungsarbeit werden. Im Umgang mit öffentlichen Daten mahnte Lindinger den Schutz personenbezogener Daten an. Sie verwies auf bestehende technische Verfahren und internationale Ansätze, die zeigten, "wie offene Daten, Datensouveränität und Datenschutz Hand in Hand gehen können". (Deutscher Bundestag: ra)

eingetragen: 13.07.19
Newsletterlauf: 19.08.19

- Anzeigen -




Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>



Meldungen: Bundestag, Bundesregierung, Bundesrat

  • Gesetzentwurf zum Inkassowesen

    Der Deutschen Bundesregierung liegen keine Erkenntnisse zu der Zahl von Verbrauchern, die durch die Tätigkeit nicht registrierter Inkassounternehmen betroffen sind, und den dadurch entstehenden Schaden vor. Das geht aus der Antwort (19/15268) auf eine Kleine Anfrage der FDP-Fraktion zu einem Gesetzentwurf zum Inkassowesen (19/14676) hervor. Wie die Bundesregierung schreibt, hat das Bundesjustizministerium den Referentenentwurf eines Gesetzes zur Verbesserung des Verbraucherschutzes im Inkassorecht erarbeitet und am 16. September 2019 die Beteiligung der Länder und Verbände eingeleitet. Zudem sei der Entwurf der Fraktion der FDP übersandt und auf der Ministeriums-Homepage veröffentlicht worden. Die den Ländern und Verbänden eingeräumte Stellungnahmefrist sei abgelaufen, die Auswertung der zahlreichen Stellungnahmen noch nicht abgeschlossen.

  • Meldestellen für Hinweisgeber

    Um Meldestellen für Hinweisgeber geht es in der Antwort der Bundesregierung (19/14980) auf eine Kleine Anfrage der Fraktion Bündnis 90/Die Grünen (19/13426). In Anlage 1 zu den Antworten auf die knapp 70 Fragen der Abgeordneten befindet sich eine Liste mit den externen Meldestellen, die Bundesbehörden bereits jetzt für die Meldung von Missständen in Unternehmen vorhalten. Interne und externe Meldestellen einzelner Bundesbehörden zur Meldung von Missständen in diesen Behörden sind in Anlage 2 aufgelistet. Wie die Bundesregierung in der Antwort schreibt, wird sie im Rahmen der Umsetzung der Hinweisgeberschutzrichtlinie über die Einrichtung neuer interner und externer Meldestellen entscheiden. Des Weiteren enthält die Antwort einen Überblick über die Ombudspersonen, die für bundeseigene Behörden und Unternehmen für die Entgegennahme von Hinweisen zuständig sind, sowie über deren Tätigkeit.

  • Austausch elektronischer Beweismittel

    Der Deutschen Bundesregierung liegen keine Kenntnisse darüber vor, wann das US-Ministerium der Justiz ein Mandat für Verhandlungen mit der Europäischen Kommission über ein Verwaltungsabkommen im Rahmen des CLOUD Act erhalten hat. Das schreibt die Bundesregierung in ihrer Antwort (19/15374) auf eine Kleine Anfrage der Fraktion Die Linke (19/14921). Die Bundesregierung könne lediglich weitergeben, was die Europäische Kommission den Mitgliedstaaten der Europäischen Union mitgeteilt hat, nämlich, dass ein auf Seiten der USA erforderliches Mandat für die Verhandlungsführer inzwischen vorliege.

  • Grüne fordern Lieferkettengesetz

    Die Fraktion Bündnis 90/Die Grünen fordert die Bundesregierung in einem Antrag (19/16061) auf, ein Lieferkettengesetz gegen Menschenrechtsverletzungen und Umweltzerstörung in internationalen Lieferketten vorzulegen. Unternehmen sollten darin zu einer fortlaufenden, umwelt- und menschenrechtsbezogenen Risikoanalyse, geeigneten Präventionsmaßnahmen sowie wirksamen Abhilfemaßnahmen bei Menschenrechtsverstößen und negativen Auswirkungen auf die Umwelt verpflichtet werden. Außerdem sollten die zivilrechtlichen Klagemöglichkeiten für Opfer verbessert und kollektive Klagemöglichkeiten geschaffen werden. Bei Verstößen müsse es wirksame Sanktionen geben.

  • Legal Tech in der Inkassoreform

    Die Deutsche Bundesregierung wird weiterhin die im Kontext von "Legal-Tech"-Angeboten ergehenden gerichtlichen Entscheidungen sowie die Praxis der Verwaltungsbehörden bei den Zulassungen von "Legal-Tech"-Anbietern beobachten und insbesondere im Hinblick darauf bewerten, ob sich aus ihnen die Erforderlichkeit von Rechtsänderungen ergibt. Das schreibt sie in ihrer Antwort (19/15671) auf eine Kleine Anfrage der FDP-Fraktion (19/15304). Die Abgeordneten hatten sich nach möglichen Auswirkungen eines als Referentenentwurf des Bundesjustizministeriums vorliegenden Gesetzes zur Verbesserung des Verbraucherschutzes im Inkassorecht erkundigt.