Sie sind hier: Home » Fachartikel » Hintergrund

Datennutzung und ethische Verantwortung


Chief Ethics Officer: Warum zeitgemäße Datennutzung einen neuen Experten braucht
Einseitige Datengrundlage führt zu Ungerechtigkeit



Autor David Sweenor
Autor David Sweenor Das menschliche Gehirn unterliegt häufig Formen kognitiver Verzerrungen, die zu einer fehlerhaften Schlussfolgerung und Entscheidungsfindung führen können. Das ist ganz natürlich, aber diese menschliche Form der Voreingenommenheit kann sich auch in KI-Ergebnissen niederschlagen. Genau an dieser Stelle kommt der Chief Ethics Officer ins Spiel, Bild: Alteryx

Von David Sweenor, Senior Director of Product Marketing, Alteryx

Große Datenmengen und die Erkenntnisse, die darin verborgen liegen, sind aus der deutschen Wirtschaft nicht mehr wegzudenken. Wie eine Bitkom-Umfrage ergab, sammelt die überwiegende Mehrheit der Unternehmen bereits Informationen, um sie zu analysieren und die Ergebnisse zur Optimierung interner Prozesse und zur Steigerung des Geschäftswerts zu nutzen. Gleichzeitig übersehen jedoch die meisten, dass mit diesem Erfolg eine neue Verantwortung einhergeht.

Um wirklich gewinnbringende Ergebnisse erzielen zu können, sollten im ersten Schritt grundlegende Schritte durchlaufen werden, die ganz konkret die Datenherkunft und -verwaltung betreffen. Vor allem dann, wenn KI-Technologien genutzt werden, spielt das eine essenzielle Rolle, denn die Qualität der verwendeten Daten hier das wichtigste Kriterium. Wenn es jedoch an Nachvollziehbarkeit mangelt, besteht die Gefahr, dass die Ergebnisse verzerrt werden, was zu verfälschten Entscheidungen führt. Und diese können fatale Ungerechtigkeiten nach sich ziehen. Dadurch wird im schlimmsten Fall nicht nur die Privatsphäre der Daten kompromittiert. Auch die Benachteiligung von Frauen oder Angestellten mit Migrationshintergrund könnte zusätzlich verstärkt werden – und das ist nicht nur für jene Unternehmen, die sich dazu verpflichtet haben, die Diversität ihrer Teams aktiv voranzutreiben, ein echtes Problem.

Während deutsche Unternehmen also von der Konsolidierung und Analyse ihrer Daten aus einer Vielzahl von Quellen profitieren, um den Geschäftswert zu steigern, müssen sie auch die Verantwortung für Entscheidungen übernehmen, die das Unternehmen anhand der Daten trifft. Deshalb sind sie in der Pflicht, sicherzustellen, dass die verwendeten Datensätze keine Verzerrungen enthalten. Doch wie schützt man sich vor unbewussten, aber oft schädlichen Vorurteilen? Indem man einen neuen Experten ins Spiel bringt – und das sind die Chief Ethics Officer. Ihre Aufgabe ist es nicht, die Datennutzung weiter zu erschweren. Ihr Ziel sollte vielmehr darin bestehen, einwandfreie Ergebnisse zu gewährleisten, die Deutschland nicht nur wirtschaftlich, sondern auch sozial und ethisch voranbringen.

Einseitige Datengrundlage führt zu Ungerechtigkeit
Die Bereitstellung von vorurteilsfreien Produkten und Dienstleistungen stellt bereits seit Jahrzehnten eine große Herausforderung dar. Das beginnt bei der Dosierung von Medikamenten und reicht bis zum Sicherheitskonzept gängiger Automodelle – denn beides ist an den Werten eines Durchschnittmanns orientiert. Diese einseitige Datengrundlage kann für Frauen gravierende Konsequenzen nach sich ziehen, zum Beispiel weil sie im Falle eines Verkehrsunfalls ein deutlich höheres Risiko haben, verletzt zu werden oder sogar zu sterben.

In den letzten Jahren wurde auch festgestellt, dass Daten, die in Modellen zur automatischen Überprüfung von Lebensläufen verwendet werden, weibliche Bewerber, benachteiligen. Ähnliches gilt für Modelle, die zur Unterstützung von Richtern bei der Überprüfung von Strafurteilen zum Einsatz kommen, schwarze Angeklagte benachteiligen. Am Ende mussten beide zurückgezogen werden, da die verwendeten Daten eine sorgfältige menschliche Kontrolle erfordern.

Ähnlich unfair kann auch die Besetzung einer Führungsposition sein, wenn die dafür verwendeten Informationen ein sehr einseitiges Bild zeichnen. Sogar Amazon hat seinen eigenen KI-Rekrutierungsalgorithmus wieder eingestellt, da sich herausstellte, dass die verwendeten Lebensläufe überwiegend von Männern stammten, was zu einer unbeabsichtigten Benachteiligung von Frauen führte.

Die Datenlage, auf die sich der Arbeitsmarkt genauso wie die Erstellung neuer Produkte stützt, ist ungerecht. Das beginnt bei der Dosierung von Medikamenten und reicht bis zum Sicherheitskonzept gängiger Automodelle – denn beides ist an den Werten eines Durchschnittmanns orientiert. Diese einseitige Datengrundlage kann für Frauen gravierende Konsequenzen nach sich ziehen, zum Beispiel weil sie im Falle eines Verkehrsunfalls ein deutlich höheres Risiko haben, verletzt zu werden oder sogar zu sterben.

Ähnlich ungerecht kann auch die Besetzung einer Führungsposition ausfallen, wenn die hierfür herangezogenen Informationen ein sehr einseitiges Bild darstellen. Amazon liefert ein eindrückliches Beispiel hierfür: Um Bewerbungen schneller bearbeiten zu können, führte der Handelsriese eine automatische Kandidatenbewertung ein. Aus dem verwendeten Datensatz ging jedoch hervor, dass hohe Positionen in der Vergangenheit überwiegend durch Männer besetzt worden waren, was dazu führte, dass auch jetzt männliche Bewerber bevorzugt und Frauen systematisch benachteiligt wurden.

Eine McKinsey-Studie ergab sogar, dass eine hohe Geschlechtervielfalt in Unternehmen die Wahrscheinlichkeit, überdurchschnittlich profitabel zu sein, um 25 Prozent erhöht. Gleiches gilt für die ethnische Vielfalt der Vorstandsmitglieder, hier sind es sogar 36 Prozent. Der wirtschaftliche Erfolg eines Unternehmens hängt also eindeutig mit der Frage zusammen, wie vielfältig es aufgestellt ist.

Verzerrungen wie diese können für Unternehmen ein erhebliches Problem darstellen. Viele haben sich inzwischen eine Frauenquote auferlegt und könnten diese mit einer unethischen Datennutzung unterbinden. Aber viele haben längst verstanden, dass diverse Teams ein elementarer Bestandteil ihres Erfolgs darstellen. Eine Erhebung von McKinsey hat sogar ergeben, dass eine hohe Gender-Diversität die Wahrscheinlichkeit, überdurchschnittlich profitabel zu sein, um 25 Prozent steigert. Ähnliches gilt für die ethnische Diversität der Vorstandsmitglieder, wobei der Wert hier sogar bei 36 Prozent liegt. Der Geschäftserfolg eines Unternehmens steht somit in eindeutigem Zusammenhang mit der Frage, wie divers es aufgestellt ist.

Ethische Datennutzung macht neue Expertenrolle unverzichtbar
Um auch zukünftig dem enormen Konkurrenzdruck standhalten zu können, ist es wichtig, dass immer mehr Mitarbeiter Daten in ihre tägliche Arbeitsroutine einbeziehen. Sei es, um einen besseren Kundenservice leisten, wirkungsvollere Werbekampagnen erstellen oder Schwachstellen bei Produkten schneller identifizieren zu können. Um beurteilen zu können, ob die verfügbaren Datensätze hierfür passend, ausreichend groß und divers genug sind, muss jedoch sichergestellt werden, dass die Mitarbeiter über das notwendige Fachwissen verfügen. Nur so werden sie in der Lage sein, etwaige Verzerrungen aufzudecken und eine ethische Entscheidungsfindung über alle Abteilungen hinweg zu ermöglichen.

Beim Umgang mit großen Datenmengen gibt es zahlreiche Stolpersteine, die ihrer ethischen Nutzung im Wege stehen können. Stammen die verwendeten Datensätze aus einer ausreichend großen Stichprobe? Auf welche Weise wurde es gewonnen? Bildet es die Vielfältigkeit der Realität ab oder kommen gewissen Merkmale überproportional häufig vor und könnten deshalb zu Verzerrungen führen? Und wie steht es um die Ergebnisse? Lassen sich aus ihnen tatsächlich zielführende Handlungsempfehlungen ableiten? Oder ist in ihnen eine Verzerrung versteckt, die gewisse Gruppen benachteiligen könnte? Und wann macht es Sinn, externe Daten hinzuzukaufen, um das zu vermeiden? Was für Daten müssten das sein? Und kommen eventuell auch synthetische Daten in Frage? Kurz gesagt: Wenn die erfassten Daten speziell für einen konkret definierten Zweck ausgewählt werden, wirft dies die Frage nach der unbewussten Voreingenommenheit der Person auf, die diese Entscheidung trifft, und kann ein erhebliches Hindernis für qualitativ hochwertige Erkenntnisse darstellen.

Das menschliche Gehirn unterliegt häufig Formen kognitiver Verzerrungen, die zu einer fehlerhaften Schlussfolgerung und Entscheidungsfindung führen können. Das ist ganz natürlich, aber diese menschliche Form der Voreingenommenheit kann sich auch in KI-Ergebnissen niederschlagen. Genau an dieser Stelle kommt der Chief Ethics Officer ins Spiel. Er muss über das richtige Know-how und die notwendigen zeitlichen Ressourcen verfügen, um sich voll und ganz auf die Etablierung einer ethischen Datennutzung und deren dauerhafte Sicherstellung konzentrieren zu können. Um ihn nicht zu überlasten, ist es sinnvoll, dafür zu sorgen, dass alle Fachexperten in Datenkompetenz geschult werden, damit sie mehr Einblick in die Datenerfassung und -analyse geben können. In Verbindung mit der Einrichtung eines Data-Governance-Rahmens sorgt dies für Transparenz, Verantwortlichkeit und Integrität bei der Datenerfassung und -sammlung.

Datennutzung bringt ethische Verantwortung mit sich
Bis 2025 soll die weltweit generierte Datenmenge 175 Zettabyte betragen – das ist eine 175 mit 21 Nullen. Dabei steigt vor allem das Volumen in Unternehmen rasant an und soll bis dahin 80 Prozent der Gesamtmenge ausmachen. Das bedeutet, dass auf ihrer Seite ein enormes Wissen liegen wird. Und weil Wissen immer auch Macht bedeutet, geht mit dem Besitz der gigantischen Informationsmengen auch ein gewisses Maß an Verantwortung einher. Dieser gerecht zu werden, ist schon heute die Aufgabe der Unternehmen, die nicht nur Profit machen, sondern sich gleichzeitig auch für eine bessere Welt einsetzen wollen. Ohne einen Chief Ethics Officer kann diese nicht Wirklichkeit werden. Ähnlich wie es die Aufgabe des Bundespräsidenten in Deutschland ist, die Debatten im Bundestag fair und unparteiisch zu führen, muss ein Chief Ethics Office eine ähnliche Unparteilichkeit und Fairness bei den im Unternehmensgeschäft verwendeten Daten sicherstellen.

Über den Autor
David Sweenor ist als Senior Director of Product Marketing bei Alteryx tätig. Im Bereich Analytik blickt er auf eine 20-jährige Erfahrung zurück, wobei er derzeit verschiedene globale Initiativen im Bereich Advanced Analytics verantwortet.
(Alteryx: ra)

eingetragen: 03.05.21
Newsletterlauf: 30.06.21

Alteryx: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>


Meldungen: Hintergrund

  • Datennutzung und ethische Verantwortung

    Große Datenmengen und die Erkenntnisse, die darin verborgen liegen, sind aus der deutschen Wirtschaft nicht mehr wegzudenken. Wie eine Bitkom-Umfrage ergab, sammelt die überwiegende Mehrheit der Unternehmen bereits Informationen, um sie zu analysieren und die Ergebnisse zur Optimierung interner Prozesse und zur Steigerung des Geschäftswerts zu nutzen. Gleichzeitig übersehen jedoch die meisten, dass mit diesem Erfolg eine neue Verantwortung einhergeht.

  • Entzug der Rechtsgrundlage

    Das vom Europäischen Gerichtshof (EuGH) gefällte Urteil "Schrems II" vom 16. Juli 2020 ist in aller Munde, da es nicht unerhebliche Auswirkungen auf denUmgang und den Schutz von Personendaten in international tätigen Unternehmen hat. Welche praktischen Folgen hat die Rechtsprechung des EuGH auf den internationalen Datentransferaber im Detail? Mit dem Urteil des Europäischen Gerichtshofes Mitte letzten Jahres wurde die als Privacy Shield bekannte Rahmenvereinbarung zwischen den USA und der EU für ungültig erklärt. Demnach dürfen personenbezogene Daten von EU-Bürgern nur an Drittländer außerhalb des Europäischen Wirtschaftsraums übermittelt werden, wenn sie in diesem Drittland einen im Wesentlichen gleichwertigen Schutz genießen wie in der EU. Für die USA hat der EuGH ein solches Schutzniveau verneint.

  • Aufsichtsbehörden machen Ernst

    Der Datenschutz wurde durch die im Mai 2018 in Kraft getretene EU-Datenschutz-Grundverordnung (DSGVO) europaweit geschärft und die Rechte der Betroffenen gestärkt. Die Aufsichtsbehörden sind mittlerweile aktiv geworden und verhängen teils empfindliche Strafen, wenn Unternehmen und Konzerne mit dem Schutz der User- und Kundendaten zu lax umgehen. Unternehmen, die online Leads und Kunden generieren, sollten deswegen ein Auge auf die Details haben und nur mit seriösen Partnern zusammenarbeiten, die eine DSGVO-konforme Verarbeitung von Daten nachweisen können. Das Inkrafttreten der DSGVO im Mai 2018 rollte wie eine Schockwelle durch die Welt des Online-Business und der Leadgenerierung. Denn die europäische Datenschutzgrundverordnung hat den Schutz personenbezogener Daten ausgeweitet und verschärft. Ziel war es, ein europaweit gleich hohes Schutzniveau zu erreichen, die Verfahren gegen Verstöße zu vereinfachen und den Datenschutz dem technischen Fortschritt der Digitalisierung anzupassen.

  • Was ist ein Selbst-Audit & warum ist es notwendig?

    Eine der üblichen Fallen, in die Unternehmen tappen, ist die Annahme, dass Cybersicherheitslösungen über Standard-Risikobewertungen gepflegt und gemanagt werden. Eine gefährliche Annahme, denn die rasche technologische Entwicklung und der Einsatz dieser Technologien in der Wirtschaft hat den Bereich einer allgemeinen Risikobewertung längst überschritten. Hier beschäftigen wir uns mit einigen Schritten, die nötig sind, um eine eingehende, weitreichende Sicherheitsrisikobewertung zu erstellen, die für genau Ihr Unternehmen gilt. Eine Cybersicherheitsbewertung spielt eine entscheidende Rolle, beim Wie und Warum man bestimmte Technologien in einem Unternehmen einsetzt. Anhand eines Assessments lassen sich Ziele und Parameter festlegen, die Ihnen die Möglichkeit geben.

  • Mit Analytik Betrug erkennen

    Zahlungsanweisungen über SWIFT gelten im Allgemeinen als sicher. Doch es gibt Schlupflöcher im System, durch die es Kriminelle regelmäßig schaffen, Betrug zu begehen. Banken nutzen vermehrt KI-Tools wie User Entity Behaviour Analytics (UEBA) um sich und ihre Kunden zu schützen. SWIFT ist eine Plattform, die selbst keine Konten oder Guthaben verwaltet und über die Finanzinstitute aus aller Welt Finanztransaktionen unter einander ausführen. Ursprünglich wurde die Plattform lediglich gegründet, um Treasury- und Korrespondenzgeschäfte zu erleichtern. Das Format entpuppte sich in den Folgejahren jedoch als sehr sicher und praktisch, sodass immer mehr Teilnehmer die Plattform nutzten. Neben Notenbanken und normalen Banken wird Swiftnet heute auch von Großunternehmen, Wertpapierhändlern, Clearingstellen, Devisen- und Geldmaklern und zahlreichen weiteren Marktteilnehmern genutzt.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen