Entwicklung und Einsatz Künstlicher Intelligenz
Die neue KI-Verordnung und ihre Herausforderungen für unternehmensinterne Compliance-Strukturen
Für die rechtliche Einbettung der mit KI verbundenen Risiken nimmt der europäische Verordnungsgeber sowohl die Anbieter, Einführer und Händler als auch die Nutzer von KI-Systemen in den Blick
Dr. Cornelius Böllhoff
In der Rechtspraxis wird seit April 2021 über den Vorschlag der Europäischen Kommission für eine KI-Verordnung (KI-VO-E) diskutiert. In allen europäischen Mitgliedstaaten sollen die Entwicklung und der spätere Einsatz von KI-Systemen in verschiedenen Risikogruppen kategorisiert und reguliert werden. Dies führt zu Herausforderungen für die Compliance-Abteilungen von Unternehmen.
Die Anzahl an Rechtsnormen zur Regulierung digitaler Innovationen nimmt zu. Das Digitalisierungsrecht wächst dadurch zu einer im Compliance-Kontext eigens zu berücksichtigenden Materie: Nach der Datenschutz-Grundverordnung (DSGVO), Neuerungen im IT-Sicherheitsrecht und der Regulierung der Digitalwirtschaft wird der Entwurf der Europäischen Kommission einer Regulierung Künstlicher Intelligenz (KI) derzeit politisch und rechtlich diskutiert. All diese neuen Regelungen im Digitalisierungsrecht sind schwer überschaubar und stellen Compliance-Management-Systeme (CMS) vor neue Herausforderungen.
Für die rechtliche Einbettung der mit KI verbundenen Risiken nimmt der europäische Verordnungsgeber sowohl die Anbieter, Einführer und Händler als auch die Nutzer von KI-Systemen in den Blick. Produkthaftungsrechtliche Komponenten, vor allem aber ein erheblicher Bußgeldrahmen und die Verpflichtung zur Implementierung eigener Risikomanagementsysteme (RMS) müssen in bestehende Compliance-Strukturen integriert werden.
Dieser Beitrag aus der Zeitschrift für Corporate Governance (ZCG) (Ausgabe 2, 2023; Seite 63 bis 67) wurde von der Redaktion von Compliance-Magazin.de gekürzt.
In voller Länge können Sie ihn und weitere hier nicht veröffentliche Artikel im ZCG lesen.
Zeitschrift für Corporate Governance - Leitung und Überwachung in der Unternehmens- und Prüfungspraxis
Hier geht's zur Kurzbeschreibung der Zeitschrift
Hier geht's zum Probe-Abo
Hier geht's zum Normal-Abo
Hier geht's zum pdf-Bestellformular (Normal-Abo) [21 KB]
Hier geht's zum pdf-Bestellformular (Probe-Abo) [19 KB]
Hier geht's zum Word-Bestellformular (Normal-Abo) [45 KB]
Hier geht's zum Word-Bestellformular (Probe-Abo) [40 KB]
Im Überblick: ZCG
Zeitschrift für Corporate Governance (ZCG)
-
Weg zur Bekämpfung von Geldwäsche
Die Bundesregierung will die Bekämpfung von Finanzkriminalität in Deutschland verbessern. Die geplanten Reformen sind umfassend. Sie betreffen nicht nur zahlreiche Gesetze, sondern bringen auch veränderte Strukturen von mehreren Bundesbehörden mit sich. Außerdem werden neue Strukturen geschaffen, um künftig Finanzkriminalität besser bekämpfen zu können.
-
LkSG in der Praxis
Das Gesetz über die unternehmerischen Sorgfaltspflichten zur Vermeidung von Menschenrechtsverletzungen in Lieferketten (LkSG) gilt seit dem 1.1.2023 für Unternehmen gleich welcher Rechtsform, die mehr als 3.000 Arbeitnehmende in Deutschland beschäftigen.
-
KI zur Entwicklung des Geschäftsmodells
Der Einsatz von Künstlicher Intelligenz (KI) stellt Führung, Aufsicht und Belegschaftsvertretung vor die Herausforderung, das Thema zu durchdringen, Entwicklungslinien zu verstehen und Schlussfolgerungen für die eigene Organisation zu ziehen. Der vorliegende Beitrag gibt Impulse für eine KI-kompetente Corporate Governance.
-
Regulatorischer Druck auf die Kapitalmarktkonzerne
Der gesellschaftliche und regulatorische Druck auf die Kapitalmarktkonzerne zur Etablierung von mehr Diversität in den obersten Führungsgremien nimmt zu. Ergebnisse einer multidimensionalen Untersuchung zum Status quo der Diversität in der Unternehmensführung von Euro-Stoxx-50-Unternehmen zeigen ein differenziertes Bild.
-
Nachhaltigkeitsberichterstattung & Fahrradbranche
Die Nachhaltigkeitsberichterstattung wird anhand zahlreicher Rahmenwerke, Standards und Leitfäden unter anwendungsorientierten Gesichtspunkten konkretisiert. Der Deutsche Nachhaltigkeitskodex (DNK) stellt einen Leitfaden dar, der Unternehmen die Berichterstattung über nachhaltigkeitsrelevante Aspekte des betrieblichen Handelns anhand von 20 Kriterien ermöglicht.
-
Wesentlichkeitsanalyse & Rechnungslegung
Seit 1.1.2024 sind die Anforderungen der Corporate Sustainability Reporting Directive (CSRD) - trotz noch fehlender Rechtsumsetzung im Großteil der Mitgliedstaaten - in der EU anzuwenden. Die damit einhergehenden Transparenzpflichten in puncto Nachhaltigkeit sind ein wesentlicher Baustein in der übergeordneten Sustainable-Finance-Initiative der EU-Kommission - und für europäische Unternehmen ein weiterer Schritt hin zu einer neuen "Sustainable Corporate Governance".
-
Qualifikationsmatrix empfohlen
Nach der aktuellen Fassung des Deutschen Corporate Governance Kodex (DCGK) soll der Aufsichtsrat für seine Zusammensetzung konkrete Ziele benennen und ein Kompetenzprofil für das Gesamtgremium erarbeiten, wobei auf Diversität zu achten und Nachhaltigkeitsexpertise zu berücksichtigen ist.
-
SOGs gewinnen an Bedeutung
Aktienhaltevorschriften bzw. Share Ownership Guidelines (SOGs) haben in den vergangenen Jahren in der Vorstandsvergütung an Relevanz gewonnen, insbesondere in größeren börsennotierten Unternehmen. Auch der Druck auf kleinere börsennotierte Unternehmen, SOGs einzuführen, nimmt zu.
-
Einführung: D&O-Versicherung
Im Folgenden werden für die Unternehmensführung bedeutsame Entscheidungen besprochen. Im ersten Fall geht es um eine D&O- Versicherung. Ein Teil des Versicherungsschutzes kann auch in der Übernahme von Verteidigungskosten im Fall eines Strafverfahrens gegen den Geschäftsführer bestehen.
-
Einrichtung von Hinweisgebersystemen
Der vorliegende Beitrag beleuchtet die rechtlichen Herausforderungen, die sich für Unternehmen unter der Whistleblower-Richtlinie der EU und dem Hinweisgeberschutzgesetz stellen. Er gibt einen Überblick zu den gesetzlichen Regelungen und praxisorientierte Empfehlungen unter Berücksichtigung der teils unterschiedlichen Anforderungen in den Mitgliedstaaten der EU.