KPMG-Whitepaper „AI Governance as the Key to a Sustainable AI Strategy“: zentrale Aussagen

Das Anfang 2025 erschienene Whitepaper „KI-Governance als Schlüssel zu einer nachhaltigen KI-Strategie“ bietet Praxis-Tipps für den langfristig erfolgreichen Einsatz von künstlicher Intelligenz (KI) und generativer künstlicher Intelligenz (international auch GenAI genannt). Es richtet sich an die Führungsebene von Unternehmen, also an die Riege der „Chief Officers“ (CxOs), die in den Bereichen Governance als Unternehmensführung bzw. -steuerung und Compliance als Regelkonformität eine besondere Verantwortung tragen. Angesprochen werden insbesondere der Chief Executive Officer (CEO), der Chief Risk Manager (CRO), der Chief Information Officer (CIO) und der Chief Legal Officer (CLO).

Diese Themenkomplexe werden behandelt:

• KI als Schlüsseltechnologie für Transformationsprozesse
• KI-Governance: Herausforderungen und Chancen
• Strategische Überlegungen zur KI-Governance
• Markteinblick: Wie Unternehmen KI managen
• CxO-Leitfaden: Von den Prinzipien zur Umsetzung
• Integration der KI-Governance in das Geschäftsmodell

Eine nachhaltige Unternehmensführung besteht darin, dass das Top-Management auf Veränderungen im Markt und auf technische Entwicklungen vorausschauend reagiert und dabei die Einflüsse aus der Politik und die Rechtslage – Gesetze, Verordnungen und Ergebnisse der Rechtsprechung – berücksichtigt. Nur so ist es möglich, sich im Wettbewerb zu behaupten und langfristig die Ansprüche und Erwartungen der Stakeholder zu erfüllen. Die Führungsriege hat dabei die Rahmenbedingungen für die entsprechende Corporate Governance zu schaffen und diese auch umzusetzen, auch um die Regelkonformität, die Compliance, sicherzustellen. Der Aufbau einer passenden Corporate-Governance-Struktur und eine integrative Governance-Strategie sind die Voraussetzung dafür, Geschäftsmodelle und Prozesse so zu gestalten, dass Risiken vermieden und Chancen genutzt werden können.

Der Einsatz von KI, insbesondere auch generativer KI, bietet dabei ein hohes disruptives Potenzial im Hinblick auf die Geschäftsprozesse und damit auf die Unternehmenssteuerung. Um die Nutzung von KI in allen Anwendungsfeldern sicher, verantwortungsvoll, effizient und regelkonform zu gestalten, braucht es ein robustes Governance-Framework mit ganzheitlichem Risikomanagement. Das ist eine der Kernaussagen des Whitepapers. Verdeutlicht wird dies an den komplexen Aufgabenstellungen, die Unternehmen bei der Implementierung von KI-Lösungen bewältigen müssen. Um dies zu bewerkstelligen, werden praxisrelevante Handlungsempfehlungen gegeben.

KI-Governance umfasst dabei die Prinzipien, Strategien, Richtlinien und Standards zum Einsatz der unterschiedlichen KIs sowie das dazugehörige Risikomanagement. Dazu kommen die notwendigen Schulungen der Mitarbeiter – nicht nur, um regulatorische Vorgaben wie beispielsweise die EU-KI-Verordnung (den EU AI Act) zu erfüllen, sondern auch, um die Akzeptanz der Mitarbeiter für KI-Anwendungen zu erhöhen. Dazu gehört, ihnen die Vorteile und die Potenziale dieser Werkzeuge aufzuzeigen und ihnen den professionellen Umgang mit den KI-Systemen zu ermöglichen.

Die Investitionen in die KI-Governance sind dabei, verglichen mit den sich addierenden Kosten bei Nichtbeachtung der EU-KI-Verordnung, gering. Die proaktive Auseinandersetzung mit den regulatorischen Anforderungen hilft Unternehmen dabei auf mehrfache Art und Weise: Sie steigern durch den Einsatz der KI die Effizienz ihrer Geschäftsprozesse, senken damit die Kosten, positionieren sich als modernes Unternehmen und attraktiver Arbeitgeber für die jüngeren Generationen und schützen außerdem den Return on Investment (ROI), da keine Sonderaufwendungen oder Strafzahlungen anfallen.

All dies funktioniert aber nur bei fester Einbindung der höchsten Führungsebene. Die CxOs haben die Aufgabe, die Governance in alle Geschäftsprozesse zu integrieren. So ist der CEO unter anderem dafür verantwortlich, dass der Einsatz der KI strategisch erfolgt und mit der Mission und den Werten des Unternehmens übereinstimmt. Der CRO muss die Risiken identifizieren, die bei der Nutzung der KI auftreten können, und diesen vorbeugen. Dazu gehören die unberechtigte Verwendung geistigen Eigentums, etwa bei Verletzung von Urheberrechten, Lizenzen oder Patentansprüchen, ebenso wie die Auswirkungen und Folgen von falschen Ergebnissen oder Fehlinterpretationen der KI, etwa bei ungewollten Finanztransaktionen oder ungenügend abgesicherten Investitionsentscheidungen. Der CIO hat sicherzustellen, dass KI-Lösungen und Mensch-Maschine-Schnittstellen technisch sauber entwickelt und professionell eingesetzt werden. Der CLO dagegen hat die Datensicherheit und den Datenschutz sowie die Compliance zu gewährleisten. Nur so kann sich die Innovationskraft von KI vollständig entfalten.

Ein Blick auf den Markt zeigt allerdings, dass erst 8 Prozent der Unternehmen KI-Governance-Strukturen und -prozesse implementiert haben. 29 Prozent arbeiten an der Einführung und Etablierung – und eine Mehrheit von 63 Prozent hat noch nicht einmal damit begonnen. Dabei wäre das anhand des praxisorientierten Leitfadens für Führungskräfte sowie der Vorstellung des sogenannten „AI target operating models“ möglich, da hier die erforderlichen Schritte im Unternehmen dargestellt werden.

Da sich KI weiterhin rasant entwickelt, die Anwendungsmöglichkeiten immer vielfältiger und die Qualität der Ergebnisse immer besser wird, wird die Schaffung einer umfassenden Governance-Struktur immer dringender. Um das volle Potenzial von KI auszuschöpfen und gleichzeitig die sich aus dem Einsatz ergebenden Risiken zu minimieren, sollten Unternehmen ihre KI-Governance intern zeitnah fest verankern. Nötig sind dazu eine strategische Vision sowie ein umfassendes Verständnis der Technologie und ihrer Auswirkungen. Das Whitepaper liefert Ansätze für die anstehenden Entscheidungen.