AI Governance

AI Governance als „Good AI Practice"

AI Governance – in der Pharmaindustrie hat sich der Begriff „Good AI Practice" etabliert – beinhaltet eine rechtskonforme und technisch sichere Forschung, Entwicklung und Nutzung von Systemen der Künstlichen Intelligenz unter Berücksichtigung ethischer und gesellschaftlicher Aspekte. 

Einen Rechtsrahmen bildet in Deutschland beispielsweise die EU-weit geltende Datenschutz-Grundverordnung (DSGVO) sowie das Bundesdatenschutzgesetz, die seit dem 25. Mai 2018 in Kraft getreten sind. Ethische und soziale Faktoren werden in Kodices wie der Allgemeinen Erklärung der Menschenrechte der UNO (UN-Resolution 217 A (III) vom 10. Dezember 1948) ausgeführt und sind in Normen wie dem Grundgesetz enthalten (insbesondere Art. 1 Abs 1 und Art. 3 Abs. 3 GG) oder auch im EU AI Act der Europäischen Union bzw. in der deutschen KI-Verordnung (insbesondere Art. 10, „Daten und Daten-Governance") spezifiziert. So wird in der Begründung der Notwendigkeit der KI-Verordnung in Absatz 27 auf die „Ethikleitlinien für vertrauenswürdige KI" verwiesen, die von einer „unabhängigen hochrangigen Expertengruppe für künstliche Intelligenz" entwickelt wurden. „Zu den sieben Grundsätzen gehören: menschliches Handeln und menschliche Aufsicht, technische Robustheit und Sicherheit, Privatsphäre und Daten-Governance, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, soziales und ökologisches Wohlergehen sowie Rechenschaftspflicht."

Worauf zielt die AI Governance ab?

Der Einsatz Künstlicher Intelligenz muss also in vertrauenswürdige, transparente Bahnen gelenkt werden – dies ist die Aufgabe der AI Governance. Eine effektive KI-Governance umfasst damit Kontrollmechanismen, die Risiken wie verzerrte oder unwahre Darstellungen, Diskriminierung, Datenschutz- und Urheberrechtsverletzungen sowie Missbrauch aufdecken und minimieren. Dies entspricht den Vorgaben der Compliance, der Rechts- bzw. Regelkonformität. Gleichzeitig sollen sie Innovationen ermöglichen und fördern sowie die Vertrauensbasis stärken. Hier setzt die AI Governance bei der Erklärung des technischen Hintergrunds und der Transparenz der Entscheidungsfindung in einem KI-System an.

Wer ist verantwortlich für die Umsetzung der AI Governance?

Es gilt das Top-down-Prinzip: Die Verantwortung für die konsequente Umsetzung der AI Governance in einer Organisation liegt bei der Geschäftsleitung bzw. auf Direktionsebene. Sie hat die Rahmenbedingungen zu schaffen, um die KI-Systeme während ihres gesamten Lebenszyklus sicher anwenden zu können.

Einen Teil der Verantwortung kann das oberste Management auf Technik- oder Audit-Teams übertragen, die zum Beispiel die Datenintegrität der KI-Anwendungen und die Funktionsfähigkeit der Systeme zu überprüfen. Einen anderen Teil übernehmen die Führungskräfte, in deren Zuständigkeitsbereich KI-Lösungen von den Beschäftigten genutzt werden. Dabei sind von den Vorgesetzten entsprechende Qualitäten als „Leader" gefragt: Sie müssen bei der Anwendung von KI-Systemen nicht nur mit gutem Beispiel vorangehen und die Einsatzmöglichkeiten in ihrem Geschäftsfeld beurteilen, sondern auch die Nutzung aktiv unterstützen und Mitarbeiter durch Schulungen und Trainings auf die neuen Aufgaben vorbereiten und qualifizieren.

Letztlich hat aber jede einzelne Person in einer Organisation als Anwender für den bestimmungsgemäßen Gebrauch der KI und damit die AI Governance zu sorgen und sicherzustellen, dass diese Technik verantwortungsvoll und ethisch korrekt eingesetzt wird.