Foto: BalanceFormCreative - shutterstock.com
Technologien, die künstliche Intelligenz (KI) einsetzen, haben ein erhebliches Potenzial, die Gesellschaft und das Leben der Menschen zu verändern - von Handel und Gesundheit über Verkehr und Cybersicherheit bis hin zur Umwelt und unserem Planeten. KI-Technologien können ein integratives Wirtschaftswachstum fördern und wissenschaftliche Fortschritte unterstützen, die die Lebensbedingungen in unserer Welt verbessern.
KI-Technologien bergen jedoch auch Risiken, die sich negativ auf Einzelpersonen, Gruppen, Organisationen, Gemeinschaften, die Gesellschaft, die Umwelt und den Planeten auswirken können. Wie Risiken für andere Arten von Technologien können auch KI-Risiken auf unterschiedliche Weise entstehen und als lang- oder kurzfristig, mit hoher oder geringer Wahrscheinlichkeit, systemisch oder lokal begrenzt und mit großen oder geringen Auswirkungen charakterisiert werden.
Während es unzählige Standards und bewährte Verfahren gibt, die Organisationen dabei helfen, die Risiken herkömmlicher software- oder informationsbasierter Systeme zu mindern, sind die von KI-Systemen ausgehenden Risiken in vielerlei Hinsicht neu- und einzigartig. KI-Systeme können beispielsweise auf Daten trainiert werden, die sich im Laufe der Zeit ändern können, manchmal sogar erheblich und unerwartet. Das beeinträchtigt die Funktionsfähigkeit und Vertrauenswürdigkeit des Systems in einer Weise, die schwer zu überblicken ist.
Was Sie mit modernem ITSM erreichen können In einer Serie von kurzen Videos erfahren Sie, wie Sie die Auswirkung, Geschwindigkeit und Bereitstellung der IT transformieren können. Erleben Sie alles in Aktion und erkunden Sie die Demo-Bibliothek von ServiceNow. |
KI-Risikomanagement ist eine Schlüsselkomponente
KI-Systeme und die Kontexte, in denen sie eingesetzt werden, sind häufig komplex, so dass es schwierig ist, Fehler zu erkennen und darauf zu reagieren, wenn sie auftreten. Außerdem sind KI-Systeme von Natur aus sozio-technisch, d.h. sie werden durch gesellschaftliche Dynamiken und menschliches Verhalten beeinflusst. KI-Risiken können - ebenso wie die Vorteile - sich aus dem Zusammenspiel von technischen Aspekten in Verbindung mit gesellschaftlichen Faktoren ergeben, die damit zusammenhängen, wie ein System genutzt wird, wie es mit anderen KI-Systemen interagiert, wer es betreibt und in welchem sozialen Kontext es eingesetzt wird.
Diese Risiken machen den Einsatz und die Nutzung von KI zu einer einzigartigen Herausforderung, sowohl für Unternehmen als auch für die Gesellschaft. Ohne angemessene Kontrollen können KI-Systeme ungerechte oder unerwünschte Ergebnisse für Einzelpersonen und Gemeinschaften verstärken, aufrechterhalten oder verschlimmern. Mit angemessenen Kontrollen hingegen können die von KI-Systemen erzeugten ungerechten Ergebnisse abmildern und kontrollieren.
Das KI-Risikomanagement ist eine Schlüsselkomponente der verantwortungsvollen Entwicklung und Nutzung von KI-Systemen. Verantwortungsbewusste KI-Praktiken können dazu beitragen, die Entscheidungen über Design, Entwicklung und Nutzung von KI-Systemen mit den beabsichtigten Zielen und Werten in Einklang zu bringen. Kernkonzepte für verantwortungsbewusste KI sind Menschenzentrierung, soziale Verantwortung und Nachhaltigkeit.
Das KI-Risikomanagement kann verantwortungsvolle Anwendungen und Praktiken vorantreiben, indem es Organisationen und ihre internen Teams, die KI entwerfen, entwickeln und einsetzen, dazu anregt, kritischer über den Kontext des jeweiligen KI-Einsatzes und über mögliche oder unerwartete negative Auswirkungen nachzudenken. Das Verständnis und der Umgang mit den Risiken von KI- Systemen werden dazu beitragen, die Vertrauenswürdigkeit zu erhöhen und damit auch das Vertrauen der Öffentlichkeit zu stärken.
KI-Risikomanagement als Framework
Das Nationale Institut für Normen und Technologie des US-Handelsministeriums (National Institute for Standards and Technology, NIST) hat nach mehrjähriger Vorbereitungszeit Ende Januar 2023 ein ausführliches Rahmenwerk zum Risikomanagement im Umgang mit Künstlicher Intelligenz veröffentlicht. Die Veröffentlichung des Artificial Intelligence Risk Management Framework (AI RMF 1.0) ist hier kostenlos erhältlich.
Während sich Risikomanagement-Prozesse im Allgemeinen mit negativen Auswirkungen befassen, bietet dieses Rahmenwerk Ansätze zur Minimierung der zu erwartenden negativen Auswirkungen von KI-Systemen und zur Ermittlung von Möglichkeiten zur Maximierung der positiven Auswirkungen. Ein effektiver Umgang mit dem Risiko potenzieller Schäden könnte zu vertrauenswürdigeren KI-Systemen führen und potenzielle Vorteile für Menschen (Einzelpersonen, Gemeinschaften und die Gesellschaft), Organisationen und Systeme/Ökosysteme freisetzen.
Das Risikomanagement kann KI- Entwickler und -Nutzer in die Lage versetzen, die Auswirkungen zu verstehen und die inhärenten Grenzen und Unsicherheiten der Modelle und Systeme zu berücksichtigen. Das wiederum kann die Gesamtleistung und Vertrauenswürdigkeit des Systems verbessern und die Wahrscheinlichkeit erhöhen, dass KI-Technologien in einer Weise eingesetzt werden, die von tatsächlichem Nutzen ist.
Studie: Risikomanagement bei Finanzdienstleistern Effizientes und wirkungsvolles Risikomanagement setzt die Zusammenarbeit aller Stakeholder des Unternehmens voraus – ein komplexer, langwieriger Prozess. Wie gut Finanzdienstleister aus der DACH-Region dabei sind, erfahren Sie in dieser Studie. |
Merkmale einer sicheren KI
Das AI RMF beschreibt ausführlich, wie Risiken beschrieben werden können und welche Schwierigkeiten dabei konkret auftreten können. Ein wesentlicher Aspekt bei der Gesamtbetrachtung ist die Frage zur Vertrauenswürdigkeit von KI-Systemen. Diese Frage wird aktuell auch für ChatGPT von OpenAI breitenwirksam auf allen Medien diskutiert, wie beispielhaft der Artikel "Gut erfunden ist halb geglaubt" auf Zeit Online zeigt.
Damit KI-Systeme vertrauenswürdig sind, müssen sie oft auf eine Vielzahl von Kriterien reagieren, die für die interessierten Parteien von Wert sind. Ansätze, die die Vertrauenswürdigkeit von KI erhöhen, können KI-Risiken verringern. Das Rahmenwerk formuliert auf dieser Basis Merkmale vertrauenswürdiger KI und bietet Anleitungen zu deren Umsetzung. Zu den Merkmalen vertrauenswürdiger KI-Systeme gehören folgende Eigenschaften:
valide und zuverlässig,
sicher und belastbar,
rechenschaftspflichtig und übergreifend,
erklärbar und interpretierbar,
datenschutzfreundlich und fair.
Um eine vertrauenswürdige KI zu schaffen, muss jedes dieser Merkmale in Hinsicht auf den Nutzungskontext des KI-Systems abgewogen werden. Während alle genannten Eigenschaften sozio-technische Systemmerkmale sind, beziehen sich Rechenschaftspflicht und Transparenz auch auf die Prozesse und Aktivitäten innerhalb eines KI-Systems und auf sein externes Umfeld. Eine Vernachlässigung dieser Merkmale kann die Wahrscheinlichkeit und das Ausmaß negativer Folgen erhöhen.
Die Kernfunktionen des Rahmenwerks
Der KI-RMF-Kern zeigt Maßnahmen und Tätigkeiten auf, die den Dialog, das Verständnis und die Aktivitäten zum Umgang mit KI-Risiken und zur verantwortungsvollen Entwicklung vertrauenswürdiger KI-Systeme ermöglichen. Er besteht aus vier Funktionen: GOVERN, MAP, MEASURE und MANAGE. Jede dieser übergeordneten Funktionen ist in Kategorien und Unterkategorien unterteilt. Die Kategorien und Unterkategorien sind in spezifische Aktionen und Ergebnisse unterteilt. Das Risikomanagement sollte kontinuierlich und zeitnah erfolgen und sich über den gesamten Lebenszyklus des KI-Systems erstrecken.
Einbettung in bestehende Risk Management Systeme
Für Unternehmen liegt es auf der Hand, dass ein Risikomanagement für KI-Systeme nicht als weiteres eigenständiges System aufgesetzt und betrieben werden sollte, sondern vielmehr als eine weitere Dimension in ein Multi-Managementsystem eingebettet wird.
Das Integrierte Risikomanagement von ServiceNow bietet für alle vier beschriebenen Funktionen vielfältige Unterstützung. Die Einbettung des AI RMF in die Now Platform würde etwa so aussehen:
Die Funktion GOVERN wird primär durch die Lösungen für Risk Management und Policy and Compliance Management unterstützt.
Die Funktion MANAGE kümmert sich um die Aspekte der Einführung von KI-Systemen, deren Betrieb und die kontinuierliche Datenpflege und Überwachung. Dies sollte in das Innovation Management sowie in das Change Management eingebettet und mittels Configuration Management dokumentiert und kontrolliert werden.
Die Funktion MAP kümmert sich darum, dass der KI-Kontext hergestellt und verstanden wird, was mittels der Möglichkeiten des Strategischen Portfolio Managements und wiederum des Risiko Managements erreicht werden kann.
Die letzte Funktion, MEASURE, kümmert sich um die Identifikation und Anwendung relevanter Metriken zur ordentlichen Messung und Dokumentation der KI-Risiken. Diese sind im Risiko Management zu identifizieren und idealer Weise mittels AI Ops zu überwachen und zukünftige Entwicklungen vorherzusehen. Letztendlich trägt das Vendor Risk Management zur Bewertung und Überwachung von zugelieferten Komponenten bei.
Mehr über den ganzheitlichen Ansatz von ServiceNow im Umgang mit Risiken und was es mit Integrated Risk Management auf sich hat?