Die Künstliche Intelligenz (KI) ist nicht aufzuhalten. Mustergültig lässt sich das am Siegeszug von Chatbots wie ChatGPT in den letzten Monaten beobachten. Dass sich KI-Technologien erheblich auf Menschen und Unternehmen auswirken werden, zeigt eine aktuelle Studie der US-Jobbörse Resumbuilder. Der Studie zufolge setzen heute bereits 49 Prozent der befragten Unternehmen das auf Sprachmodellen basierende ChatGPT ein. 99 Prozent dieser Unternehmen gaben sogar erhebliche Kosteneinsparungen durch die Software an, die vor allem zum Schreiben von Code und beim Kreieren von Content eingesetzt wurde.

Abseits derart massentauglicher Tools wie ChatGPT entwickeln sich KI-Lösungen vor allem im Businessumfeld weiter. Hier kommt KI etwa zum Einsatz, wenn es darum geht, Auffälligkeiten und Zusammenhänge in enorm großen Datenmengen zu erkennen, daraus Muster abzuleiten und im Anschluss daran Prognosen und Empfehlungen für weitreichende strategische Unternehmensentscheidungen zu geben.

KI ist kein Hype mehr. Sie ist eine der mächtigsten Technologien der Menschheitsgeschichte und birgt gleichermaßen ungeheure disruptive Potenziale ebenso wie neuartige Risiken. Diese Risiken müssen Unternehmen nicht nur kennen und einschätzen, sondern vor allem auch verstehen. Und deshalb unbedingt in ihrem Risikomanagement abbilden.

Hohe Datenqualität und ausgeprägtes Risikobewusstsein - ein starkes Paar

Künstliche Intelligenz kann ihre Stärken nur dann ausspielen, wenn die zugrundeliegenden Daten für das Training der KI eine hohe Qualität haben und zuverlässig sind. Dementsprechend stellt das verwendete Datenmaterial einen nicht zu unterschätzenden Risikofaktor für Unternehmen dar, falsche Entscheidungen zu fällen.

"Angenommen, ein Pharmaunternehmen entwickelt ein Produkt eigens für Frauen, greift dabei aber unwissentlich auf Forschungsdaten mit stark männlichem Bezug zurück. Die KI kann dieses Problem nicht erkennen - und die Produktentwicklung scheitert", beschreibt Martin Pscheidl, Senior Enterprise Architect beim US-amerikanischen Plattform-Anbieter ServiceNow, die Bedeutung verlässlicher Daten.

Die KI identifiziert Datencluster und stellt so neue Zusammenhänge her, die allerdings bei unsauberen oder wie im genannten Fall vorbeeinflussten Daten nur zu einer bedingten, weil selektiven Wahrheit führen - und damit zu eingeschränkt relevanten Ergebnissen. "Verdichtungsalgorithmen und mathematische Systeme sind eben nicht trivial. Und wenn Laien auf die Ergebnisse der KI-Analysen blicken und ihnen 'blind' als absolute Wahrheit vertrauen, stellt das ein enormes Risiko dar. Denn dann basieren Unternehmen strategische Entscheidungen auf fehlerbehafteten Voraussetzungen", führt Pscheidl weiter aus. "Ein grober und gefährlicher Fehlschluss".

Unternehmen müssen sich also vor der Entscheidung, KI-Technologien einzusetzen, darüber klar werden, dass allein der grundsätzliche Umgang mit KI risikobehaftet ist. Für dieses andersartige KI-Risikobewusstsein muss also das, was die KI macht, auch erklärt und interpretiert werden können. Dafür bedarf es eines tiefergehenden Spezialwissens zu zentralen Punkten wie Modelle, Algorithmen und Clusterbildung.

Mit 4 Kernfunktionen gegen KI-Risiken

Bei dieser neuartigen Gemengelage an Herausforderungen in puncto Risikomanagement können Leitlinien zur Regulierung bei der Nutzung von Künstlicher Intelligenz helfen. Hierfür ist Ende 2022 ein für Unternehmen nicht verpflichtendes Framework durch das National Institute for Standards and Technology (NIST) zum Thema Risikomanagement im Kontext von KI veröffentlicht worden. Das Herzstück dieses Artificial Intelligence Risk Management Frameworks bilden vier Kernfunktionen, mit denen KI-Systeme verantwortungsvoll entwickelt und im Business-Alltag eingesetzt werden können:

• Govern

• Map

• Measure

• Manage

Martin Pscheidl hält das NIST-Framework für einen praktikablen Leitfaden. Insbesondere, weil der für 2023 geplante AI Act der Europäischen Union noch mitten in der Umsetzung steckt. "Deshalb sind diese 4 Kernfunktionen jetzt auch für Unternehmen so nützlich", so Pscheidl.

Govern

Zu Beginn definiert ein Unternehmen klar und transparent seine KI-Ziele, die sich immer an den Unternehmenszielen orientieren. Daraus wird eine klare Ziel- und Stoßrichtung entwickelt, für die wiederum fixe Rahmenbedingungen festgelegt werden, etwa für Datenschutz und Datenquellen.

Manage

Im nächsten Schritt erfolgt die Auswahl der KI-Technologie, der dann die ausgewählten Datenquellen zugeführt werden, begleitet von kontinuierlicher Überwachung der Datenqualität. Dies gilt insbesondere, wenn externe Daten dazugekauft worden sind.

Map

Bevor die KI-Algorithmen in Betrieb gehen können, muss der Kontext ihres Einsatzes erfasst und vollständig verstanden werden, um die damit verknüpften Risiken zu überblicken. Was geschieht mit dem Ergebnis? Wie geht es in den Produktentwicklungszyklus ein? Welche Empfehlungen leiten sich ab? Erst wenn dies geschehen ist, kann die Brücke zum eigenen Business geschlagen werden.

Measure

Anhand von überprüfbaren Messungen der KI-Risiken werden diese kontinuierlich kontrolliert und auch reported. Nur so lassen sich etwaige Fehlentwicklungen feststellen und Lehren daraus ziehen.

Die Arbeit mit KI-Systemen stellt also vor allem in Sachen Vorabplanung und Risikoabschätzung anders gestaltete Anforderungen an Unternehmen, die sich vor allem auf die genutzten Daten bezieht. Wie unabhängig, wie vertrauenswürdig, wie verlässlich sind diese? In der Regel wird die verwendete KI nicht identifizieren können, ob die verwendeten Daten vorbeeinflusst sind.

Durch den Einsatz von KI-Technologie, dem dadurch erheblich erweiterten inhaltlichen Kontext und die komplizierte Interpretation der Ergebnisse verschieben sich die Risiken für Unternehmen - für einen verantwortungsbewussten Umgang mit KI müssen folgende drei Aspekte unbedingt berücksichtigt werden: Menschenzentrierung, soziale Verantwortung und Nachhaltigkeit.

Wie Risikomanagement im Alltag umgesetzt werden kann

Bei aller Euphorie rund um KI-Systeme sollten Unternehmen vor dem Einsatz kurz auf die Bremse treten. Denn die eigenen Ziele und Maßstäbe müssen nicht nur definiert, sondern auch messbar gemacht werden. Hierbei bieten sich unternehmensübergreifende ESM-Plattformen wie die Now Platform von ServiceNow an. "Die Plattform kann den gesamten Zyklus der vier Kernfunktionen in allen Aspekten unterstützen", erläutert Martin Pscheidl. "Und zwar dergestalt, dass dass man das für die KI aufgebaute Risikomanagement-System hier errichten, betreiben und aufrechterhalten kann." Alle Vorhaben zur KI können etwa im Strategischen Portfolio Management verwaltet und die identifizierten Ziele und Risiken gegeneinander gewichtet werden. Dies bildet die Grundlage dafür, welche Ideen umgesetzt werden sollen.

Zahlreiche ServiceNow-Kunden betreiben ihr Risiko-Management bereits über das Modul Integrated Risk Management, und hier können sie auch für ihre KI-Risiken eine eigene Risikoklasse einführen. Bei Einführung und Betrieb von KI-Technologien lässt sich über die Now-Plattform die gesamte aufgebaute KI-Wertschöpfungskette technologisch überwachen und beobachten. Damit die Risiken der KI immer in sicheren Händen sind.

Wie genau Risiko-Management über die vier Säulen der NIST-Richtlinie über die Now Platform implementiert werden können, erfahren Sie hier.