Viele Unternehmen wollen in aller Eile herausfinden, wie sie aus generativer KI geschäftlichen Nutzen ziehen können - ohne dabei über die unzähligen Fallstricke zu stolpern. Die Adoptionskurve verläuft steil: Nur wenige Monate nach dem Start des generativen KI-Tools ChatGPT im November 2022 arbeiten viele Führungskräfte in Unternehmen daran, das Potenzial dieser Technologie auszuschöpfen.

Rund 45 Prozent von 2.500 Führungskräften haben in einer Gartner-Studie vom Mai 2023 angegeben, dass der Publicity-Rummel um ChatGPT sie dazu veranlasst hat, ihre KI-Investitionen zu erhöhen. Mehr als zwei Drittel gaben an, dass ihr Unternehmen bereits KI erforscht. 19 Prozent befanden sich bereits im Pilot- oder Produktionsmodus.

Diese Ergebnisse decken sich mit der jüngsten CIO-Tech-Talk-Umfrage von Foundry vom Juli 2023. Demnach setzen 60 Prozent der IT-Führungskräfte KI in ihrem Unternehmen aktiv ein, während sich 28 Prozent noch in der Erkundungsphase befinden. Dabei zeichnet sich ab, dass CIOs als Top-Technologen in der Entwicklung der generativen KI-Strategie die wichtigsten internen Ansprechpartner sein werden.

Dennoch gibt es viele Bedenken, Anforderungen und Herausforderungen, die den Einsatz generativer KI in Unternehmen erschweren.

Zulassen oder nicht

Viele namhafte Unternehmen haben generative KI-Tools wie ChatGPT zunächst gesperrt, unter anderem aus Sorge um den Schutz sensibler Daten. Einige Betriebe haben ihre Verbote aufgehoben und erlauben eine begrenzte Nutzung der Technologie, andere nicht.

In dem Maße, in dem Anbieter generative KI in ihre Services aufnehmen und Mitarbeiter die Technologie ausprobieren, müssen CIOs ihre Kollegen über die Vor- und Nachteile von generativer KI sowie über die möglichen Folgen eines Verbots oder einer Einschränkung beraten. "Die wichtigste Frage lautet jetzt: erlauben oder nicht erlauben?", berichtet Mir Kashifuddin, Data Risk and Privacy Leader beim Beratungsunternehmen PwC US.

Sich schnell entwickelnde Risiken

Unternehmen, die den Einsatz von KI blockiert haben, stellen fest, dass einige Arbeitnehmer die Technologie noch immer testen. Sie erkennen auch, dass sie lernen müssen, das Potenzial der Technologie zu nutzen - oder ihr Unternehmen wird zurückfallen.

Daher gilt es, die größten Risiken bei der Einführung von Gen-KI-Piloten zu identifizieren. "CIOs müssen Fragen zu möglichen Szenarien stellen und Risiken thematisieren sowie analysieren", fordert Mary Carmichael, Managing Director of Risk Advisory bei Momentum Technology.

Richtlinien zur adäquaten Nutzung

Laut Carmichael stehen Führungskräfte vor einer weiteren großen Frage, wenn es um Tools wie ChatGPT geht: "Welche Anweisungen geben Sie Ihren Mitarbeitern in Bezug auf kostenlose und zugängliche Technologien?"

Carmichael berichtet, dass sie vor kurzem eine Gruppe von Führungskräften gefragt hat, ob sie eine Richtlinie zur adäquaten Nutzung haben. Nur wenige sagten, sie hätten eine erstellt, um ihren Mitarbeitern zu zeigen, was das Unternehmen für akzeptabel hält. "Viele Mitarbeiter fragen sich bereits, ob oder wann sie KI-Tools verwenden und worauf sie dabei achten sollten. Aber im Moment scheint die IT-Abteilung damit beschäftigt zu sein, aufzuholen", so Carmichael.

Unterbrechung der Geschäftstätigkeit

Da es sich bei generativer KI um eine disruptive Technologie handelt, müssen CIOs und ihre C-Suite-Kollegen herausfinden, ob oder wie ihr Unternehmen von dieser Umwälzung betroffen ist. "Wie wird Ihr Unternehmen von generativer KI beeinflusst und wie hat sich ChatGPT auf Ihr Geschäftsmodell ausgewirkt?" merkt Carmichael an. Sie ergänzt, dass einige Unternehmen bereits erheblichen Marktwert eingebüßt haben, als sie mit der plötzlichen Konkurrenz durch generative KI konfrontiert wurden.

"Dies bringt Probleme für CIOs mit sich. Einerseits wird erwartet, durch den KI-Einsatz Kosten zu reduzieren. Andererseits ist die Erwartung hoch, dass diese Technologie in Produkte und Services integriert wird, um das Angebot zu stärken", fügt Carmichael hinzu. Hier müssten CIOs sich Wissen über die Technologie aneignen und die Fachbereiche anleiten und beraten.

Die Reifen während der Fahrt wechseln

Als ob diese Herausforderungen nicht schon groß genug wären, müssen Führungskräfte schnell handeln. Es gilt, Probleme in Angriff zu nehmen, während alles noch in Bewegung ist.

McKinsey-Partner Douglas Merrill verweist darauf, dass CIOs agile Prozesse auf ihre KI-Strategie anwenden sollten: "Sie müssen lernen, während des schnellen Fortschritts Iterationen durchzuführen, die sicher und kontrolliert sind und sich auf das Risikomanagement konzentrieren."

Innovation mit Tempo

Ein weiteres Thema für CIOs ist die Frage, wie sie generative KI nutzen können, um ihre Unternehmen von Marktbegleitern abzusetzen. Sie sollten sich darauf konzentrieren, "wo sie generative KI effektiv einsetzen können. Und es gibt so viele Möglichkeiten, die man direkt mit der Geschäftsstrategie in Einklang bringen muss", sagt Frances Karamouzis, Vice President und Analystin bei Gartner.

Sie räumt ein, dass technologiegestützte Innovationen für CIOs nichts Neues sind, aber die KI stelle aufgrund ihrer rasanten Entwicklung sowie ihrer Leistungsfähigkeit und Komplexität tatsächlich eine neue Herausforderung dar. "In Bezug auf die Geschwindigkeit und die Ausbreitung der KI müssen CIOs andere Ansätze entwickeln, kommunizieren und umsetzen", fügt Karamouzis hinzu.

Anwendungsfälle identifizieren und priorisieren

Eine Umfrage des Marktforschungsunternehmens IDC hat ergeben, dass die Anwendungsfälle mit der höchsten Priorität in die Kategorien Wissensmanagement, Codegenerierung, Produkt- und Servicedesign sowie die Entwicklung fallen. Unternehmen brauchen eine Möglichkeit, Ideen für den Einsatz der Technologie zu sammeln, zu prüfen und zu priorisieren.

"CIOs sollten zuerst eine klare Roadmap für die Implementierung generativer KI aufstellen. Unabhängig davon, ob die Ziele Produktivitätssteigerungen oder andere kommerzielle Vorteile sind, müssen sie sich mit dem Top-Management über die Roadmap abstimmen, bevor die Auswahl von Technologien zur Umsetzung der Roadmap getroffen wird", empfiehlt Goh Ser Yoong, Leiter der Compliance-Abteilung bei Advance.AI und Mitglied der ISACA Emerging Trends Working Group.

Kaufen vs. modifizieren vs. erstellen

Unternehmen können generative KI auf drei verschiedene Arten einführen. CIOs werden ihre Kollegen dabei helfen, sich für den besten Weg zu entscheiden. McKinsey hat ein eigenes Framework entwickelt, das die verschiedenen Nutzungsarten als "Taker"(Nehmer), "Shaper" (Gestalter) und "Maker" (Macher) beschreibt.

"Nehmer" verwenden, was jemand anderes gebaut hat, und nutzen die Fähigkeiten direkt von Anfang an. "Gestalter" passen diese Fähigkeiten im Wesentlichen an ihre eigenen Bedürfnisse oder eigenen Daten an. "Macher" - der am wenigsten verbreitete Typ laut McKinsey-Berater Merrill - haben den größten Bedarf an Struktur und Kontrolle und werden daher eigenen Modelle bauen, um spezifische Anforderungen zu erfüllen.

IT-Reife des Unternehmens

Unabhängig davon, ob ein Unternehmen ein Nehmer, Gestalter oder Macher ist, benötigt es einen ausreichend modernen Technologie-Stack und eine geordnete Dateninfrastruktur, um generative KI effektiv nutzen zu können. "Die Daten, die Strukturen in der Cloud, das Rechennetzwerk und der Speicher sind sicherlich der Aufgabenbereich des CIO", sagt Karamouzis von Gartner.

Sie seien zudem dafür verantwortlich, alle Engpässe oder Barrieren innerhalb des Technologie- oder Daten-Stacks zu identifizieren und zu beseitigen, die ihr Unternehmen daran hindern könnten, die gesetzten Ziele der generativen KI zu erreichen. Sie fügt hinzu: "CIOs sind diejenigen, die die Technologie entwickeln, um KI zu ermöglichen."

Datenschutz und Sicherheit

Im Frühjahr 2023 verbot der südkoreanische Elektronikkonzern Samsung seinen Mitarbeitern, generative KI-Tools zu nutzen. Dies geschah, nachdem das Unternehmen festgestellt hatte, dass einige seiner internen Quellcodes auf ChatGPT hochgeladen worden waren.

Andere Betriebe seien besorgt, dass ihre Mitarbeiter dasselbe tun, berichtet Kashifuddin von PWC. "Da Mitarbeitende mit diesen Tools interagieren, müssen Unternehmen sicherstellen, dass sie keine proprietären Daten verwenden, die an die grundlegenden Modelle zurückgesendet werden", fügt er hinzu. Führungskräfte erwarten daher von ihren CIOs sowie von ihren Datenverantwortlichen und Datenschutzbeauftragten, dass sie Maßnahmen ergreifen, Governance-Richtlinien entwickeln, Kontrollen implementieren und Überwachungstools einsetzen.

Einhaltung von Daten- und Datenschutzgesetzen

CIOs sowie Verantwortliche für Daten, Compliance, Risiken und Sicherheit müssen sich damit auseinandersetzen, wie überwacht und sichergestellt werden kann, dass Mitarbeitende beim Einsatz generativer KI nicht gegen Gesetze und Datenschutzpraktiken verstoßen. "Wenn Sie Ihre Daten in eine KI-Engine eingeben, die von jemand anderem kontrolliert wird, haben Sie die Kontrolle über diese Daten verloren", warnt Carl Froggett, CIO bei Deep Instinct, einem Hersteller einer Cybersicherheitsplattform.

Explainable AI

CIOs sollten auch Wege finden, um die von generativer KI erzeugten Ergebnisse zu analysieren und zu überprüfen. So wird sichergestellt, dass die Ergebnisse korrekt, unvoreingenommen und frei von Verletzungen des geschützten geistigen Eigentums sind. "Verantwortungsvolle und erklärbare KI sind weitere Herausforderungen, mit denen sich CIOs auseinandersetzen müssen", sagt Carmichael von Momentum Technology.

Neue Vorschriften

Regierungen auf der ganzen Welt debattieren darüber, ob und wie sie den Einsatz von KI regulieren sollen. Während die Rechtsabteilungen der Unternehmen und externe Anwälte den Führungskräften dabei helfen, die Auswirkungen neuer Gesetze zu deuten, müssen CIOs dafür sorgen, dass die KI-Technologie im Unternehmen mit den neuen Gesetzen übereinstimmt.

"CIOs müssen mit den sich entwickelnden Vorschriften und rechtlichen Rahmenbedingungen im Zusammenhang mit der KI-Nutzung Schritt halten, wie zum Beispiel mit dem kürzlich vorgestellten KI-Gesetz der Europäischen Union", so Goh von Advance.AI. "Datenschutzgesetze, Vorschriften zum geistigen Eigentum, branchenspezifische Richtlinien und ethische Standards einzuhalten ist entscheidend. CIOs sollten eng mit den Rechtsteams zusammenarbeiten, um alle rechtlichen Implikationen im Zusammenhang mit generativer KI zu verstehen und anzugehen."

Bedenken hinsichtlich der Genauigkeit

Kashifuddin und andere weisen darauf hin, dass CIOs ihre Unternehmen und die Mitarbeiter dabei unterstützen müssen, Qualitätssicherungsverfahren einzuführen. Diese dienen dazu, alle von der KI gewonnenen Erkenntnisse zu überprüfen.

Dazu gehört auch die Implementierung von Qualitätssicherungsmaßnahmen innerhalb der IT-Abteilung für jeden Code, den Entwickler verwenden möchten, fügt Kashifuddin hinzu. Diesen Schritt zu versäumen, kann erhebliche Folgen haben sein. Ein bemerkenswertes Beispiel ist der Fall eines New Yorker Anwalts, der sich vor Gericht verantworten muss, nachdem er ein mit ChatGPT verfasstes juristisches Dokument eingereicht hatte, das Zitate aus erfundenen Rechtsfällen enthielt.

Höherer Qualifizierungsbedarf

KI verändert schnell die Nachfrage nach IT-Fähigkeiten und -Talenten. Die Mitarbeiter im gesamten Unternehmen müssen lernen, mit generativen KI-Tools zu arbeiten.

In der Zwischenzeit gilt es, die IT-Mitarbeiter für die Arbeit mit generativen KI-Tools weiterzubilden und ihnen die erforderlichen Fähigkeiten beizubringen, um die Anwendung der Technologie zu unterstützen. "CIOs müssen die Qualifikationslücken in ihren IT-Abteilungen bewerten und angemessene Schulungen und Ressourcen bereitstellen, um generative KI zu verstehen und effektiv mit ihr zu arbeiten", fordert Goh.

KI-gestützte Cyberbedrohungen

Ein weiterer Bereich, der CIOs Sorgen bereitet: die Art und Weise, wie Hacker generative KI einsetzen. "Wir sprechen hier von einer neuen Stufe der Raffinesse bei der Erstellung von E-Mails und Nachrichten sowie der Umgehung biometrischer Daten. Schließlich kann die generative KI die Persönlichkeit, die Eigenheiten und die Sätze übernehmen, die eine echte Person verwenden würde", berichtet CIO Froggett. Zudem erzeuge generative KI gefälschte Videos und Audiodateien, die authentisch erscheinen.

Solch ausgeklügelte Angriffe können bestehende Sicherheitskontrollen wie die Stimmauthentifizierung überflüssig machen. und das zwingt CIOs und CISOs dazu, schnell Alternativen zu finden. "Die Kontrollen, die wir eingerichtet haben, funktionieren möglicherweise nicht mehr, weil die generative KI bereits aktiv ist", fügt Froggett hinzu.

Nervöse Arbeitnehmer

In einem Bericht vom März 2023 berechnete Goldman Sachs, dass etwa zwei Drittel der derzeitigen Arbeitsplätze "einem gewissen Grad der KI-Automatisierung ausgesetzt sind, und dass generative KI bis zu einem Viertel der derzeitigen Arbeit ersetzen könnte". Mit anderen Worten, so die Berater, könnte das Äquivalent von 300 Millionen Vollzeitarbeitsplätzen durch die Automatisierung verloren gehen.

"Es herrscht eine große Unsicherheit bezüglich der Karrieren und Umschulungsmaßnahmen", berichtet Carmichael. Als Teil des Führungsteams sollten CIOs daran arbeiten, ihre Mitarbeiter einzubinden und auf ihre Bedenken einzugehen. Allerdings sei sie persönlich davon überzeugt, dass durch KI Arbeitsplätze geschaffen werden, und zwar möglicherweise mehr, als verloren gehen.

Den Wandel durch KI steuern

CIOs werden zu den Führungskräften gehören, die dafür verantwortlich sind, ihre Unternehmen durch alle KI-Umwälzungen zu führen. Schließlich seien sie für diese Aufgabe prädestiniert, sagen viele Experten. CIOs hätten ihre Fähigkeiten in diesem Bereich in den letzten Jahren aufgebaut, als sie ihre Unternehmen durch die digitale Transformation geführt haben.

Einige sind jedoch der Meinung, dass der bevorstehende Wandel anders verlaufen wird als frühere Change-Management-Szenarien. Das Tempo der Einführung und die mit der KI einhergehenden Störungen könnten frühere technologische Revolutionen in den Schatten stellen. "Das Tempo hat alle überrascht, und jetzt müssen wir mithalten", sagt Carmichael. "Die Frage ist also, wie gut man all das managen und mit Zuversicht vorankommen kann."

Zusammenführung der Teams

Der CIO kann natürlich nicht all diese Probleme allein bewältigen - und er sollte es auch nicht versuchen. Als wichtigster Technologe in vielen Unternehmen wird er wahrscheinlich ein strategischer Berater des Führungsteams werden, wenn es um die Risiken und Chancen geht, die KI mit sich bringt.

"Der CIO als Enabler rüstet das Unternehmen mit IT aus, er fungiert als Vermittler, Berater und Lieferant", sagt Karamouzis. "In der KI-Ära hat er eine der wichtigsten Rollen im Management: Er muss anderen helfen, die ganze Latte von Herausforderungen zu verstehen, die bewältigt werden müssen." (ajf/jd)

Dieser Beitrag basiert auf einem Artikel unserer US-Schwesterpublikation CIO.com.