Generative KI ist per se nichts sensationell Neues mehr. Bereits seit etwa 15 Jahren kursiert das Thema in Forschung und Wissenschaft und vor knapp fünf Jahren ist es im Anwenderbereich angekommen. Doch erst seit dem Markteintritt der ChatGPT-Plattform von OpenAI am 1. Dezember 2022 war generative KI plötzlich nicht nur in aller Munde, sondern auch direkt im allgemeinen Bewusstsein angelangt.

Die trotz aller Erfolge grundsätzlich noch in den Kinderschuhen steckende generative KI hat einer Marktanalyse der Unternehmensberatung McKinsey zufolge nicht nur ein jährliches Marktpotenzial von 2,6 Billionen US-Dollar, sondern wird von nicht wenigen Experten gleichzeitig auch als digitaler Heilsbringer in Sachen globaler Fachkräftemangel gesehen. Denn generative KI hat einen tiefgehenden Einfluss auf die Arbeitsplätze der Zukunft und damit eng verbunden auch auf die technischen Fähigkeiten, die Menschen dafür benötigen werden.

Momentan pflügen erste, von generativer KI befeuerte Automatisierungstechnologien durch die globalen Arbeitsmärkte. Einerseits automatisieren sie dabei zahlreiche Arbeitsplätze vollständig, werten aber andererseits viele Jobs fachlich deutlich auf durch die längst überfällige Beseitigung ermüdender, administrativ-repetitiver Aufgaben. Die neue Qualifikationen erforderlich machen.

Um diese Doppelproblematik zu kompensieren, müssen sich Unternehmen zunächst grundlegend darüber klar werden, wen sie in Zukunft noch einstellen (müssen). Daneben haben sie die Chance, ihre Mitarbeitenden fortzubilden, weiterzuentwickeln und ihnen anschließend höherwertige Aufgaben zu übertragen. Damit könnten sie die bedrohliche Fachkräftelücke schließen und sich zugleich in einer Welt positionieren, die im Idealfall von einer wertschöpfenden Partnerschaft zwischen Mensch und Maschine bestimmt wird.

Doch wie können sich Unternehmen - jenseits von ethischen und philosophischen Fragestellungen im Umgang mit generativer KI - auf diese bevorstehenden Umwälzungen am besten vorbereiten?

Generative KI - warum QM und Kontrolle so wichtig sind

Zum Beispiel indem sie verstehen lernen, welche KI-Szenarien für ihr eigenes Unternehmen in Frage kommen und wie sie ihre IT darauf vorbereiten. "Immer dann, wenn Machine Learning-Systeme etwas erschaffen, handelt es sich um generative KI. Und eigentlich ist diese wiederum nichts anderes als Wahrscheinlichkeitsrechnung - nur in Kombination mit gigantischer Rechenkapazität und Datenmassen", erläutert Ralf Schnell, Head of IT Service Management Solutions EMEA Central bei ServiceNow.

Unternehmen, die von den Vorteilen generativer KI profitieren wollen, müssen diese in ihre eigenen Services bzw. Dienste integrieren. Und nach Aussage von Schnell sollten sie dabei vor allem auf "wirksame Kontrollmechanismen und ein explizites Qualitätsmanagement" setzen. Denn wenn ein Unternehmen zum Beispiel eine generative KI einfach als Ebene 0 vor den IT-Servicedesk schaltet und alle Nutzeranfragen von der KI nach dem Motto "Wird schon stimmen!" beantworten lässt, entsteht ein gewaltiges Problem.

Die Folge könnten nicht nur fehlerhafte, irreführende und kontextlose Antworten sein, sondern vor allem eine mangelnde Integrität. Nutzer müssen im genannten Beispielfall davon ausgehen, dass sie belastbare Antworten aus der IT erhalten und eben nicht von einer unkontrolliert agierenden generativen KI. "Damit das nicht passiert, müssen Unternehmen unbedingt kontrollieren, aus welchem Kontext welche Daten mit welchen Anweisungen an die generative KI gehen. Die KI braucht eindeutige Vorgaben und Richtlinien, auf die sie im Servicekontext zurückgreifen kann, die quasi gedanklicher Bestandteil der Antworten sein müssen", so Schnell.

Immer mitdenken: KI-Governance

Wenn Unternehmen eigenentwickelte KI-Funktionen und KI-Produkte anderer Anbieter in ihre Geschäftsabläufe integrieren möchten, brauchen sie also Kontrolle. Diese erhalten sie zum Beispiel über eine neue Funktionalität in der Now Platform, den Generative AI Controller. "Der Controller ist die Integration und gleichzeitig die Kontrollinstanz, die Verbindung zu den digitalen internen Services und Workflows, kurz zu all dem, was auf der Now Platform läuft", berichtet Schnell.

Der IT-Service-Management-Experte hält KI-Governance für ein zentrales Thema der Zukunft. So könne man als Kunde zwar grundsätzlich auf eine bereits implementierte Governance bei den Anbietern von KI-Plattformen vertrauen, solle aber lieber gleich einen Schritt weitergehen und die Governance inhouse regeln. In einigen Branchen ist dies eine Muss-Regelung, die in der Now Platform übrigens bereits integriert ist - schon allein aus praktischen Gründen: "Nur auf diesem Weg kann man die Integrität aller Abläufe kontrollieren und gewährleisten. Vor allem mit Blick auf die eigenen Mitarbeitenden, denn die müssen den internen Compliance-Vorgaben ja vertrauen können."

Generative KI als Push für Services

Generative KI kann vorhandene Services ausweiten und aufwerten. Das ergibt in vielen Situationen Sinn, wenn die KI etwa aus einer Protokollmitschrift eine Projektzusammenfassung für das Executive Management schreibt. "In der Now Platform agiert unser Virtual Agent mittlerweile mit KI-Unterstützung. Bis wir an den Punkt gelangt waren, dass der Virtual Agent zu Benutzerfragen die exakt benötigen Infos zusammenstellt, z. B. interne Codeteile, Produktbilder, Links, Zusammenfassungen und vieles mehr, haben wir diverse Entwicklungsstufen durchlaufen." Die Unterhaltung zwischen User und KI-Lösung werde nun immer "menschlicher", was wiederum die Akzeptanz von KI fördere. Schnell ergänzt: "In Zukunft werden viele Unternehmen von einem passgenauen, individuellen Self Service mittels generativer KI profitieren."

Und wie sieht die nahe Zukunft aus? Wenn generative KI etwa beim Process Mining eingesetzt wird, um Fehler und Probleme in Prozessketten zu identifizieren, ist das eine Stärke von KI. Im nächsten Schritt kann die KI dann einen Vorschlag zur Behebung der Fehler machen. So weit, so gut. Denn auch diese KI-basierten Vorschläge müssen kontrolliert werden, damit die KI am Ende die eigenen Services nicht in eine unerwünschte Richtung verändert.

Bei der Code-Generierung im Rahmen von Low Code und No Code sowie in der Prozessgestaltung mittels generativer KI gilt aus Sicht von Ralf Schnell das gleiche: Die finale, menschliche Qualitätskontrolle ist enorm wichtig, "weil generative KI nicht beurteilen kann, wie passend oder wie unpassend der von ihr geschriebene Code ist. Das liegt im Ermessen des Menschen."

Menschliche Arbeit auf einem höheren Level

Dass generative KI bestimmte von Menschen besetzte Arbeitsplätze überflüssig macht, ist keine Frage, "aber so schnell wird das nicht gehen", ist Schnell überzeugt. "Wir dürfen dabei eines nicht vergessen: Computerbasierte Services werden immer mehr und immer komplexer. Da braucht es auch immer mehr Menschen, die diese Services entwickeln, in Betrieb nehmen, Fehler beheben, weiterentwickeln - unterstützt von generativer KI. Auch für die Berufswelt in der IT gelten dann neue Regeln. Nur wenige Entwickler werden ausschließlich Code schreiben, vielmehr müssen sie den Businesskontext verstehen, Anforderungen aufnehmen können, Benutzerverhalten verstehen, analysieren und kontrollieren, ob die von der generativen KI entwickelte Code tatsächlich der bestmögliche Code für die spezifische Anforderung ist. Die qualitative Ebene, auf der Menschen dann arbeiten, wird ein oder mehrere Level über dem liegen, was wir heute tun. Die KI kümmert sich um die repetitiven Aufgaben."

Das dürfen Unternehmen nicht vergessen

Unternehmen sollten über die Integration von generativer KI keinesfalls die Komplexität des Themas vergessen. Nutzer und Kunden dürfen beim Einsatz generativer KI keine unterschiedliche User Experience erleben. Deshalb empfiehlt Schnell, dass generative KI immer über Software integriert werden sollte, die ohnehin im Alltag genutzt wird, wie zum Beispiel MS Teams oder Slack als Collaboration Tool. Die mit generativer KI angereicherten Services sollten dort verfügbar sein, sonst gibt es Reibungsverluste. "Mit der Now Platform haben die Kunden auf alle diese Tools direkten Zugriff."

KI-Governance geht natürlich mit einem effektiven Risikomanagement einher. Wie Sie über die Now Platform Ihre KI-Risiken managen können, erfahren Sie hier.