IT-Führungskräfte sind mit zahlreichen Problemstellungen konfrontiert, wenn es darum geht, generative KI (Generative AI; GenAI) effektiv und erfolgreich einzuführen sowie zu skalieren. In diesem Artikel lesen Sie, wo der KI-Rollout-Schuh am meisten drückt - und wie sie die resultierenden Schmerzen vermeiden.

Die größten KI-Rollout-Probleme

Laut Gartner sollen im Laufe des Jahres 2025 mindestens 30 Prozent aller Generative-AI-Projekte nach der Proof-of-Concept-Phase verworfen werden. Ursächlich dafür sind laut den Auguren im Wesentlichen:

• ein Mangel an KI-Experten,

• schlechte Datenqualität,

• mangelhafte KI-Governance,

• unzureichendes Risikomanagement,

• eskalierende Kosten sowie

• schleierhafter Geschäftswert.

Beim Blick auf das für Generative-AI-Projekte nötige Knowhow sieht es in vielen Unternehmen nicht gerade rosig aus. Ineffektives Prompt Engineering, unzureichendes Chunking und Retrieval-Augmented-Generation (RAG)-Fehler sind oft das Resultat mangelnder KI-Expertise in den Unternehmen. Der Risikokapitalgeber Andreesen Horowitz kommt wegen des KI-Fachkräftemangels im Rahmen einer aktuellen Untersuchung zu dem Schluss, dass Tools von Startups, die das Inhouse-Development von GenAI erleichtern, künftig einen Boom erleben werden. On top kommen die mit GenAI in Verbindung stehenden Risiken: Zwar sollen laut Gartner bis zum Jahr 2027 mehr als 50 Prozent der KI-Anwenderunternehmen ein Responsible-AI-Governance-Programm implementiert haben, um diesen entgegenzuwirken. Aktuell liegt dieser Wert allerdings bei lediglich zwei Prozent.

James Briggs, Gründer und CEO des KI-MSPs AI Collaborator, liefert einen Überblick über die seiner Meinung nach gewichtigsten (inhärenten) GenAI-Risiken: "Wenn KI-Applikationen nicht auf einem verantwortungsvollen Rahmen fußen, kann das zu Transparenz-, Governance- und Fairness-Problemen führen." Dazu kommen jedoch weitere, bereits existierende Risiken, die durch generative KI noch verstärkt werden. So kann beispielsweise eine schlechte oder unsachgemäße Integration von GenAI-Tools mit anderen Enterprise-Systemen zu neuen Schwachstellen führen - etwa ungeschützten Daten oder Backdoors. Doch auch damit ist die Liste der Risiken noch nicht abgearbeitet: Unternehmen müssen bei KI-Rollouts auch regulatorische Risiken berücksichtigen - Stichwort AI Act.

Kommen ungünstige Architekturentscheidungen, mangelnde Expertise bei der Inferenzoptimierung und unzureichendes Change Management mit einer Ausweitung von KI-Use-Cases zusammen, kann das die Total Cost of Ownership (TCO) von generativer KI aus dem Ruder laufen lassen. Andreesen Horowitz hat in der bereits erwähnten Untersuchung auch unter die Lupe genommen, wie Unternehmen GenAI einsetzen, kaufen und budgetieren.

"Wir waren schockiert, wie stark sich die Ressourcenverteilung und die Einstellung gegenüber generativer KI in den letzten sechs Monaten verändert haben", schreiben die Experten des Venture-Capital-Unternehmens und fügen hinzu: "Obwohl Führungskräfte und Entscheider immer noch Vorbehalte haben, wenn es um GenAI-Deployments geht, haben sie ihre Budgets nahezu verdreifacht, erweitern die Zahl der Use Cases, die auf kleineren Open-Source-Modellen fußen, und überführen zunehmend mehr Workloads aus der Experimentierphase in die Produktion."

Die Implementierung von Generative AI stellt laut Andreesen Horowitz für das Jahr 2023 einen der größten Kostentreiber für KI-Projekte dar. Angesichts dessen ist es umso wichtiger, diese von Anfang an richtig anzugehen.

Eine andere große Challenge beim GenAI-Rollout ist der Nachweis eines (hohen) Return on Investment (ROI). Arun Chandrasekaran, Distinguished Vice President Analyst bei Gartner, klärt auf: "Die Realität sieht so aus, dass viele Unternehmen keine Rendite feststellen können. Das wird durch anfängliche Definitionsprobleme beim ROI von KI-Initiativen noch verstärkt." Den Wert von GenAI-Projekten zu messen, sei je nach Use Case und Branche eine sehr spezifische Angelegenheit, so der Analyst. Er ergänzt: "Das Gros der Verbesserungen wird sich in Frühindikatoren für künftige finanzielle Vorteile niederschlagen - etwa Produktivität, Durchlaufzeit, Customer Experience, Upskilling und so weiter."

Best Practices für den Generative-AI-Rollout

Unternehmen sollten also geeignete Maßnahmen ergreifen, um sich auf die Implementierung von generativer KI vorzubereiten - insbesondere mit Blick auf die Aus- und Weiterbildung der Belegschaft in Sachen Compliance und Security. Das gilt auch, wenn einschlägige Dienstleister hinzugezogen werden.

In seinem "CISO's Guide to Generative AI" empfiehlt die Unternehmensberatung Deloitte Sicherheitsentscheidern die maximal von der GenAI-Einführung profitieren möchten, entsprechende Prozesse zu implementieren, um Lizenzvereinbarungen zu evaluieren, nachzuverhandeln und dabei den Überblick zu behalten. Darüber hinaus empfehlen die Berater Monitoring-Methoden für generative KI-Tools zu entwickeln und Leitplanken einzuziehen, um spezifische KI-Risiken wie Verzerrungen zu adressieren. "Vor allem aber sollte ein Fahrplan für die Einführung von GenAI eine enge und kontinuierliche Zusammenarbeit mit den Risiko-Stakeholdern beinhalten, um die Risiken zu verstehen und zu antizipieren", so Deloitte.

Auch die Marktforscher von IDC haben einige Empfehlungen, wie sich Unternehmen auf KI-Initiativen vorbereiten sollten. Details dazu entnehmen Sie nachfolgendem Schaubild.

Gartner appelliert ebenfalls für einen systematischen Ansatz - insbesondere, wenn es um die Entscheidung "Build vs. Buy" geht. Schließlich erfordere GenAI laut den Analysten, von einigen wenigen Nutzern auf mehrere Tausend skaliert werden zu können: "Die Entscheidung die hier im Vorfeld getroffen wird, nimmt nachhaltigen Einfluss und sollte für jeden Use Case sorgfältig abgewogen werden. Idealerweise bauen Sie ein KI-Produkt dann, wenn es Ihnen einen Wettbewerbsvorteil verschaffen kann und Sie die dafür nötigen Skills und das erforderliche Knowhow haben", mahnen die Auguren. Parallel dazu empfehlen sie Pilotprojekte, um mit neuen Ideen zu experimentieren.

Gartner hat zudem ein Forschungspapier veröffentlicht, das Auskunft über die zehn Best Practices gibt, um GenAI zu skalieren. Das nachfolgende Schaubild gibt einen Überblick über die Empfehlungen der Analysten.

(fm)

Dieser Beitrag basiert auf einem Artikel unserer US-Schwesterpublikation Computerworld.