Für GenAI erwartet Gartner einen wahren Boom. Während derzeit weniger als fünf Prozent der Unternehmen generative KI nutzen, werden der Prognose zufolge 2026 bereits mehr als 80 Prozent der Betriebe die KI-Technologie in Produktionsumgebungen nutzen. Dabei sollen entweder generative Programmierschnittstellen (APIs) oder Modelle für künstliche Intelligenz (GenAI) verwendet und/oder GenAI-fähige Anwendungen eingesetzt werden.

Priorität für den C-Level

Für Arun Chandrasekaran, Distinguished VP Analyst bei Gartner, zeigt dies, dass "Generative KI zu einer Top-Priorität für den C-Level geworden ist und die Entwicklung neuer Tools jenseits von Basismodellen maßgeblich vorangetrieben hat".

So steige die Nachfrage nach generativer KI in vielen Branchen. Dazu zählen wie etwa das Gesundheits- und Rechtswesen, die Biowissenschaften sowie Finanzdienstleistungen und der öffentlichen Sektor.

Die KI-Schlüsseltechnologien

Im Gartner Hype Cycle 2023 für generative KI identifizieren die Analysten Schlüsseltechnologien, die zunehmend in viele Unternehmensanwendungen integriert werden. Drei Innovationen, die in den nächsten zehn Jahren einen großen Einfluss auf Unternehmen haben werden, sind laut Gartner GenAI-fähige Anwendungen, Foundation Models und KI-Vertrauens-, Risiko- und Sicherheitsmanagement (AI TRiSM).

GenAI-fähige Anwendungen

GenAI-fähige Anwendungen nutzen GenAI für die Benutzererfahrung (UX) und die Aufgabenerweiterung, um Benutzer dabei zu unterstützen, Aufgaben zu erledigen und sie schneller abzuarbeiten. GenAI-Anwendungen hätten zudem das Potenzial, die Skill-Sets einer Belegschaft zu erweitern.

Die häufigste Art von GenAI-Funktionen sind heute laut Chandrasekaran Text-to-X. Dies erleichtere den Zugang zu Daten etc. Wo in der Vergangenheit noch Spezialisten erforderlich waren, demokratisiere Prompt-Engineering mit natürlicher Sprache den Informationszugriff.

Allerdings warnt Chandrasekaran auch, "diese Anwendungen haben noch Schwachstellen wie Halluzinationen und Ungenauigkeit, was die Breitenwirkung und Akzeptanz einschränken kann".

Foundation-Modelle

"Foundation Models sind für den Gartner Analysten ein wichtiger Schritt vorwärts für die KI, da sie ein massives Pre-Training offerierten und die Zahl passender Anwendungsfälle erhöhten. Chandrasekaran zufolge werden Foundation-Modelle die digitale Transformation in den Unternehmen vorantreiben. Sie können etwa die Mitarbeiter produktiver machen, die Kundenerfahrung automatisieren und verbessern sowie die kosteneffiziente Entwicklung neuer Produkte und Dienstleistungen ermöglichen.

Foundation Modells befinden sich auf dem Gipfel der überhöhten Erwartungen im Hype Cycle. So prognostiziert Gartner, dass bis 2027 rund 60 Prozent der Anwendungsfälle für die Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) auf Foundation-Modellen beruhen werden. Gegenüber fünf Prozent im Jahr 2021 wäre dies ein erheblicher Anstieg.

Mit Blick auf ihre Nutzung empfiehlt Chandrasekaran: Technologieführer sollten mit Modellen beginnen, die eine hohe Genauigkeit in den Performance-Leaderboards aufweisen. Ferner sollten sie über eine hervorragende Unterstützung durch das Ökosystem verfügen und angemessene Leitplanken für Sicherheit und Datenschutz besitzen."

AI TRiSM

AI TRiSM - KI-Vertrauens-, Risiko- und Sicherheitsmanagement - gewährleistet die Steuerung von KI-Modellen sowie Vertrauenswürdigkeit, Fairness, Zuverlässigkeit, Robustheit, Effizienz und den Datenschutz.

AI TRiSM umfasst laut Gartner unter anderem Lösungen und Techniken für die Interpretierbarkeit und Erklärbarkeit von Modellen sowie die Erkennung von Daten- und Inhaltsanomalien. Ferner ermögliche AI TRiSM den Schutz von KI-Daten, den Betrieb von Modellen und die Abwehr von Angriffen.

Dementsprechend sieht Gartner in AI TRiSM ist ein wichtiges Rahmenwerk für die Bereitstellung verantwortungsvoller KI. Eine allgemeine Akzeptanz werde die Technologie voraussichtlich innerhalb von zwei bis fünf Jahren erreichen. Bis 2026 würden Unternehmen, die KI-Transparenz, -Vertrauen und -Sicherheit operationalisieren, eine 50-prozentige Verbesserung ihrer KI-Modelle in Bezug auf Akzeptanz, Geschäftsziele und Nutzerakzeptanz erreichen.

Mögliche Schäden

"Unternehmen, die KI-Risiken nicht konsequent managen" unterstreicht Chandrasekaran, "sind exponentiell gefährdet, negative Ergebnisse zu erleben, wie etwa Projektausfälle und Datenschutzverletzungen". Andere negative Auswirkungen könnten ungenaue, unethische oder unbeabsichtigte KI-Ergebnisse, Prozessfehler und Eingriffe von böswilligen Akteuren sein. Dies alles könne zu Sicherheitsmängeln, finanziellen und Reputationsverlusten oder Haftung sowie sozialem Schaden führen.