Trotzdem müssten Unternehmen ihre Sorgfaltspflicht erfüllen, warnt Goetz. "Die Anbieter geben an, dass sie die KI als Service betreiben und dass diese abgeschottet ist. Aber möglicherweise wird das Modell noch weiter trainiert, und es kann immer noch Wissen und geistiges Eigentum in das Basismodell einfließen." Wenn beispielsweise ein Mitarbeiter ein sensibles Dokument zum Korrekturlesen hochlädt und die KI dann damit trainiert wird, könnte sie dieses Wissen nutzen, um Fragen von Anwendern in anderen Unternehmen zu beantworten, wodurch sensible Informationen durchsickern können.
Es gibt noch weitere Fragen, die CIOs ihren Anbietern stellen sollten, so Goetz, etwa woher die ursprünglichen Trainingsdaten stammen, wie sie validiert und verwaltet werden, wie das Modell aktualisiert wird und wie die Datenquellen im Laufe der Zeit verwaltet werden. "CIOs müssen darauf vertrauen, dass der Anbieter das Richtige tut", so Goetz. "Aus diesem Grund sind viele Unternehmen noch nicht bereit, die neue generative KI in Bereichen zuzulassen, die sie nicht effektiv kontrollieren können." Das sei vor allem in stark regulierten Branchen der Fall.
Wieviel wird es kosten?
Die Kosten für eingebettete KI von Softwareanbieten sind relativ überschaubar und transparent. Fangen Unternehmen jedoch an, ihre eigene generative KI zu entwickeln, wird es wesentlich komplizierter. Denn in der ganzen Aufregung um Generative AI können Unternehmen manchmal die Tatsache aus den Augen verlieren, dass große Sprachmodelle sehr hohe Rechenanforderungen haben.
"Viele wollen sofort loslegen und Ergebnisse sehen, haben aber nicht über die Auswirkungen nachgedacht, die eine Umsetzung in großem Maßstab mit sich bringt", warnt Ruben Schaubroeck, Senior Partner bei McKinsey. "Sie wollen aus Gründen des Datenschutzes und der Sicherheit kein öffentliches ChatGPT nutzen, ihre eigenen Daten verwenden und sie über ChatGPT-ähnliche Schnittstellen abrufbar machen. Wir beobachten, dass Unternehmen große Sprachmodelle mit ihren eigenen Daten entwickeln." Begonnen werde oft mit Proof-of-Concepts, das Thema TCO sei da noch gar nicht auf dem Tisch, sagt Schaubroeck. "Die Frage hören wir nur selten, aber man sollte in dieser Hinsicht nicht naiv sein."
Ist Ihre Daten-Infrastruktur bereit für Generative AI?
Eingebettete generative KI ist für Unternehmen einfach zu implementieren, da der Anbieter die KI direkt neben Daten platziert, die benötigt werden. So fügt Adobe beispielsweise generative KI in Photoshop ein - das Quellbild, mit dem gearbeitet werden soll, befindet sich direkt dort. Wenn Google generative KI in Gmail oder Microsoft in Office 365 einbaut, werden alle benötigten Dokumente sofort verfügbar sein. Komplexere Implementierungen erfordern aber eine solide Datengrundlage. Doch daran arbeiten viele Unternehmen noch.
"Wenige Unternehmen sind tatsächlich so weit", berichtet Nick Amabile, CEO von DAS42, einem Beratungsunternehmen für Daten und Analytik. Die Daten müssten zentralisiert und für KI-Anwendungen optimiert werden, sagt er. Ein Unternehmen könne beispielsweise über Daten verfügen, die auf verschiedene Backend-Systeme verteilt sind. Um den größten Nutzen aus KI zu ziehen, müssten diese Daten zusammengeführt werden. "Der große Vorteil von KI ist, dass sie Daten in einem Umfang analysieren oder synthetisieren kann, zu dem Menschen nicht in der Lage sind", so Amabile.
Wenn es um KI geht, sind Daten der Treibstoff, bestätigt Sreekanth Menon, VP und Global Leader für KI/ML Services bei Genpact. Daher müssten Unternehmen für KI ertüchtigt werden - mit den richtigen und bereinigten Daten, Tools, Data Governance und Leitplanken. Notwendig seien auch Plattformen zur Kontrolle, die für große Sprachmodelle jedoch gerade erst entstehen. Hier geht es um Themen wie die Genauigkeit der Ergebnisse, Kosten, Latenzzeit, Transparenz, Verzerrungen, Sicherheit und die zeitnahe Überwachung. "In dieser Phase müssen Sie Leitplanken aufstellen und Prinzipien definieren", rät Menon. Erst dann könnten Unternehmen beginnen, generative KI zu entwickeln und im gesamten Unternehmen auszurollen.
Dieser Artikel basiert auf einem Beitrag unserer Schwesterpublikation cio.com