Generative AI

Finetuning ist teuer - aber oft lohnt es sich

18.10.2023
Von 
Kurt Muehmel ist Everyday AI Strategic Advisor bei Dataiku, einer Plattform, die den Zugang zu Data Science demokratisieren und es Unternehmen ermöglichen will, ihren eigenen Weg zur KI zu finden. 
Viele Unternehmen tun sich schwer damit, ihr KI-Investitionen zu steuern. Die Kosten für die Implementierung und den Betrieb der Modelle sind hoch. Der Aufwand will gut überlegt sein.
Mit eigenen Daten ein KI-Modell zu bauen, kann teuer werden. Vor allem Storage- und Rechenkapazitäten gehen ins Geld. Deshalb: Lieber genau nachdenken.
Mit eigenen Daten ein KI-Modell zu bauen, kann teuer werden. Vor allem Storage- und Rechenkapazitäten gehen ins Geld. Deshalb: Lieber genau nachdenken.
Foto: sutadimages - shutterstock.com

Je ausgefuchster die Algorithmen sind und je größer die Datenmengen, anhand derer sie trainiert werden, desto höher sind die Kosten für benötigte Rechen- und Speicherkapazitäten. Das Finetuning ist teuer und nicht immer erforderlich: In vielen Fällen reichen generische KI-Lösungen aus, die nicht mithilfe eigener Daten trainiert wurden. Eingebunden über eine API, lassen sich damit sogar einfache Kundenanfragen beantworten.

Wird die Aufgabe aber anspruchsvoller, ist kostspieliges Finetuning unabdingbar. Die KI soll schließlich die Produktivität der Fachabteilungen steigern und nicht selbst zum Ballast werden.
Finetuning bedeutet, dass die KI-Modelle anhand firmeneigener Datensätze trainiert, die Qualität der Ergebnisse in dieser Trainingsphase durch Fachexperten überprüft und die KI-Modelle ständig optimiert werden.

KI-Finetuning: Kosten im sechsstelligen Bereich

Die Kosten liegen oft im fünf- bis sechsstelligen Bereich. Zu 80 bis 90 Prozent resultieren sie aus den benötigten Rechen- und Speicherkapazitäten. Dagegen macht der Aufwand für die Trainingsphase nur einen Bruchteil der Gesamtkosten aus. Außerdem gilt: Je differenzierter das KI-Modell arbeitet und je mehr Daten es berücksichtigt, desto höher die Kosten.

Ob sich das Training anspruchsvoller KI-Modelle lohnt, steht und fällt mit der Frage, wie groß der zu erwartende Mehrwert ist. Der entsteht etwa, wenn gut ausgebildete Fachkräfte Zeit sparen können, das Unternehmen schneller attraktive Märkte adressieren kann oder ein direkter positiver Einfluss auf die Umsätze wirksam wird. Ein Vorteil ist es, wenn die benötigten Trainingsdaten bereits vorhanden sind und skaliert werden können, ohne dass neue Daten hinzugekauft werden müssen.

Vorhandene KI-Modell über API integrieren

Es gibt auch viele Fälle, in denen sich bereits existierende KI-Modelle über eine API integrieren lassen, ohne dass die Modelle zusätzlich trainiert werden müssen. Solche standardisierten Integrationen stoßen allerdings an ihre Grenzen, wenn für die Arbeit inhaltliches Know-how aufgebaut oder eingekauft werden muss.

Einige typische Fälle, in denen sich das Finetuning von KI-Modellen lohnt, sind

  • Investitionsentscheidungen: Gut trainierte KI-Modelle sind Menschen darin überlegen, auf der Basis großer Datenmengen schnelle Ergebnisse zu liefern. Das betrifft auch die strategisch enorm wichtigen Investitionen. KI kann helfen, Fehlentscheidungen zu vermeiden, die Arbeitszeit teurerer Experten besser zu nutzen und schnell zu guten Ergebnissen zu kommen.

  • Reportings und Forecasts: Ausgefeilte KI-Modelle können sich hier etwa lohnen, wenn auf der Basis aktueller Entwicklungen Prognosen für zukünftige Umsätze oder Lieferungen stattfinden sollen, Engpässe zu ermitteln sind oder über Produktionsmengen entschieden werden muss. Die KI kann vorhersagen, wie sich Angebot und Nachfrage entwickeln werden und beispielsweise Empfehlungen für Rabattaktionen oder Vertriebsmaßnahmen aussprechen. Einfache Reportings funktionieren auch mit gewöhnlichen KI-Modellen. Für komplexe Vorhersagen ist aber ein ausgereiftes, eigens trainiertes Modell erforderlich. Unternehmen können so beispielsweise das Risiko einer Überproduktion senken und dem Verlust von Aufträgen vorbeugen.

  • Auch für das Erreichen von Nachhaltigkeitszielen kann eine individuelle KI-Lösung hilfreich sein - etwa wenn sie hilft, den Energieverbrauch zu optimieren und CO2 einzusparen. Industrieunternehmen können KI-unterstützt energieintensive Tätigkeiten so einplanen, dass diese immer dann stattfinden, wenn ein Energieüberschuss vorhanden ist, die Strompreise also niedrig sind. Zudem können Experten mit KI herausfinden, an welchen Stellen wie viel CO2 entsteht. Last, but not least kann KI auch das Nachhaltigkeits-Reporting erleichtern.

  • Im Banken- und Versicherungssektor lohnt sich der Einsatz, um Betrugsversuche aufzudecken. Gefälschte Rechnungen oder unberechtigte Abbuchungen kann die KI schnell erkennen. Ebenso kann KI hier wie in anderen Branchen auch dazu beitragen, dass Geschäftsprozesse effizient und sicher ablaufen.

KI-Modelle anhand eigener Daten zu trainieren, lohnt sich nur manchmal

Dies sind nur einige Beispiele, die Liste ließe sich sicher fortsetzen. Andererseits wird es sich in vielen Fällen kaum lohnen, KI-Modelle spezifisch anzupassen und anhand von unternehmenseigenen Daten zu trainieren. Die laufenden Kosten, die auf diesem Wege eingespart werden könnten, sind nicht hoch genug, als dass sich der hohe Aufwand für fortlaufende Rechen- und Speicherkapazitäten rechtfertigen ließe.

Auch können viele einfache Aufgaben von KI-Modellen ohne spezifisches Training übernommen werden. Das gilt etwa für Übersetzungen, das Schreiben einfacher E-Mails, das Beantworten vieler Kundenanfragen, das Zusammenstellen einfacher Daten oder für Rechercheaufgaben.

Je nach Unternehmensgröße und Branche werden Unternehmen KI unterschiedlich priorisieren. Klar ist, dass künstliche Intelligenz eine disruptive Veränderung für die meisten Betriebe bedeutet. Organisationen, die aus Angst vor Fehlentscheidungen zu lange warten, werden Wettbewerbsnachteile erleiden. Entscheider sollten sich deshalb jetzt mit dem Thema beschäftigen und die Frage beantworten: Welchen Mehrwert bringt welche Lösung zu welchen Kosten? (hv)