Auf seiner ersten Entwicklerkonferenz in San Francisco kündigte OpenAI, Erfinder von ChatGPT und dem großen Sprachmodell GPT-4, eine Reihe neuer Produkte und Updates an, die nach Meinung von Marktbeobachtern das Überleben mancher Open-Source-Softwareanbieter in Frage stellen (siehe Zusammenfassung der Ankündigungen hier). Bradley Shimmin, Chefanalyst bei Omdia, stellt fest: "OpenAI bringt künftig viele Funktionen mit, die in Frameworks und Bibliotheken wie LangChain und auch in bestimmten Einzellösungen wie Vektordatenbanken, etwa Faiss von Meta oder ChromaDB, stecken."

Indem OpenAI seine Preise senke und mehrere Modi wie Code, Bilder und Sprache unterstütze oder Embeddings-Funktionalität für Vektordatenbanken generiere, positioniere sich das Unternehmen als ernstzunehmende Alternative zu diversen Open-Source-Projekten, sagt Shimmin. Er vergleicht OpenAI in diesem Zusammenhang mit Google Cloud, das mit seinem Vertex-AI-Angebot ebenfalls eine neue Entwicklererfahrung geschaffen habe. Auf Modell- und Tool-Entwickler der Open-Source-Community komme massive Konkurrenz zu.

GPT-4 Turbo und Assistants ändern die Marktregeln

OpenAI hatte erst kürzlich GPTs angekündigt, eine Lösung, mit der Anwender selbst sehr schnell Chatbots auf GPT-4-Basis bauen können. Noch wichtiger sind aus Entwicklersicht aber das neue Modell GPT-4 Turbo, die Assistenten-API und die Fähigkeit, mehrere Modi zu unterstützen. "Vor allem die neue Assistants-API wird es Entwicklern ermöglichen, anspruchsvolle KI-Anwendungen mit deutlich geringerem Aufwand zu erstellen. Das könnte die Developer von anderen Plattformen wegziehen", orakelt Jim Kaskade, CEO des Chatbot-Herstellers Conversica.

Laut OpenAI bietet die Assistants-API einen Code-Interpreter, Retrieval Augmented Generation (RAG) und Funktionsaufrufe. Damit ließen sich auch komplexe Aufgaben bewältigen, für die KI-Entwickler bisher oft das Wissen von Fachexperten benötigten. Die API könnte insbesondere für Open-Source-Unternehmen wie LangChain, LlamaIndex und ChromaDB zum Problem werden, meint auch Andy Thurai, Principal Analyst bei Constellation Research.

Und David Menninger, Executive Director bei Ventana Research, ergänzt: "Für Unternehmen, die mit der OpenAI-Plattform arbeiten wollen, gilt: Je mehr diese ihnen bietet, desto weniger benötigen sie andere Frameworks wie LangChain und LlamaIndex." Die neuen OpenAI-Produkte und-Updates ermöglichten es den Entwicklern, ihre Anwendungen künftig mit nur noch einem einzigen Framework zu erstellen.

Probleme für Anbieter von RAG-Tools absehbar

Auch die Unternehmen, die bestimmte Workflow-, Orchestrierungs- und sonstige Tools für RAG anbieten, dürften laut Thurai die stärkere Konkurrenz schon bald zu spüren bekommen. Das gelte ebenso für Vektordatenbank-Anbieter wie ChromaDB oder Pinecone. "Wenn die RAG-Funktion von GPT-4 Turbo die Effizienz und Genauigkeit des Information Retrieval deutlich verbessert und sich problemlos in KI-Anwendungen integrieren lässt, wird sie eine Bedrohung für die Vektorsuche-Produkte von Pinecone darstellen", sagt Kaskade. Dann werde das Unternehmen wohl anfangen müssen, Mehrwertdienste anzubieten, die OpenAI momentan nicht bereitstellen könne.

Etwas gelassener sieht Menninger von Ventana Research die Marktentwicklung: Zwar könnten Funktionen wie RAG die Marktchancen von Vektordatenbank-Unternehmen verringern, aber das werde am Ende eher zu mehr Vielfalt in diesem Markt führen. Davon könnten alle profitieren, nach dem Motto: Steigt die Flut, werden alle Boote angehoben. Auch Shimmin von Omdia kann sich vorstellen, dass die Produkt-Updates von OpenAI eher als ein Katalysator für Innovationen wirken werden.

GPT-4 Turbo: schneller, besser, billiger

Auf der Entwicklerkonferenz DevDay hatte OpenAI unter anderem das neue Modell GPT-4 Turbo vorgestellt, das nicht nur schneller und effizienter, sondern unterm Strich auch preiswerter als die bisherigen Angebote sein soll. "GPT-4 Turbo ist leistungsfähiger und kennt das Weltgeschehen bis zum April 2023. Es verfügt über ein 128k-Kontextfenster, so dass es das Äquivalent von mehr als 300 Seiten Text in einer einzigen Eingabeaufforderung unterbringen kann", schreibt das Unternehmen in einem Blog-Post. Das Modell sei optimiert worden, um die Performance zu verbessern und die Kosten für Input- und Output-Token im Vergleich zu GPT-4 zu senken.

Manche Beobachter glauben, das Modell mit den neuen Funktionen und dem günstigeren Preis könnte das gesamte Softwareentwicklungs-Geschäft auf eine neue Ebene führen. Vor allem für kleine Anbieter werde es nun allerdings schwieriger, mitzuhalten. "Solange sich diese Firmen nicht neu orientieren und darauf konzentrieren spezifische Geschäftsprobleme in Marktnischen zu lösen, werden sie mit den Giganten nicht mehr konkurrieren können", fürchtet Thurai.

Vor allem für Firmen, deren Wertversprechen lediglich auf einem einfachen Wrapper bestehender ChatGPT-APIs aufsetzt, wird es laut Forrester-Analyst Rowan Curran eng. "Die neuen Ankündigungen von OpenAI werden sie dazu zwingen, bestimmte wertsteigernde Features zu entwickeln oder aus dem Geschäft auszusteigen", prophezeit der Marktbeobachter. GPT-4 Turbo überwinde die Einschränkungen von ChatGPT. Nicht zuletzt biete die neue Variante jetzt die Unterstützung multimodaler Funktionen, die Unterstützung von Text, Bildern und Code also.

GPT-4 Turbo:
Chatting and generating images super fast via function calling.

Built on @Replit.

The future we were promised. pic.twitter.com/piFBIeJSVX

— Pietro Schirano (@skirano) November 6, 2023

Cohere und Anthropic müssen sich strecken

Auch für die konkurrierenden Anbieter großer Sprachmodelle (LLMs), Cohere und Anthropic, könnten die Wettbewerbsbedingungen härter werden. "Die Ankündigungen von der DevDay-Konferenz könnten diesen Firmen den Garaus machen, wenn sie es nicht schaffen, schneller zu innovieren", meint Thurai. "Im Moment ist GPT-4 Turbo der Konkurrenz meilenweit voraus". Er erwarte aber schon bald auch Updates von diesen beiden Wettbewerbern.

Curran von Forrester sieht bei all den möglichen Verwerfungen im Softwaremarkt allerdings auch klare Vorteile: GPT-4 Turbo werde die Einstiegshürde für Entwickler deutlich senken. Sie kämen künftig viel schneller zu funktionierenden KI-Anwendungen. OpenAI werde nun auch für große Unternehmen attraktiver, die bisher wegen der hohen Kosten und der alternativ verfügbaren quelloffenen LLMs gezögert hätten.

Obwohl die Neuankündigungen von OpenAI Druck auf die Open-Source-Softwarefirmen ausüben dürften, glauben die Experten und Analysten doch, dass sich im Softwaremarkt nun auch ganz neue Einnahmequellen erschließen könnten. "Es gibt etliche Anwendungen, die von diesen Neuerungen profitieren werden. Das trifft etwa für maßgeschneiderte, branchenspezifische KI-Lösungen oder für besonders fortschrittliche Chatbots zu, auch für sprachgesteuerte Anwendungen, neue Lösungen für Datenanalyse und -Reporting, Programmierung und Codegenerierung, Integrationsdienste sowie Sprach- und Textanalyse", meint Kaskade von Conversica.

Die Assistants-API unterstützt laut OpenAI nämlich viele verschiedene Anwendungsfälle, von einer auf natürlicher Sprache basierenden Datenanalyse-App über einen Programmierassistenten bis hin zu einem KI-gestützten Urlaubsplaner. Weitere Anwendungsfälle könnten ein sprachgesteuerter DJ oder eine intelligente visuelle Canvas sein. (hv)

Dieser Beitrag basiert auf einem Artikel unserer US-Schwesterpublikation Infoworld.