Mit Data Streaming for AI hat der Daten-Streaming-Pionier Confluent eine Initiative gestartet, die Unternehmen das Entwickeln von Realtime-KI-Anwendungen ermöglichen soll. Dabei gehe es nicht nur um schnelle Algorithmen, sondern auch um vertrauenswürdige, relevante und möglichst aktuelle Daten, die im richtigen Moment bereitgestellt werden müssten, so das Unternehmen.

Damit Kunden das Potenzial von KI auf der Grundlage ihrer aktuellsten kontextbezogenen Daten erschließen können, will Confluent seine Partnerschaften mit führenden Unternehmen im Bereich KI und Vektordatenbanken deutlich ausbauen. Das betrifft insbesondere die Anbieter MongoDB, Pinecone, Rockset, Weaviate und Zilliz. Zudem kündigt Confluent eine Reihe von Produktinnovationen an, die in die eigene Plattform integriert werden sollen.

Digitaler Assistent für Daten-Streaming-Umgebung

Ab 2024 wird es demnach einen digitalen Assistenten auf der Basis von generativer KI geben, der für die Codeentwicklung und auch zur Beantwortung von Fragen rund um die Daten-Streaming-Umgebung eingesetzt werden kann. Der KI-Assistent verwandelt natürlichsprachige Eingaben wie "Welche Umgebung hat mich im vergangenen Monat am meisten Geld gekostet?" oder "Gib mir einen API-Request aus, der Nachrichten für mein Auftragsthema erzeugt" in nützliche Vorschläge und korrekten Code, der auf die jeweilige Implementierung abgestimmt ist. Zu diesem Zweck nutzt der Assistent als Datenbasis Angaben in den Confluent-Dokumentationen genauso wie Informationen aus dem Kundenkontext.

Ebenso wurden Updates für Confluent Cloud for Apache Flink angekündigt, die dafür sorgen sollen, dass Flink SQL KI-Fähigkeiten erhält. Demnach werden OpenAI-API-Aufrufe direkt innerhalb von Flink möglich sein. Laut Anbieter lassen sich damit viele neue Anwendungsfälle erschließen. Confluent nennt als Beispiele die Sentiment-Analyse auf der Basis von Produktbewertungen oder das Zusammenfassen von Produktbeschreibungen. Auch lasse sich die Komplexität der Stream-Verarbeitung verringern, während Erkenntnisse schneller verfügbar seien.

"Moderne Anwendungsfälle brauchen Echzeitkontext"

"Datenströme, die kontinuierlich angereichert werden und vertrauenswürdig sind, bilden den Schlüssel für die Erstellung zukunftsweisender KI-Anwendungen" sagte Jay Kreps, CEO und Mitgründer von Confluent. Sie böten den detaillierten Echtzeitkontext, den moderne Anwendungsfälle erforderten. "Wir wollen, dass jedes Unternehmen möglichst einfach leistungsfähige KI-Anwendungen entwickeln kann, und nutzen unser Ökosystem aus Partnern und Daten-Streaming-Expertise, um dieses Ziel zu erreichen."

Kreps glaubt, dass KI in den vergangenen Jahren stark von historischen Daten und langsamen, Batch-basierten Pipelines abhängig war, die einzelne Datenpunkte miteinander verknüpften. Das Resultat seien Daten gewesen, die schon zum Zeitpunkt ihrer Bereitstellung veraltet und inkonsistent waren. Dem stimmt Stewart Bond zu, Analyst beim Marktforschungsunternehmen IDC: "Obwohl die Zahl der mit generativer KI experimentierenden Unternehmen deutlich steigt, werden viele durch eine fragmentierte Dateninfrastruktur behindert, in der Echtzeitdaten nicht vorhanden und nicht vertrauenswürdig sind", beobachtet er.

Wenn Unternehmen eine Data-Intelligence-Architektur aufbauen wollten, sei aber ein Datenmanagement essenziell, das skalierbare Einblicke biete, kollektives Lernen unterstütze und eine echte Datenkultur fördere. Unternehmen sollten auf Daten-Streaming, Governance, Sicherheit und Integration setzen, um die "Hürden für die Verfügbarkeit und Vertrauenswürdigkeit von Echtzeitdaten niederzureißen", so der IDC-Mann. "Der Aufwand lohnt sich auf jeden Fall."

Eine Realtime-Quelle für alle Daten

Die Confluent-Initiative Data Streaming for AI verfolgt denn auch das Ziel, Unternehmen beim schnellen Erstellen und Skalieren von modernen KI-Anwendungen zu helfen. Dazu wird eine gemeinsame Realtime-Quelle für alle operativen und analytischen Daten bereitgestellt, unabhängig davon, wo sie sich befinden.

Seinen Technologiepartnern stellt Confluent künftig Echtzeit-Kontextdaten aus den verschiedensten Quellen für deren Vektordatenbanken bereit. Diese Datenbanken sind in der Lage, die großen Datensätze in Formaten zu speichern, zu indexieren und anzureichern, die Large Language Models (LLMs) verwerten können. Künftig sind die gemanagten Datenströme von Confluent Cloud direkt innerhalb der Partnerplattformen zugänglich, so dass Echtzeitdaten einfach nutzbar werden, um KI-gestützte Anwendungen zu erstellen. Mit dem Programm "Connect with Confluent" sollen die KI-Partnerschaften weiter ausgebaut werden.

Große Pläne mit den Hyperscalern

Auch mit Microsoft Azure und Google Cloud will der Daten-Streaming-Spezialist enger zusammenarbeiten, um Integrationen, Proof-of-Concepts (POCs) und Go-to-Market-Maßnahmen für den KI-Sektor zu entwickeln. So sollen die GenAI-Fähigkeiten von Google Cloud genutzt werden, um Kunden aus dem Handels- und dem Finanzsektor tiefere Geschäftseinblicke und effizientere Betriebsabläufe zu ermöglichen. Mit Azure Open AI und Azure Data Platform plant Confluent die Entwicklung eines "Copilot Solution Template", mit dem KI-Assistenten Geschäftstransaktionen vornehmen und Echtzeit-Updates bereitstellen können. Dieses Angebot richtet sich etwa an Luftfahrt- und Transportunternehmen.

Maßgeschneiderte Lösungen für vertikale Anwendungsfälle plant Confluent künftig mit seinen Servicepartnern Allata und iLink herauszubringen. Angestrebt werden dabei POC-fähige Architekturen, die kombinierte Technologien nutzen und das Entwickeln und Testen von KI-Anwendungen genauso unterstützen wie die Implementierung und Feinabstimmung. Die Servicepartner seien in der Lage, verlässliche KI-Anwendungen zu generieren und die Time to Value drastisch zu verkürzen, wirbt das Unternehmen. (hv)