"LLMs werden zum Einser-Schüler"
Welche Rolle spielte die Übernahme des GenAI-Spezialisten Casetext für Ihre KI-Bemühungen? Wie setzen Sie die Technologie konkret am Arbeitsplatz ein?
Malhotra: Im November 2023 haben wir unser Recherche-Tool Westlaw Precision um GenAI-Funktionen ergänzt. Dieses Tool unterstützt unsere Kunden aus dem Rechtswesen dabei, juristische Recherchen durchzuführen - etwa, um ähnlich gelagerte Fälle zu analysieren. Die Ergebnisse müssen entsprechend korrekt, vollständig und aktuell sein - nur dann sind sie auch relevant. Vor GenAI hatten wir das Suchproblem bereits mit KI gelöst - allerdings mussten unsere Kunden die Ergebnisse trotzdem noch manuell durchforsten. Mit generativer KI haben die Kunden nun die Möglichkeit, sich alle Fälle auch zusammenfassen zu lassen - inklusive nützlicher Zitate. Das spart unseren Kunden viel Zeit und unterstützt sie zudem dabei, ihren Endkunden eine qualitativ hochwertigere Dienstleistung zu liefern.
Casetext war eines der ersten Unternehmen weltweit, das schon vor der Veröffentlichung von ChatGPT eine Partnerschaft mit OpenAI eingegangen war. Das verschaffte ihnen einen Vorsprung bei der Entwicklung von KI-Fähigkeiten - der auch uns letztlich befähigt hat, unsere GenAI-Initiative zu beschleunigen.
Gibt es einen GenAI-Anwendungsfall, der Sie überrascht hat?
Malhotra: Ich würde sagen die Qualität der Ergebnisse. Vor den jüngsten Innovationen im GenAI-Bereich bewegten sich KI-Modelle bestenfalls auf dem Niveau eines Vierer-Schülers. Das hat sich inzwischen drastisch verändert - inzwischen ermöglichen Techniken wie Retrieval Augmented Generation in Kombination mit qualitativ hochwertigen Daten, dass LLMs zum Einser-Schüler werden.
Speziell dieser RAG-basierte Ansatz war für uns ein echter Aha-Moment, da er erheblichen Mehrwert für unsere Kunden generiert. Die müssen sich nämlich unbedingt darauf verlassen können, dass die Inhalte, die unsere GenAI-Tools liefern, korrekt und vollständig sind.
Welche Ihrer Data-Content-Systeme mussten Sie in die LLMs einbinden? Haben die Anbieter die erforderlichen APIs geliefert oder mussten Sie diese selbst erstellen?
Malhotra: Einige unserer Inhalte sind proprietär, deswegen haben wir über Jahre entsprechende Schnittstellen entwickelt, die den Zugang zu diesen erleichtern. Die sind auch wesentlicher Bestandteil unserer GenAI-Plattform.
Wenn Sie als Entwickler eine Anwendung erstellen und auf juristische Inhalte zugreifen wollen, ermöglicht sie einfachen und sicheren Zugriff auf diese Daten. Sie können sich also um die Geschäftslogik kümmern, statt sich damit befassen zu müssen, APIs zu entwickeln.
Welchen Herausforderungen mussten Sie sich in diesem Bereich stellen?
Malhotra: In erster Linie war die Geschwindigkeit eine Challenge. Wir mussten sicherstellen, dass wir die von unseren Kunden geforderte Geschwindigkeit erreichen und gleichzeitig sicher und zuverlässig arbeiten. Diese beiden Dinge können manchmal im Widerspruch zueinander stehen."
Was können Sie uns noch über Ihre GenAI-Plattform verraten? Handelt es sich dabei einfach um eine angepasste Variante von Microsoft 365 Copilot oder um eine vollständig proprietäre Plattform?
Malhotra: Sie unterscheidet sich von Copilot und wurde intern bei Thomson Reuters entwickelt. Dabei haben wir uns an einer Art Baukasten-Prinzip orientiert. Wir nutzen dabei wiederverwendbare Bausteine. Das führt im Ergebnis dazu, dass der Entwickler nicht mehr alle Nuancen durchdringen muss: Es gibt etwa Bausteine, die es ermöglichen, verschiedene LLMs zu testen, um anschließend das auszuwählen, das den besten Output liefert. Einige KI-Modelle haben wir dabei selbst entwickelt, andere stammen von Drittanbietern, die unserer Überzeugung nach gute Ergebnisse liefern.
Andere Bausteine ermöglichen es, im Low-Code-Stil auf das Sprachmodell zuzugreifen. So können auch Nicht-Technologen mit guten KI-Ideen experimentieren. Nehmen wir an, Sie sind Redakteur für juristische Themen bei Thomson Reuters und fragen sich, ob ein bestimmtes KI-Modell eine bestimmte Dokumentenform gut zusammenfassen könnte. Unsere Plattform ermöglicht Ihnen genau das - ohne eine Codezeile schreiben zu müssen. Das ist nicht nur wirklich beeindruckend, sondern zahlt auch wesentlich auf das eingangs genannte Problem mit der Innovationsgeschwindigkeit ein.
KI-gestützte Codeerstellung wird oft als "Low-hanging fruit" für GenAI-Erstanwender genannt. Wie sehen Sie das?
Malhotra: Ganz unabhängig von der Funktion und dem Unternehmen, in dem man tätig ist, hat Generative AI das Potenzial, unsere Arbeit zu optimieren und uns effektiver zu machen. Was mein Development-Team angeht, beschäftigen wir uns auf jeden Fall mit GenAI-Tools, die uns dabei helfen, schneller besseren Code zu schreiben. Das hat tatsächlich auch die allgemeine Entwicklerzufriedenheit erhöht. Das wirkt sich wiederum positiv auf die Entwicklungsgeschwindigkeit neuer Produkte für unsere Kunden aus.