Assistants API veröffentlicht

OpenAI hat zudem die Assistants-API veröffentlicht - als ersten Schritt, um Entwicklern das Erstellen hochwertiger KI-Anwendungen zu erleichtern. Als Assistant bezeichnet der Anbieter eine zu einem bestimmten Zweck generierte KI, die eigene Instruktionen enthält, zusätzliches Wissen nutzt und individuelle Modelle und Tools aufrufen kann, um ganz bestimmte Aufgaben zu erledigen. Die API bietet Funktionen wie Code-Interpreter und -Retrieval sowie Funktionsaufrufe, um schwierige Aufgaben zu übernehmen, die bisher den Devs vorbehalten waren.

Laut OpenAI ist die API besonders flexibel: Die Anwendungsfälle reichen von einer natürlichsprachigen App für die Datenanalyse über einen Programmierassistenten, einen KI-unterstützten Urlaubsplaner, einen sprachgesteuerten DJ bis hin zu einer intelligenten visuellen Canvas - die Liste ist endlos. Die Programmierschnittstelle nutzt Herstellerangaben zufolge dieselben Fähigkeiten, die das neue Produkt GPTs auszeichnen: benutzerdefinierte Anweisungen und Tools wie Code-Interpreter, Retrieval und Funktionsaufrufe.

Eine wichtige Änderung, die durch die API eingeführt wird, sind persistente und sehr lange Threads, die es Entwicklern ermöglichen, die Verwaltung des Thread-Status an OpenAI abzugeben und die Einschränkungen des Kontextfensters zu umgehen. Mit der Assistants-API fügen Sie einfach jede neue Nachricht einem bestehenden Thread hinzu.

GPT-4-Fine-Tuning noch in Arbeit

Zum Thema individuelle Anpassung von Modellen hieß es auf der Entwicklerkonferenz, OpenAI werde ein experimentelles Zugangsprogramm für das GPT-4-Fine-Tuning bauen. Allerdings zeigten erste Ergebnisse, dass es noch einigen Aufwand brauche, um so deutliche Verbesserungen zu erzielen, wie sie mit dem GPT-3.5-Fine-Tuning erreicht worden seien. In der Zeit, in der Entwickler mit dem GPT-3.5-Fine-Tuning arbeiten, sollen sie eine Option bekommen, über ihre Fine-Tuning-Konsole auch am GPT-4-Fine-Tuning-Programm teilzunehmen.

Organisationen, die mehr Anpassungen benötigen, als ihnen Fine-Tuning bieten kann - insbesondere Bereiche mit extrem großen proprietären Datensätzen, mindestens Milliarden von Token -, bietet OpenAI ein "Custom Models Program". Es soll ausgewählten Unternehmen die Möglichkeit geben, gemeinsam mit OpenAI-Forschern GPT-4 für ihren spezifischen Bereich zu trainieren. Dabei sollen die Schritte des Modelltrainings angepasst, zusätzliche domänenspezifische Pre-Trainings umgesetzt und unter Umständen auch ein maßgeschneiderter RL-Post-Trainingsprozess eingeführt werden, der dann ganz auf die jeweilige Domäne zugeschnitten ist.

Die ausgewählten Unternehmen haben exklusiven Zugang zu ihren benutzerdefinierten Modellen. Diese werden nicht an andere Kunden weitergegeben oder zum Training anderer Modelle verwendet. Ebenso sollen proprietäre Daten, die OpenAI zum Trainieren von benutzerdefinierten Modellen zur Verfügung gestellt werden, in keinem anderen Kontext wiederverwendet werden. Es handelt sich um ein begrenztes und laut OpenAI kostspieliges Programm, für das sich interessierte Organisationen bewerben können.

Last, but not least hat OpenAI angekündigt, mehrere Preise auf der Plattform zu senken. Die Details dazu finden Sie hier! (hv)