Sie erwähnten die Eingabemöglichkeit per Sprache oder Tastatur. Müssen die Mitarbeiter für das Prompting geschult werden oder laufen die Anfragen an die KI über User Interfaces mit vorgegebenen Eingabemöglichkeiten?
Jan Brecht: Am Anfang gibt es zum Beispiel für die relativ klar definierten Use Cases in der Produktion eine Initialschulung. Zudem stehen unseren Mitarbeitenden diverse Weiterbildungsmöglichkeiten zum Thema zur Verfügung, unter anderem ein Lernpfad zu Prompt Engineering. Sie erfassen den Umgang mit diesen Tools aber auch spielerisch, probieren Sachen aus und sehen, was geht und was nicht.
Schulungen für Prompt Engineering
Generell glaube ich aber, dass Prompting - oder etwas vornehmer formuliert: Prompt Engineering - etwas ist, das man lernen muss. Ich habe mir eine solche Schulung einmal angeschaut. Obwohl ich mich schon ganz fit fühlte in den Themen, habe ich noch viel dazu gelernt.
In der Tat überlegen wir, ob wir Schulungen zum Prompt Engineering flächiger im Unternehmen anbieten sollten und nicht nur für ausgewählte IT- und Datenfachkräfte. Es hilft auf jeden Fall dabei, mehr aus der generativen KI herauszubekommen.
Auf welche Kinderkrankheiten von KI oder ChatGPT sind Sie bislang gestoßen? Uns ist teilweise aufgefallen, dass die KI mitunter falsche Angaben macht, wenn sie einen Text generieren soll.
Jan Brecht: Sie spielen auf die berühmten Halluzinationen an. Das ist sicherlich eine Herausforderung. Das war auch ein sehr feiner Balanceakt in der direkten Kundeninteraktion in UK. Sie können das Halluzinieren natürlich durch Plausibilitätsprüfungen und damit verbundene Restriktionen weitestgehend ausschließen.
Aber legen Sie die Kriterien zu eng fest, wird Ihnen die Maschine häufiger, als ihnen lieb ist, mitteilen: "Ich kann dazu nichts sagen." Da muss man sehr vorsichtig sein und die richtige Balance finden. Das ist vielleicht die wichtigste Frage, die derzeit zu lösen ist und die auch im Zentrum der KI-Forschung steht, wie kann man die Halluzinationen in den Griff bekommen.
Foto: Mercedes-Benz
Herausforderungen Datenqualität
Haben Sie noch weitere Probleme entdeckt?
Jan Brecht: Es gibt in der Tat weitere Herausforderungen. Datenqualität ist eine, die jetzt wieder zum Vorschein tritt. Wobei ich lieber von einem ausgewachsenen altbekannten Problem sprechen würde. Ich habe es schon erwähnt, KI funktioniert nur, wenn die Modelle mit Daten in einer hohen Qualität gefüttert werden. Haben Sie Bereiche, in denen die Daten nicht ganz so aufgeräumt sind, treten die Qualitätsmängel besonders deutlich zutage, wenn diese Daten als Trainingsdaten für die KI verwendet werden.