OpenAI
KI-Freundinnen überschwemmen GPT-Store
Datum:15.01.2024
Autor(en):Manfred Bremmer
Zahlreiche "Girlfriend-Chatbots" demonstrieren bereits kurz nach der Bereitstellung
von OpenAIs GPT Store die Probleme eines offenen KI-Stores.
So sollen sich Nutzer die KI-Freundin July vorstellen. Andere können wegen OpenAIs
Content Policy gar kein Bild von sich generieren.
Foto: OpenAI
Erst vor wenigen Tagen hat OpenAI seinen GPT Store für angepasste ChatGPT-Versionen geöffnet1. Mit dieser zentralen Stelle für vorkonfigurierte KI-Chatbots will das junge KI-Unternehmen seinen Bezahlkunden das Auffinden von besonders nützlichen und populären ChatGPT-Versionen erleichtern.
Wie Recherchen zeigen, brechen Nutzer aber bereits die Regeln und stellen unzulässige Chatbots wie KI-Freundinnen und virtuelle Begleiter ein. Eine Suche nach "Girlfriend" im neuen GPT-Store zeigt etwa in der Ergebnisleiste mindestens acht KI-Chatbots an, darunter "Judy", "Mean Girlfriend", Bossy Girlfriend" oder "Nadia, my girlfriend" oder - für einsame Dungeons & Dragons-Freunde - "My Tiefling Girlfriend".
OpenAIs noch junger GPT Store liefert bei Suchbegriffen wie Girlfriend, Virtual GF
oder gar Escort etliche Ergebnisse.
Foto: Screenshot/OpenAI
Klickt man - natürlich rein aus Recherchezwecken - auf einen dieser Chatbot-Vorschläge, werden Prompts wie "Wie sieht deine Traumfrau aus?" und "Verrate mir dein dunkelstes Geheimnis" empfohlen.
Keine KI-Freundinnen zugelassen
Natürlich finden sich auch in Apples AppStore und dem Google Play Store unzählige KI-Freundinnen und virtuelle Begleiter. OpenAI weist jedoch in seinen zum Start des GPT Store aktualisierten Nutzungsbedingungen2 darauf hin, dass "keine GPTs zugelassen sind, die romantische Freundschaften oder regulierte Aktivitäten fördern". Außerdem verbietet das Regelwerk Tools, die für Minderjährige ungeeignet sind - etwa, weil sie sexuell eindeutige oder andere Inhalte aufweisen.
OpenAI kündigte an, eine Kombination aus automatischen Systemen, menschlicher Überprüfung und Benutzerberichten zu nutzen, um GPTs zu finden und zu bewerten, die möglicherweise gegen die Richtlinien verstoßen. Verstöße führten zu Maßnahmen gegen den Inhalt oder das Ersteller-Konto, wie zum Beispiel Warnungen, Einschränkungen bei der Weitergabe oder der Ausschluss von der Aufnahme in den GPT-Store oder der Monetarisierung.
In den nächsten Wochen wird sich zeigen, wie ernst es das KI-Startup mit dieser Ankündigung meint - und wie effektiv die dafür verwendeten Tools sind.
Learning by Doing
"Wir können nicht alle positiven oder missbräuchlichen Verwendungen unserer Technologie vorhersagen, daher überwachen wir proaktiv neue Missbrauchstrends", erklärte OpenAI. "Unsere Richtlinien werden sich im Laufe der Zeit auf der Grundlage unserer Erkenntnisse weiterentwickeln."
Links im Artikel:
1 https://www.computerwoche.de/a/openai-launcht-gpt-store-und-chatgpt-team,36982222 https://openai.com/policies/usage-policies
Alle Rechte vorbehalten. Jegliche Vervielfältigung oder Weiterverbreitung in jedem Medium in Teilen oder als Ganzes bedarf der schriftlichen Zustimmung der IDG Tech Media GmbH. dpa-Texte und Bilder sind urheberrechtlich geschützt und dürfen weder reproduziert noch wiederverwendet oder für gewerbliche Zwecke verwendet werden. Für den Fall, dass auf dieser Webseite unzutreffende Informationen veröffentlicht oder in Programmen oder Datenbanken Fehler enthalten sein sollten, kommt eine Haftung nur bei grober Fahrlässigkeit des Verlages oder seiner Mitarbeiter in Betracht. Die Redaktion übernimmt keine Haftung für unverlangt eingesandte Manuskripte, Fotos und Illustrationen. Für Inhalte externer Seiten, auf die von dieser Webseite aus gelinkt wird, übernimmt die IDG Tech Media GmbH keine Verantwortung.