OpenAI’s kürzlich gestarteter GPT Store hat mit Herausforderungen bei der Inhaltsmoderation zu kämpfen, da Benutzer Bots generieren, die gegen die Richtlinien der Plattform verstoßen. Die Suche nach Begriffen wie „Girlfriend“ oder „Waifu“ auf der Plattform zeigt mehrere KI-Chatbots, die als virtuelle Begleiter beworben werden, obwohl OpenAI Bots, die für romantische Beziehungen entwickelt wurden, verbietet.
Das Konzept von „Waifu“ entstand in der Anime- und Manga-Community und beschreibt eine Bindung oder Zuneigung zu einem fiktionalen weiblichen Charakter. Mit dem Aufkommen von KI haben viele Menschen romantische Gefühle für KI-Chatbots oder Waifus entwickelt, was zur Entstehung von Bots wie „Your AI girlfriend, Tsu“ geführt hat.
OpenAI versuchte, das Problem durch Aktualisierung seiner Richtlinien beim Start des Stores anzugehen. Eine Verletzung dieser Richtlinien am zweiten Tag verdeutlicht jedoch die erheblichen Herausforderungen im Zusammenhang mit der Inhaltsmoderation. Darüber hinaus stellen die Nachfrage nach beziehungsorientierten Bots ethische Bedenken hinsichtlich der Ausnutzung emotionaler Verletzlichkeit der Benutzer auf.
OpenAI gibt an, automatisierte Systeme, menschliche Überprüfungen und Benutzerberichte zu nutzen, um die verfügbaren Bots im GPT Store zu bewerten. Schädliche Bots können Warnungen erhalten oder vom Verkauf ausgeschlossen werden. Die weiterhin vorhandenen Girlfriend-Bots werfen jedoch Zweifel an der Wirksamkeit dieser Maßnahmen auf.
Die Moderationsprobleme von OpenAI stimmen mit den Schwierigkeiten anderer KI-Entwickler bei der Aufrechterhaltung wirksamer Sicherheitsvorkehrungen überein. Mit der zunehmenden Zugänglichkeit des GPT Stores für ein breiteres Publikum stellt der bisherige Track Record von OpenAI mit früheren Bots wie GPT-3 eine zusätzliche Herausforderung für die Sicherstellung einer angemessenen Inhaltsmoderation dar.
Trotz der Hindernisse erkennt OpenAI die Bedeutung der Implementierung strenger Richtlinien, um seinen Ruf in der Wettbewerbslandschaft der allgemeinen KI-Entwicklung zu wahren. Es ist entscheidend, KI-bezogene Probleme umgehend anzugehen, während der Wettlauf um den Fortschritt der KI intensiviert wird.
Die frühen Verstöße gegen die Richtlinien dienen als Erinnerung an die erheblichen Herausforderungen bei der Moderation, auch bei eng fokussierten GPT Store-Bots, während KI-Technologien weiter voranschreiten. OpenAI muss innovative Lösungen finden, um die Nachfrage nach KI-Begleitung mit einer verantwortungsvollen Inhaltsmoderation in Einklang zu bringen.
The source of the article is from the blog elblog.pl