Midjourney, das beliebte KI-Bildgenerierungstool, hat eine vorübergehende Maßnahme eingeführt, um die Erstellung von Fake-Bildern des Präsidenten Joe Biden und des ehemaligen Präsidenten Donald Trump vor der US-Präsidentschaftswahl zu blockieren. Die Entscheidung erfolgte nach Tests, die das Potenzial für den Missbrauch des Tools durch Associated Press aufzeigten. CEO David Holz erklärte, dass das Unternehmen gegen die Verbreitung von Wahl-Unwahrheiten vorgehen möchte, aber keine spezifischen Details zu den implementierten Policy-Änderungen bereitstellte.
Im Gegensatz zu führenden Bildgenerierungs-Tools hat sich Midjourney, das laut seiner Website nur 11 Mitarbeiter beschäftigt, nicht an einem freiwilligen Branchenpakt beteiligt, der darauf abzielt, KI-generierte Deepfakes zu bekämpfen, die Wähler täuschen sollen. Holz klärte auf, dass Midjourneys Hauptzweck nicht mit politischer Rede zusammenhängt, das Unternehmen jedoch auch keine übermäßige Zeit mit der Überwachung solcher Inhalte verbringen möchte.
Kritiker haben Bedenken geäußert, dass Midjourneys Technologie zur Förderung von Desinformationskampagnen und falschen Behauptungen über Wahlfälschung führen könnte. Eine kürzlich von der „Center for Countering Digital Hate“ veröffentlichte Studie deutete darauf hin, dass Midjourney bereits genutzt wurde, um Bilder zu erstellen, die solche Fehlinformationen unterstützen könnten. Callum Hood, Leiter der Forschungsabteilung der Organisation, betonte, dass Midjourney als KI-Bildgenerierungstool mit den geringsten Kontrollen hervorstach, wenn es darum ging, Bilder von bekannten politischen Persönlichkeiten wie Biden und Trump zu produzieren. Die Überwachungsgruppe testete auch andere Tools wie OpenAI’s ChatGPT Plus, Stability AI’s DreamStudio und Microsoft’s Image Creator, die alle in der Generierung wahlbezogener Fehlinformationen Probleme aufwiesen.
Trotz Midjourneys Entscheidung, die Erstellung von Trump- und Biden-Bildern zu blockieren, gab es in der Vergangenheit Fälle, in denen Benutzer solche Inhalte erfolgreich erstellt haben. Jedoch zeigt Midjourneys öffentliche Datenbank, dass sich dies kürzlich geändert hat, mit Benutzern, die Warnungen erhalten, wenn sie versuchen, Bilder der beiden Politiker zu generieren. Einige Benutzer äußerten Frustration über mangelnde klare Kommunikation von Midjourney bezüglich seiner überarbeiteten Richtlinien.
Ein Aspekt, der Midjourney von anderen Bildgeneratoren unterscheidet, ist seine öffentliche Natur. Benutzer können auf der Social-Media-Plattform Discord die Anfragen und Bilder der anderen Benutzer einsehen, wo sich auch Midjourneys größte Gruppe mit über 19 Millionen Mitgliedern befindet. CEO David Holz interagiert regelmäßig mit den Benutzern in dieser Gruppe und diskutiert eine Vielzahl von Themen im Zusammenhang mit KI und der Zukunft der Menschheit.
Obwohl Midjourneys vorübergehende Blockade Bedenken hinsichtlich KI-generierter Bilder für die bevorstehende Wahl anspricht, geht Holz davon aus, dass sich das Landschaftsbild in Zukunft erheblich verändern wird. Er glaubt, dass bis 2028 alle Kandidaten realistische „Deepfake-Chatbots“ haben werden, die Gesprächspunkte simulieren. Holz warnt davor, dass Personen, die entschlossen sind, Deepfakes zu erstellen, alternative Methoden finden werden, die auf bestimmte Ziele zugeschnitten sind und effektiver sind als die bisherigen Systeme.
Gegründet im Jahr 2020 und mit Hauptsitz in der Nähe von San Francisco sieht sich Midjourney als unabhängiges Forschungslabor, das sich darauf konzentriert, neue Denkformen zu erforschen und die Vorstellungskraft der Menschen zu erweitern. Im Juli 2022 stellte das Unternehmen die öffentliche Version seines Bildgenerators vor und weckte großes Interesse im Bereich der generativen KI-Technologie. Trotz des Ziels, den Benutzern die Freiheit zu geben, eine Vielzahl von Bildern zu erstellen, blockiert Midjourney aktiv beleidigende und schädliche Inhalte. Das Unternehmen verwendet Keyword-Filter und hat ein Team von Moderatoren, die sich mit Beschwerden von Benutzern befassen.
FAQ zu Midjourney:
The source of the article is from the blog elperiodicodearanjuez.es