Midjourney, der beliebte Bildgenerator auf Basis künstlicher Intelligenz, hat kürzlich angekündigt, dass er vorübergehend die Erstellung von gefälschten Bildern von Präsident Joe Biden und dem ehemaligen Präsidenten Donald Trump blockieren wird. Diese Entscheidung fällt inmitten der laufenden US-Präsidentschaftswahl und zielt darauf ab, zu verhindern, dass das Tool für politische Zwecke missbraucht wird. Midjourney-CEO David Holz gab die Ankündigung während einer digitalen Bürozeiten-Veranstaltung bekannt und erklärte, dass die Moderation solcher Inhalte herausfordernd sei und die Blockierung eine vorübergehende Maßnahme zur Bewältigung des Problems darstelle.
Obwohl das Unternehmen keine spezifischen Details zu den Richtlinienänderungen mitteilte, betonte Holz, dass das Ziel darin bestehe, es den Personen schwerer zu machen, die KI zu missbrauchen. Midjourney hat nicht auf Anfragen nach weiteren Kommentaren zu dieser Angelegenheit reagiert.
Berichten zufolge wird die neue Richtlinie bereits umgesetzt, da Tests von Journalisten der Associated Press Warnmeldungen auslösten, als versucht wurde, Bilder von „Trump und Biden, die sich am Strand die Hand geben“, zu generieren. Bei einem zweiten Versuch eskalierten die Warnungen zu einem „Missbrauchsalarm“.
Diese Maßnahme von Midjourney steht im Einklang mit den Bemühungen zur Bewältigung von Bedenken hinsichtlich generativer KI-Tools und dem Potenzial für Wahlmanipulation. In einem kürzlich geführten Interview erklärte Callum Hood, Forschungsleiter des Center for Countering Digital Hate, dass Midjourney die wenigen Kontrollen unter den führenden Bildgenerierungstools aufwies, wenn es darum ging, überzeugende Bilder politischer Persönlichkeiten wie Biden und Trump zu generieren. Der Bericht der Gruppe zeigte auch, dass Midjourney unter den getesteten Tools am schlechtesten abschnitt, in 65 % der Fälle scheiterte und zur Verbreitung von Wahlfehlinformationen beitrug.
Es sei angemerkt, dass Midjourneys Entscheidung, die Erstellung gefälschter Bilder von Biden und Trump zu blockieren, eine signifikante Schwachstelle im Vergleich zu anderen beliebten Bildgeneratoren angehe. Es bleibt jedoch abzuwarten, ob diese Richtlinienänderungen einen dauerhaften Einfluss auf die Verbreitung politischer Deepfakes haben werden.
Interessanterweise funktioniert Midjourney anders als andere Bildgeneratoren, da die Nutzer auf der Social-Media-Plattform Discord die Erstellungsprompt und Bilder anderer öffentlich einsehen und interagieren können. Dieses öffentliche Engagement hat dazu geführt, dass die Discord-Gruppe von Midjourney zur größten auf der Plattform mit über 19 Millionen Mitgliedern wurde. CEO David Holz nutzt diese Plattform häufig für seine wöchentlichen Bürozeiten, in denen er breit gefächerte Themen rund um KI und die Zukunft der Menschheit diskutiert.
In einer vorausschauenden Aussage äußerte Holz seine Erwartung, dass sich das Feld der gefälschten Bilder in den kommenden Jahren signifikant entwickeln wird. Er prognostizierte, dass bis 2028 alle Präsidentschaftskandidaten echt aussehende „Deepfake-Chatbots“ mit simulierten Gesprächspunkten haben werden. Trotz des vorübergehenden Blocks zur Erstellung gefälschter Bilder warnte Holz davor, dass Personen, die entschlossen sind, Deepfakes zu produzieren, Alternativen finden werden, die noch ausgefeilter und leistungsfähiger sind als die bestehenden Systeme.
Midjourney, gegründet im Jahr 2020 und in der Nähe von San Francisco angesiedelt, bezeichnet sich als unabhängiges Forschungslabor, das sich auf die Erforschung neuer Denkprozesse und die Erweiterung der Vorstellungskraft der Menschheit konzentriert. Seit der Vorstellung seines öffentlichen Bildgenerators im Jahr 2022 hat das Unternehmen erhebliche Aufmerksamkeit im Bereich der generativen KI-Technologie erlangt.
## FAQ
### Was ist Midjourney?
Midjourney ist ein Bildgenerator auf Basis künstlicher Intelligenz, der von einem unabhängigen Forschungslabor entwickelt wurde. Er ermöglicht es Nutzern, realistische Bilder basierend auf verschiedenen Eingaben zu generieren.
### Warum hat Midjourney die Erstellung gefälschter Bilder von Biden und Trump blockiert?
Während der laufenden US-Präsidentschaftswahl implementierte Midjourney einen vorübergehenden Block, um den Missbrauch seines Tools für politische Zwecke zu verhindern und der potenziellen Verbreitung von Wahlfehlinformationen entgegenzuwirken.
### Wie unterscheidet sich Midjourney von anderen Bildgeneratoren?
Ein wesentlicher Unterschied besteht darin, dass Midjourney auf der Social-Media-Plattform Discord betrieben wird, auf der Nutzer öffentlich Einblicke in die Erstellungsprompt und Bilder anderer erhalten und interagieren können.
### Was bringt die Zukunft für gefälschte Bilder?
Midjourney-CEO David Holz geht davon aus, dass sich das Feld der gefälschten Bilder weiterentwickeln wird, wobei Präsidentschaftskandidaten möglicherweise zukünftig auf raffiniertere „Deepfake-Chatbots“ zurückgreifen werden.
Quelle: Die Associated Press.
## Definitionen:
– **Künstliche Intelligenz (KI)**: Bezieht sich auf die Simulation menschlicher Intelligenz in Maschinen, die so programmiert sind, dass sie wie Menschen denken und lernen, was es ihnen ermöglicht, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern.
– **Bildgenerator**: Ein Werkzeug oder eine Software, die Bilder auf der Grundlage bestimmter Eingaben oder Stichwörter generiert.
– **Missbrauch**: Die unsachgemäße oder unbefugte Verwendung von etwas, in diesem Fall bezieht es sich auf die Nutzung des Bildgenerators für politische Zwecke, die möglicherweise Fehlinformationen verbreiten können.
– **Moderation**: Das Überwachen und Kontrollieren von Inhalten oder Verhalten, um sicherzustellen, dass sie bestimmten Standards oder Regeln entsprechen.
– **Generative KI-Tools**: KI-Tools, die neue und originelle Inhalte wie Bilder auf der Grundlage bestimmter Eingaben oder Stichwörter generieren können.
– **Deepfakes**: Künstlich manipulierte Medien, in der Regel in Form von Videos oder Bildern, die Personen zeigen, die Dinge sagen oder tun, die sie tatsächlich nie gesagt oder getan haben.
– **Discord**: Eine Social-Media-Plattform, die es Nutzern ermöglicht, Communities zu erstellen und über Text-, Sprach- und Videokanäle miteinander zu interagieren.
Verwandte Links:
– [Midjourney](https://midjourney.com)
– [Deepfakes](https://www.adl.org/deepfakes)
– [Discord](https://discord.com)
The source of the article is from the blog rugbynews.at