Künstliche Intelligenz (KI) hat das Potenzial, die Welt der Wahlen zu revolutionieren, birgt jedoch auch erhebliche Risiken für demokratische Prozesse. Mit Blick auf die amerikanischen Wahlen 2024 werden die Bedenken hinsichtlich KI-generierter Fehlinformationen, Deepfakes und irreführender Medien immer präsenter. Regierungen und Technologieunternehmen erkennen zwar die Notwendigkeit von Maßnahmen, doch es bleibt noch viel Arbeit, um die Demokratie zu schützen.
Auf der kürzlich stattgefundenen Münchner Sicherheitskonferenz kamen branchenführende Unternehmen wie OpenAI, Apple, Meta, Microsoft, TikTok, Google und andere zusammen, um die Herausforderungen durch KI bei Wahlen zu diskutieren. Sie verpflichteten sich, Maßnahmen zu ergreifen, um die Herkunft von KI-generierten Inhalten zu verfolgen, irreführende Medien zu erkennen und Vorsichtsmaßnahmen gegen KI-bedingten Schabernack zu implementieren. Diese Verpflichtungen sind ein Schritt in die richtige Richtung, aber ihr Erfolg hängt von ihrer effektiven Umsetzung ab.
Die Einführung der generativen KI-Technologie ermöglicht es Betrügern, unglaublich realistische gefälschte Bilder, Videos und Audioaufnahmen von Kandidaten und Amtsträgern zu erstellen. Diese Kreationen können sich schnell, kostengünstig und in großem Maßstab verbreiten. Darüber hinaus ermöglichen KI-betriebene Chatbots die Erstellung gefälschter Wahlwebsites und irreführender Nachrichtenseiten innerhalb von Sekunden. Diese Fähigkeit gibt böswilligen Akteuren, sowohl im In- als auch im Ausland, die Mittel an die Hand, um Einflusskampagnen durchzuführen, die schwer zu verfolgen sind.
Die Integration generativer KI in Suchmaschinen und Chatbots führt zu Situationen, in denen Wähler, die nach Wahlinformationen suchen, auf Fehlinformationen stoßen oder auf Randwebsites geleitet werden. Studien haben gezeigt, dass gängige KI-Tools oft schlecht abschneiden, wenn sie mit bestimmten wahlbezogenen Fragen konfrontiert werden. Darüber hinaus können traditionelle KI-Technologien zur Herausforderung der Wählerberechtigung beitragen und möglicherweise zu fehlerhaften Streichungen aus den Wählerlisten führen.
Als Antwort auf diese Herausforderungen haben KI-Unternehmen wie OpenAI Richtlinien zur Eindämmung wahlbezogener Schäden umgesetzt. OpenAI hat es Nutzern untersagt, KI-Chatbots zu erstellen, die Kandidaten imitieren und Falschdarstellungen über das Wählen verbreiten. Darüber hinaus wurden Schritte unternommen, um Bilder zu verschlüsseln und unbefugte Nutzungen zu erkennen. Dennoch haben diese Maßnahmen noch ihre Grenzen, und es muss noch mehr getan werden.
Ein entscheidender Aspekt, der Aufmerksamkeit erfordert, ist die Auseinandersetzung mit falschen Erzählungen und Darstellungen, die vergangene Wahlzyklen geplagt haben. Die Richtlinien von OpenAI verbieten nicht explizit die Erstellung und Verbreitung von Inhalten, die falsch Wahlbeeinflussung, unzuverlässige Wahlmaschinen oder weit verbreiteten Wahlbetrug zeigen. Ein explizites Verbot dieser Kategorien würde den Wählern mehr Klarheit und Schutz bieten.
Die Zusammenarbeit mit Drittanbietern ist ein weiterer Bereich, der Aufmerksamkeit erfordert. Wenn Drittanbieter-Suchmaschinen OpenAI-Modelle verwenden, können die bereitgestellten Antworten ungenau oder veraltet sein. Strengere Anforderungen an Partnerschaften und die Integration von OpenAI-Modellen in Suchmaschinen und digitale Plattformen würden Wähler besser schützen, die nach Informationen über das Wählen und Wahlen suchen.
OpenAI kann diese Herausforderungen nicht alleine bewältigen. Auch andere große Technologieunternehmen sollten ihre eigenen Wahlrichtlinien für generative KI-Tools veröffentlichen und transparent über ihre Praktiken sein. Der von der Coalition for Content Provenance and Authenticity entwickelte offene Standard zur Einbettung von Inhalten mit digitalen Markern sollte breit angenommen werden.
Häufig gestellte Fragen
1. Wie beeinflusst KI Wahlen?
KI kann verwendet werden, um gefälschte Medien wie Bilder, Videos und Audioaufnahmen von Kandidaten und Amtsträgern zu erstellen. Sie kann auch irreführende Informationen generieren, Fehlinformationen verbreiten und Einflusskampagnen durchführen.
2. Welche Maßnahmen werden ergriffen, um Wahlen vor KI-bedingten Risiken zu schützen?
Regierungen und Technologieunternehmen arbeiten zusammen, um die Herkunft von KI-generierten Inhalten zu verfolgen, irreführende Medien zu erkennen und Vorsichtsmaßnahmen zu ergreifen, um KI-bedingten Schabernack zu mildern. Dennoch sind weitere Anstrengungen erforderlich.
3. Welche Herausforderungen stellen KI-Technologien für die Integrität von Wahlen dar?
KI-Technologien können zu Fehlinformationen, Herausforderungen bei der Wählerberechtigung und zur Verbreitung falscher Erzählungen beitragen. Sie können auch über Suchmaschinen und Chatbots irreführende Informationen bereitstellen.
4. Wie geht OpenAI mit wahlbezogenen Schäden um?
OpenAI hat Richtlinien umgesetzt, um die Erstellung von KI-Chatbots zu verhindern, die Kandidaten imitieren und wahlbezogene Falschdarstellungen verbreiten. Sie haben auch Schritte unternommen, um die unbefugte Nutzung von Bildern zu schützen.
5. Was können andere Technologieunternehmen tun, um Wahlen zu schützen?
Technologieunternehmen sollten ihre eigenen Wahlrichtlinien für generative KI-Tools veröffentlichen. Transparenz und Zusammenarbeit sind entscheidend, um den Herausforderungen, die KI bei Wahlen mit sich bringt, zu begegnen.
(Quellen: [source1.com], [source2.com])
The source of the article is from the blog girabetim.com.br