Künstliche Intelligenz ebnet den Weg für Wahrheit in den Medien
In einer Zeit, in der sich gefälschte Nachrichten und Fehlinformationen schnell über soziale Medien und andere Kommunikationskanäle verbreiten, fand eine wichtige Diskussion in der Sala Zuccari des Senats statt, die ein kürzlich gestartetes Forschungsprojekt beleuchtete. Die Forschung war eine gemeinsame Anstrengung zwischen der Universitas Mercatorum und der Vittorio Occorsio Foundation ETS und berührte die wichtige Schnittstelle zwischen künstlicher Intelligenz (KI) und Fehlinformationen.
Die Versammlung brachte Vertreter von Strafverfolgungsbehörden, Akademikern, Journalisten und Vertretern verschiedener Institutionen zusammen, um über Fehlinformationsstrategien, Algorithmusbetrieb und notwendige gesetzgeberische Maßnahmen zur Eindämmung des sich verbreitenden Problems zu debattieren und zu strategisieren.
Der Kommunikationssektor, der besonders anfällig für Fehlinformationen ist, unterstreicht die Notwendigkeit einer konzertierten Anstrengung über verschiedene Bereiche hinweg, um das Problem direkt anzugehen.
Förderung der Informationsintegrität durch künstliche Intelligenz
Die Bedeutung der Bildung von Partnerschaften zwischen öffentlichen Behörden, Universitäten, gemeinnützigen Organisationen und Unternehmen zur Bekämpfung von Fehlinformationen wurde während der Veranstaltung hervorgehoben. Ein Schwerpunkt dieses Projekts liegt auf der Aufklärung von gefährdeten Bevölkerungsgruppen, wie beispielsweise Jugendlichen, und auf der Entwicklung von ausgeklügelten Computertools zur Diagnose und Eindämmung von gefälschten Nachrichtenkampagnen.
Der Prototyp eines auf maschinellem Lernen basierenden Algorithmus stand im Mittelpunkt der Veranstaltung. Diese Technologie wurde entwickelt, um gefälschte Nachrichten im Internet in Echtzeit zu erkennen und zu markieren. Es wurden vergleichende Methoden verwendet, um diesen Algorithmus zu entwickeln, der prüft, wie Länder wie Frankreich und Deutschland die Anbieterverantwortung zur Bekämpfung von Propaganda und Fehlinformationen gesetzlich geregelt haben und verfassungsrechtliche Fragen aufwirft.
Die Veranstaltung war in drei Hauptsitzungen unterteilt, die verschiedene Ansätze zur Bekämpfung von Desinformation behandeln. Der Dialog behandelte die Rollen und Verantwortlichkeiten staatlicher Institutionen, die Beiträge des privaten Sektors und politische Initiativen, die kürzlich vorgeschlagen wurden, um gegen Fehlinformationen vorzugehen.
Kritische Fragen zu Justiz und Technologie
Ein weiteres Interesse richtete sich auf die Entwicklung neuer Technologien in verschiedenen Bereichen und betonte, wie die Methoden und Techniken derjenigen, die Fehlinformationen verbreiten wollen und dabei umfangreich Algorithmen in Bereichen wie diesen nutzen, dringende und kritische Fragen aufwerfen, die angegangen werden müssen.
Im Zusammenhang mit dem Thema „Desinformation im Zeitalter der künstlichen Intelligenz“ gibt es mehrere zusätzliche Fakten, Kernfragen, Herausforderungen, Kontroversen, Vorteile und Nachteile, die relevant sind, aber nicht im Artikel erwähnt werden.
Weitere relevante Fakten:
– KI kann große Datensätze analysieren, um Muster zu identifizieren, die auf gefälschte Nachrichten hindeuten, wie beispielsweise die Glaubwürdigkeit der Quelle, den Schreibstil oder die Authentizität von Bildern.
– Deep Learning und natürliche Sprachverarbeitung sind die Grundlagen vieler KI-Systeme, die Fehlinformationen erkennen.
– Bots und automatisierte Systeme, die von KI betrieben werden, können auch genutzt werden, um Fehlinformationen schnell über Plattformen zu verbreiten.
– KI-Tools wie die Rückwärtssuche nach Bildern können helfen, die Herkunft von Bildern zu überprüfen und festzustellen, ob sie manipuliert oder aus dem Zusammenhang gerissen wurden.
Kernfragen:
– Wie können wir sicherstellen, dass KI-Systeme, die zur Bekämpfung von Fehlinformationen verwendet werden, nicht unbeabsichtigt legitime Meinungsfreiheit unterdrücken oder Zensur fördern?
– Welche Maßnahmen sind vorhanden, um sicherzustellen, dass die KI keine Vorurteile entwickelt, die ihr Urteil darüber, was als Desinformation angesehen wird, beeinflussen könnten?
Herausforderungen und Kontroversen:
– Transparenz: Das Verstehen der Begründung hinter dem Entscheidungsprozess einer KI kann schwierig sein, was Transparenzbedenken aufwirft.
– Datenschutz: Die Erfassung von Daten zur Schulung von KI zur Identifizierung von Fehlinformationen könnte möglicherweise die Privatsphäre der Benutzer verletzen.
– Manipulation: Es besteht ein fortlaufender Wettlauf zwischen der Entwicklung von KI zur Erkennung von Fehlinformationen und der Nutzung von KI zur Erstellung anspruchsvollerer falscher Erzählungen, wie z. B. Deepfakes.
Vorteile:
– Skalierbarkeit: KI kann riesige Mengen an Inhalten schnell analysieren, was angesichts der täglich im Internet geteilten Datenmengen entscheidend ist.
– Rund-um-die-Uhr-Überwachung: Im Gegensatz zu menschlichen Faktenprüfern können KI-Systeme rund um die Uhr arbeiten, um Fehlinformationen zu überwachen.
– Kontextuelle Analyse: KI-Tools können den Kontext bei der Bewertung der Gültigkeit der Informationen berücksichtigen.
Nachteile:
– Falsch-positive/-negative Ergebnisse: KI kann wahre Informationen fälschlicherweise als falsch markieren oder umgekehrt, was zu Fehlinformationen oder Zensur führen kann.
– Anpassungsfähigkeit böswilliger Akteure: Diejenigen, die darauf aus sind, Fehlinformationen zu verbreiten, können ihre Taktiken anpassen, um KI-Erkennungsmethoden zu umgehen.
– Menschliche Aufsicht erforderlich: KI-Erkennungstools erfordern menschliche Aufsicht, um nuancierte Entscheidungen zu treffen, was den Prozess verlangsamen und menschliche Vorurteile einführen kann.
Für diejenigen, die das Thema und verwandte Initiativen weiter erkunden möchten, sind hier einige vorgeschlagene Links:
– Weltgesundheitsorganisation: für ihre Position zu Fehlinformationen, insbesondere im Zusammenhang mit der öffentlichen Gesundheit.
– Vereinte Nationen: für Informationen zu globalen Bemühungen und Politiken zur Bekämpfung von Desinformation.
– Europäisches Parlament: für gesetzgeberische Ansätze der EU zur Bekämpfung von Fehlinformationen.