世界最大の民主主義国であるインドが将来の総選挙に備える中、AI生成メディアの利用による有権者の操作と欺瞞への懸念が高まっています。この国の最近の州選挙では、ディープフェイクや操作されたコンテンツの広範な拡散が見られ、民主主義への脅威について警告が出されています。
インドの政党、特に与党であるバーラティヤ・ジャンタ・パーティー（BJP）や野党のインド国民会議（Congress）などは、有権者を影響するためにディープフェイクを活用しています。これらのAI生成メディアは、オーディオとビデオの操作を含むものであり、ビデオ1本あたりわずか10セントで利用可能なツールもあります。
技術力で知られるBJPは、キャンペーン活動に幻想を利用してきた歴史があります。2014年には、ナレンドラ・モディ首相のホログラム投影が使用され、複数の場所で同時にキャンペーンを実施しているかのような錯覚を作り出しました。しかし、ディープフェイクの使用はこれらの戦術を新たな欺瞞のレベルに引き上げました。
注目すべき出来事として、BJPの国会議員がキャンペーンのためにディープフェイクを世界初の政治家の1人として使用しました。この政治家がさまざまな言語で有権者に演説しているビデオは、AIを使用して彼の声を生成し、表情を変更し、口の動きを操作して作成されています。これらのディープフェイクは非常に説得力があり、視聴した際にその偽りをほとんど検出することが不可能でした。
他の政党もキャンペーン戦略にAIを取り入れています。ドラヴィダ・ムンネートラ・カッサガム（DMK）は、亡くなった象徴的な指導者M・カルナーニディを復活させるためにAIを使用し、亡くなった政治家のリアルなビデオをキャンペーンイベントで披露しました。
専門家は、将来の選挙でディープフェイクとAI操作の使用が増加すると信じており、政党が物語を形作り、信念を前例のない規模で創り出すことを可能にします。インドのThe Indian Deepfakerのような一部のAIスタートアップは、技術を合法的かつ倫理的に使用していますが、政治キャンペーンからの非倫理的な要求の拡大や、その起源を追跡する難しさについて懸念があります。
The source of the article is from the blog oinegro.com.br