ソーシャルネットワーク上での’ヘイトスピーチ’現象がますます顕著になっています。それは、Facebook、Twitter、YouTube、TikTokなどのプラットフォームでそのような行動をコントロールする能力について懸念が高まっています。過激なコンテンツをフラグし削除し、潜在的に違法な活動を警察に通報するためのツールが用意されているにもかかわらず、オンラインでのヘイトスピーチの傾向は増加し続け、管理がますます困難になっています。
スペインの研究者たちは、この社会問題に取り組むための戦略を先駆的に模索しています。それがシナイグループに所属し、ハエン大学先端情報通信技術センターと提携するModeratesプロジェクトです。このチームは、計算社会科学と自然言語処理の専門知識をベースとする一流の人工知能技術でその仕事を認識されています。
このプロジェクトは、有害な議論を研究しコントロールするために自然言語処理を利用しています。プロジェクトの主要研究者であるルイス・アルフォンソ・ウレーニャとマリア・テレサ・マルティンは、悪意あるスピーチの様々な形態を認識し対処するために、高品質な言語リソース、レキシコン、テキスト本体、辞書などを使用して人工知能をトレーニングする重要性を強調しています。
このプロジェクトには、2022年後半以降、科学イノベーション省から約30万ユーロの資金が投入されており、ユニークなアプローチを実験しています。攻撃的なメッセージを単純に削除するのではなく、建設的なコミュニケーションを推進することを目指しています。これは、教育キャンペーンで社会組織が歴史的に使用してきた戦略を借り受けたものです。
彼らのカウンターナラティブアプローチの主要な革新点は、ネガティブなコンテンツを中和するためにChatGPT技術を搭載したロボットの使用にあります。この人工知能の能力は、認識活動と既存のモデレーションチームに有益な補完として期待されています。
ウレーニャは、比喩的な言語の微妙な解釈を含む状況の幅広い範囲を指摘し、高品質のツールを作成することの難しさを強調しています。AI技術は、スペイン語の複雑な表現とバリエーションを正しく解釈するように訓練される必要があります。現在は、ソーシャルネットワークやフォーラムに統合する前に実験段階で洗練されています。
スペインでは、人種差別や同性愛嫌悪によって推進され、オンラインでのヘイトスピーチの拡散が増加しています。 Oberaxeのレポートによると、ソーシャルメディアプラットフォームは特定されたヘイトスピーチコンテンツの35％しか削除していませんでした。ウレーニャは、AIに人間の知識を教えることはバイアスがあるため完璧ではないと指摘しており、ヘイトスピーチと表現の自由を区別する際に重要な考慮事項です。
差別、キツネ目、性的指向や性自認に対する差別に関連したインターネットヘイト犯罪のエスカレーションは、内務省が著しい増加を報告しており、深刻な問題となっています。Moderatesプロジェクトは、ソーシャルネットワークからフォーラム、オンラインメディアへとさまざまなデジタルプラットフォームでコンテンツをモデレートする新たな展望を開いています。
オンラインのヘイトに対抗するためにスペインの研究者が開発したAIパワードモデレーションツールの使用は、デジタル時代における複雑で重要な問題に取り組んでいます。このトピックと関連する研究についての詳細を知りたい場合は、次のリソースをご覧になることを検討してください。
The source of the article is from the blog japan-pc.jp