FacebookでAIによって生成されるコンテンツが波紋を広げています。このプラットフォームの高齢層デモグラフィックの関心を集めています。404 Mediaが最初に指摘したところによると、Stanford大学とGeorgetown大学の研究者らは、悪意のある行為者たちがこの関心を悪用していることを発見しました。彼らは社会的ネットワークを奇妙なAIによって作成された画像で溢れさせることで広範囲な注目を集め、それによって自身の観客層を拡大しています。
これらのスパマーや詐欺師は、Facebookのアルゴリズムを有利に利用しており、それらのAIによって生成されたコンテンツはエンゲージメントが高いため、ユーザーを広告だらけの外部サイトに誘導させるのに役立っています。この悪用はまた製品の販売増加やフォロワー数の増加の手段としても機能しています。
低品質コンテンツへの連続した闘い、最近の研究はAIによって生成されたスパムの波に対する持続的な戦いを示しています。この種のコンテンツは、デジタル市民が日々直面する情報の質をさらに浸食しています。顕著な例として、ジーザスと甲殻類を組み合わせたShrimp Jesusのウイルス画像が挙げられ、その不条理さでユーザーを困惑させました。
これらの画像に対するエンゲージメントが新奇なものであるとしても、これらは多くのFacebookユーザーがそのコンテンツの合成性を認識できないか、またはその正当性に関心を持っていないことを示唆しています。その研究によると、Facebookの既存のアルゴリズムが、このようなAIによって生成された画像をスパムするページを無意識に報酬している可能性があり、これらの画像のいくつかは何百万もの視聴を集めています。
この問題に対処するためのFacebookの潜在的な手立ては、MetaであるFacebookの親会社によって詳しく議論されていません。しかし、研究者は、プラットフォームがAIによって生成されたコンテンツを透明にラベリングすることや、明確さのための追加の手段を実施することができると提案しています。
AIスパムに立ち向かうためにFacebookができることは概説されていませんが、特にユーザーの傾向がそのような欺瞞的なコンテンツに関与するという点を考慮すると、この新しい波にどのように対処するかが見どころです。