デジタル時代において、人工知能（AI）の登場は文学や学術研究など、さまざまな産業を革命化してきました。Google BooksやGoogle Scholarなどのプラットフォームは、幅広いトピックの情報を見つける主要な情報源となっています。しかし、最近の報告によれば、AIが生み出す書籍がこれらのプラットフォームに侵入し、機械生成のコンテンツと人間の執筆との間の境界を曖昧にしているという懸念が出ています。
AIによって生成された書籍は、404 Mediaの研究者たちの注目を集めました。彼らは、OpenAIのChatGPTで一般的に使用されるフレーズ「As of my last knowledge update（私の最後の知識更新時点から）」を分析することで、Google Booksに存在するAIによって完全に書かれたと思われる本を特定する巧妙な方法を使いました。一部の書籍は、制限を示す参照点としてChatGPTを述べていますが、多くの書籍はAIが生成した内容を人間の著作物として故意に提示しています。
この現象を明らかにすると、特定のAI生成の本が実際の文学作品を模倣するように設計されていることが明らかになりました。たとえば、ボストンマラソン爆破事件について議論する一冊の本には、「私の最後の知識更新時点が2021年9月であり、事件は引き続き法的手続きの対象であり、最終的な結末は不確かでした。」というフレーズが含まれていました。興味深いことに、この本の著者は、冷戦、9.11、アメリカの建国の父、古代ローマ、有名なボクサー、そして有名な先住民などのトピックをカバーする50の他のタイトルを著したと主張していました。
これらのAIによって生成された本を特徴づけるのは、出版物の数量と速度のみです。すべての50のタイトルは2023年に出版され、それはベテランの著者でさえも難しい業績です。さらに、これらの本は通常50から100ページの範囲で、しばしばよく調査された作品ではなく、Wikipediaのエントリーに似た浅い物語を提供しています。
悩ましくも、これらの偽の出版物は、Amazonを含む主要オンライン小売業者から簡単に購入できます。このAIによって生成されたコンテンツの増加は、Google Booksなどの信頼される情報源の信頼性を曖昧にし、学者や研究者の間で不安を引き起こしています。
この問題は書籍にとどまらず、学術研究の領域にも広がっています。学術論文の収集で知られるプラットフォームであるGoogle ScholarもAIによって生成されたコンテンツに侵されています。Google Scholarで「As of my last knowledge update」と検索すると、リスクのある若者、糖尿病、自閉症、COVID-19、航空機パイロットの疲労など、さまざまなトピックで広範な結果が得られます。AIによる論文と正規の研究が混在することで、学術リソースの信憑性が問われる状況が生まれます。
この問題について問われた際、Googleは、書籍出版の常に変化する風景において自らのアプローチを評価し続けると発表しましたが、AIによって生成された結果を検索から削除する計画については触れていませんでした。
人工知能によるコンテンツの台頭は、オンライン情報源の信頼性、品質、信頼性について重要な問題を提起しています。技術の進歩とAIの高度化に伴い、人間と機械によって生成されたコンテンツを区別する効果的なメカニズムを開発することが不可欠です。この課題は、技術企業、研究者、出版社の連携を求めており、デジタル領域において信頼性を保護するためにはそれが必要です。
よくある質問
The source of the article is from the blog scimag.news