AI（人工知能）チャットボットは、ユーザーに迅速で便利な回答を提供し、ますます人気を集めています。しかし、イスラエルのベン・グリオン大学の研究者による最近の発見により、AIチャットボットの会話における懸念すべき脆弱性が明らかになりました。ハッカーはこの脆弱性を悪用して、プライベートなチャットを盗聴し、機密情報にアクセスする可能性があります。
この脆弱性は「サイドチャネル攻撃」として知られています。セキュリティファイアウォールを侵犯する従来のハッキング手法とは異なり、サイドチャネル攻撃は、メタデータや他の間接的な露出を利用してデータを受動的に推測することに依存しています。この種の攻撃は、同じネットワーク上の悪意のある者やインターネット上でトラフィックを観察できる者によって行われる可能性があります。
AIチャットボットがサイドチャネル攻撃に特に脆弱である理由は、彼らの暗号化手法にあります。OpenAIなどのAI開発者がチャットボットトラフィックを保護するために暗号化を使用している一方、ベン・グリオン大学チームによる調査では、使用されている暗号化手法が欠陥があると示唆されています。その結果、AIチャットボットと交換されるプライベートメッセージの内容が潜在的な盗聴者に露出するかもしれません。
この脆弱性を悪用することで、攻撃者はAIチャットボットに与えられたプロンプトをかなりの精度でおおよそ推測することが可能です。研究者たちは、AIチャットボットに対して行われる敏感な質問が、悪意のある者によって約55％の確度で検出されることを発見しました。これはユーザーのプライバシーとセキュリティに深刻な脅威をもたらします。
この脆弱性はOpenAIを超えて広がっていることに留意することが重要です。調査によれば、Googleのジェミニを除く市場のほとんどのチャットボットは、この種の攻撃に対して脆弱です。問題の根源は、チャットボットが円滑な会話の流れを促進するために「トークン」として知られるエンコードされたデータを使用していることにあります。配信プロセスは一般的に暗号化されていますが、トークン自体が攻撃者がチャットボットに与えられたプロンプトをアクセスして推測するためのサイドチャネルを作り出しています。
この脆弱性を実証するために、ベン・グリオン大学の研究者たちはサイドチャネルを介して取得した生データを使用し、言語モデルを訓練してプロンプトに関連するキーワードを特定しました。その結果、言語モデルは一般的なプロンプトを50％の確率で正確に推測し、驚異的な精度でそれを予測する29％の確率を持っていました。
この脆弱性の影響は深刻であり、特に中絶やLGBTQの問題などの敏感なトピックの文脈での場合にはさらに深刻です。AIチャットボットを通じて情報や支援を求める個人は、自らを危険や処罰にさらす可能性があります。
OpenAIおよびCopilot AIを所有するマイクロソフトは、この脆弱性を認めました。ただし、彼らはユーザーに対し、名前などの個人情報は予測されにくいと述べています。マイクロソフトは、ユーザー保護を強化するためのアップデートで問題に対処することを約束しています。
これらの発表を受けて、AI開発者とユーザーの両方がAIチャットボットの会話のセキュリティとプライバシーを優先する必要があります。サイドチャネル攻撃を防ぐためには、強固な暗号化手法が導入される必要があり、敏感な情報の機密性が確保されるべきです。
FAQ
The source of the article is from the blog elperiodicodearanjuez.es