シカゴ大学の研究チームが、未承認の機械学習モデルの使用に対抗するために開発した最新のオフェンシブデータポイズニングツール、ナイトシェード1.0がリリースされました。このツールは以前The Registerでも取り上げられたディフェンシブプロテクションツール、グレーズと共に動作します。
ナイトシェードは画像ファイルを対象とした設計であり、機械学習モデルがコンテンツ制作者の権利を尊重するように強制することを目指しています。ナイトシェードは画像データを改変することで、不正なコンテンツを取り込むモデルに混乱を引き起こします。このツールは人間の目には元の画像とほとんど変わらないように見えるように最小限の変更を加えつつ、AIモデルを混乱させる効果があります。例えば、人間には牧草地にいる牛の影として見える画像でも、AIモデルは草地に放置されたハンドバッグと解釈するかもしれません。
ナイトシェードの開発チームには、シカゴ大学の博士課程の学生であるショーン・シャン、ウェンシン・ディング、ジョセフィン・パッサナンテ、そしてヘザー・ジェンとベン・ザオ教授も含まれています。彼らは2023年10月に発表された研究論文でナイトシェードの詳細を説明しています。ナイトシェードで使用される技術は、プロンプト特定のポイズニング攻撃であり、モデルのトレーニング中に真のラベルの境界をぼかすように画像を意図的に操作します。
ナイトシェードの導入は、データの不正な収集に対する懸念の増大に応えたものであり、これによりコンテンツ制作者とAIビジネスの間で数多くの法的紛争が生じています。研究者たちは、ナイトシェードが著作権の通知やその他の許可形式を無視するモデルトレーナーから知的財産を守るための強力なツールとなりうると主張しています。
なお、ナイトシェードにはいくつか制約もあります。特に平坦な色と滑らかな背景を持つアートワークでは、オリジナルの画像とわずかに異なる場合があります。また、将来的にナイトシェードに対抗する手法が開発される可能性もありますが、研究者たちはソフトウェアを適応させることができると考えています。
チームは、アーティストが自身の視覚スタイルを保護するためにナイトシェードと共にグレーズを使用することを提案しています。ナイトシェードは画像データに焦点を当てていますが、グレーズはモデルがアーティストの視覚スタイルを複製することを防ぐために画像を変更します。作品の内容とスタイルの両方を保護することで、アーティストはブランドの評判を保ち、不正な複製を防ぐことができます。
現時点では、ナイトシェードとグレーズは別々のダウンロードとインストールが必要ですが、チームはコンテンツ制作者の手続きを簡略化するために統合版を開発する予定です。
ナイトシェードのFAQ：
The source of the article is from the blog lanoticiadigital.com.ar