NightshadeがAIからどうやってアーティストを守っているか

人工知能を搭載したアートツールは、アート界で絶大な人気を誇っています。高度なアルゴリズムを用いて、リアルで一見独創的なアートを生み出すからです。しかし、アーティストの中には、AIの進歩が自分の作品の無断使用につながることを懸念する人もいます。これは、AIが自分の創造的なスタイルや知的財産を自分の知らないうちに利用し、知的財産を奪わうかもしれないと懸念を抱かせるせているのです。

Midjorneyのようなプラットフォームは、その非公開の性質上、そのような懸念を確かめるのは困難です。対照的に、OpenAIのDALL-Eのようなプラットフォームは、学習データのためにインターネット上で画像や作品を検索することをオープンに認めています。このような実践の倫理的側面は広く議論されており、多くのアーティストが生成AIによる作品へのアクセスを防ぐ方法を模索しているのです。

そこでNightshadeの出番です。これはシカゴ大学の研究者によって作られたツールで、AIツールを惑わし、画像の構成要素を誤って識別させることで、アーティストの作品を保護するのが目的です。

長いレンダリング時間による3Dプロジェクトの遅れにうんざりしていませんか？当社のレンダーファームを使用してワークフローを向上させましょう。今すぐ$25の無料クレジットを入手して、クラウド上の何千ものCPUとGPUコアに即座にアクセスし、数日ではなく数時間でタスクを完了できるようにしましょう。簡単なプラグイン統合と年中無休のサポートで、スタートは簡単です。リスクフリーのオンデマンドクラウドレンダリングを今すぐお試しください！

Nightshadeの仕組み

Nightshadeは、画像のピクセルを微妙に変化させ、他の画像の特徴に合わせることで動作します。このような変化は人間の目には気づかないが、AIを欺き、画像の被写体を実際の内容とは異なるものとして認識させているの です。例えば、研究者は犬の画像を使い、基準となる猫の「基準」画像を用いて、猫の視覚的特徴に似せるために微妙な調整を加えました。この処理によって画像が損なわれ、その画像をトレーニングに使用するAIが犬を猫と誤認し、その後のAIが生成する画像に影響を与えます。

Nightshadeの重要な特徴は、AIデータセットを混乱させる効果があることです。AIを混乱させるツールはNightshadeが初めてではないですが、Nightshadeは最も強力なツールのひとつになることを目指しています。たった50～200枚の人工的な画像で、訓練されたAIを目に見えて歪ませることができるのです。

Nightshadeを開発した研究者たちは論文の中で、彼らのようなツールがアーティストや知的財産所有者の作品保護にいかに役立つかを力説しています。Nightshadeは、攻撃されたAIを完全に無力化することなく、アーティストの知的財産を保護する能力を持っています。AIに適切なものを提供しながらも、アーティスト独自のスタイルを保護することができるのです。例えば、ロイヤリティフリーの犬の画像の特徴を利用して、犬をモチーフにした作品を保護することができます。

現在進行中のAI倫理論争

Nightshadeは、今日のAIツールの倫理について、アーティストと技術コミュニティの間で現在行われている議論を参考にしています。アーティストたちは、AIモデルがどのように訓練され、どのようなデータを使用するのかについて、ますます懸念を深めています。一部のアーティストは、AIが許可なく自分の作品を使用することを、窃盗や著作権侵害と見なしています。一方、生成的AIの支持者は、彼らのツールは画像を直接使用するのではなく、学習させた画像からインスピレーションを得ていると主張しているのです。

これまでは、アーティストが自分の作品をAIに無断で使われるのを防ぐ手段は限られていました。アーティストの中には、独自のスタイルや知的財産が盗まれることを恐れ、作品をオンラインで共有することを控えている人もいます。Nightshadeや同様のツールは、アーティストがAIモデルの学習方法について発言権を確立し、解決策を提供する手段になる可能性があります。

AIに関する倫理的な議論が続く中、一部の生成AIプロバイダーは、クリエイターが作品の利用を管理するための改善ツールを提供することで、懸念に対処しています。アーティストたちは、#NoAIタグを使用して、プラットフォーム上でのAI使用に同意しないことを表明しているところもあります。さらに、Adobe FireflyのようなAIツールは、ウェブの画像素材や疑わしい画像素材に頼るのではなく、ライセンスされた画像で学習するようにシフトしています。

まとめ

Nightshadeがクリエイティブ・コミュニティに与える影響はまだ不透明だが、AIによる無断使用からの保護を求めるアーティストにとっては希望の光が見えています。Nightshadeは悪用される可能性もありますが、実際には、アーティストの許可なく画像を使用するAIにその弊害が向けられます。この圧力によって、生成AIプロバイダーは、アーティストの条件に沿った倫理的慣行を採用せざるを得なくなるかもしれません。

Nightshadeについてもっと知りたい方は、このツールに関する論文の全文をこちらでご覧ください。

＞ガレージファームのTOPへ