인공 지능으로 구동되는 예술 도구들은 첨단 알고리즘을 사용하여 놀랍도록 믿을만하며 독창적인 예술 작품들을 만들면서 예술계를 강타했습니다. 그러나 인공 지능의 발전으로 창의적 에너지, 예술적 스타일 그리고 지적 재산을 훔칠 수 있는 가능성 속에 아티스트들은 작품이 자신들도 모르는 사이 어떻게 인공 지능에 사용될 수 있는지 우려가 커지고 있습니다..
OpenAI의 DALL-E와 같은 일부 플랫폼이 교육 데이터로 사용할 이미지와 예술 작품을 인터넷에서 수집하는 것을 공개적으로 인정하지만, Midjorney와 같은 플랫폼의 밀접한 소스 특성으로 인해 이러한 주장을 증명하는 것을 어렵게 만듭니다. 그러한 관행의 윤리는 심각한 논란을 일으키며 많은 예술가들이 생성 AI가 그들의 작품을 보는 것을 방지하는 방법을 찾게 만듭니다.
이러한 이유로 나이트쉐이드(Nightshade)가 주목을 받습니다. 나이트쉐이드는 이미지 요소를 잘못 식별하도록 인공 지능 도구를 속임으로써 예술가들의 작품을 보호하는 도구를 개발하기 위한 시카고 대학교의 연구원들의 최근 연구의 결과물입니다.
3D 프로젝트를 완성하는 데 방해가 되는 렌더링 시간 때문에 염려하십니까? 가라지팜의 렌더팜을 통해 워크플로우를 한 단계 높이십시오. 지금 가입과 즉시 지급되는 25달러 무료 크레딧으로 클라우드의 수천 개의 CPU 및 GPU 코어에 즉시 액세스할 수 있으므로 며칠이 아닌 몇 시간 만에 작업을 완료할 수 있습니다. 간단한 플러그인 통합과 연중무휴 기술 지원 덕분에 어렵지 않습니다. 지금 바로 온디맨드 클라우드 렌더링을 위험 부담 없이 시작하여 씬을 얼마나 빨리 렌더링할 수 있는지 확인하십시오!
나이트쉐이드는 이미지의 특징과 일치하도록 이미지의 픽셀을 미묘한 방식으로 변경하며 작동합니다. 인간의 눈으로는 인식할 수 없지만 작은 변화는 이미지의 피사체가 실제와 다른 것이라고 믿게 AI를 속입니다. 예를 들어, 연구원들은 개의 이미지를 촬영하여 고양이의 시각적 특징과 일치하도록 이미지를 미묘하게 변경하여(고양이의 "앵커" 이미지를 사용) 이미지를 오염시킵니다. 이미지를 교육용 데이터로 사용하는 AI는 이제 개를 고양이로 인식하여 결과적으로 AI가 생성한 이미지를 왜곡합니다.
.webp)
나이트쉐이드의 핵심 측면은 AI 데이터 세트를 오염시키는 잠재력입니다. 나이트쉐이드는 AI를 혼란스럽게 만들려는 첫 번째 도구는 아니지만 가장 효과적이려고 노력하고 있습니다. 실제 오염된 이미지 50~200개만으로도 이 도구는 훈련된 AI를 눈에 띄게 왜곡할 수 있습니다.
.webp)
나이트쉐이드 연구원들은 논문에서 어떻게 아티스트와 기타 지적 재산권 소유자가 그들의 작품을 보호하기 위해 나이트쉐이드와 같은 도구들이 사용될 수 있는지를 강조합니다. 나이트쉐이드는 또한 오염된 인공 지능의 효율성을 파괴하지 않으면서 동시에 예술가들의 지적 재산을 보호할 수 있습니다. 예를 들어, 인공 지능의 훈련 데이터를 완전히 파괴하지 않도록 과정과 관련된 것을 인공 지능에게 제공하면서, 예술가는 그들의 특정 스타일을 보호할 수 있습니다. 또한 예를 들어 로열티가 없는 개의 이미지의 특징들을 사용함으로써 예술가들의 개와 관련 작품들을 보호합니다.
오늘날 인공 지능 도구의 윤리성에 대한 예술가들과 기술 커뮤니티들 사이의 지속적인 논쟁을 참고합니다. 인공 지능 모델이 어떻게 훈련되고 어떤 데이터를 훈련 받고 있는지에 대한 예술가들의 우려가 커졌습니다. 한편으로 예술가들은 인공 지능이 허가 없이 자신의 작품을 사용하는 것을 무단 도용이자 저작권법 위반으로 간주합니다. 반면 생성적 인공 지능의 지지자들은 자신의 도구가 이미지를 직접 사용하는 것이 아니라 단지 훈련된 이미지에 의해 영감을 받는 것 뿐이라고 주장합니다.
지금까지 예술가들은 인공 지능에 의한 무단 사용으로부터 작품을 보호하기 위한 도구가 거의 없었습니다. 일부 예술가들은 그들의 예술 스타일과 지적 재산이 도난 당할 것을 두려워하여 더 이상 온라인 플랫폼에 그들의 작품을 게시하지 않을 정도까지 이르렀습니다. 나이트쉐이드와 같은 도구들은 인공 지능 모델들이 훈련되는 방식에 대한 예술가들의 발언권을 확립하는 방법이 될 수 있습니다.
AI를 둘러싼 윤리적 논쟁이 계속됨에 따라, 일부 인공 지능 제공업체들은 이미 제작자들이 그들의 작품이 어떻게 사용되는지를 통제할 수 있는 더 나은 도구로 대응하고 있습니다. 예를 들어, #NoAI 태그는 예술가들이 인공 지능 목적을 위해 그들의 이미지를 사용하는 것에 동의하지 않는다는 것을 표현하는 것이 점점 더 일반화되고 있습니다. 더불어 Adobe Firefly와 같은 인공 지능 도구들은 이제 웹에서 스크랩 된 이미지와 다른 의심스러운 이미지 소스들보다는 허가된 이미지들 만을 사용하여 훈련되고 있습니다.
나이트쉐이드가 크리에이티브 커뮤니티에 미칠 영향을 아직 확인하지는 못했지만 아티스트들에게 그들의 작품이 AI의 사용으로부터 보호될 수 있다는 희망을 줍니다. 나이트쉐이드는 본질적으로 예술가의 허가 없이 이미지를 무단 사용하는 인공 지능을 방해하며 이는 사실상 생성 AI 제공업체가 예술가의 조건에 따라 윤리적인 관행을 따르도록 효과적으로 통제할 것입니다.
나이트쉐이드에 대해 자세히 알아보려면 여기에서 해당 도구에 대한 문서를 확인할 수 있습니다.
