빠른 생성형 AI 기술의 발전은 영상 제작을 획기적으로 간편하게 만들었으며, 접근성을 크게 높였습니다. 이제 개인 창작자 뿐만 아니라 기업들까지 이 기술을 활용하며, SNS에서는 방대한 양의 AI 생성 콘텐츠가 등장하고 있습니다.
하지만 이러한 발전은 기대감만큼이나 예상치 못한 부작용도 함께 가져왔습니다.
SNS에서의 부작용: Minion Gore 사건
출처 : 404media / Photo by Magda Vrabetz
2024년 12월 중순, TikTok, Instagram, YouTube, X 등 주요 소셜 미디어 플랫폼에서 확산된 ‘Minion Gore’가 그 대표적인 사례입니다. 이는 AI 기술을 사용해 애니메이션 영화 ‘미니언즈’의 캐릭터를 변환하여 폭력적이고 충격적인 장면을 합성한 콘텐츠입니다.
이 영상들은 처음에는 무해한 콘텐츠처럼 보이지만, 사실 자살, 총기 난사 등 극도로 폭력적인 장면을 포함하고 있어 시청자들에게 심리적 충격을 주었습니다. 특히 이러한 콘텐츠는 기존의 콘텐츠 필터링 시스템을 우회하며 SNS에서 빠르게 퍼졌습니다. 예를 들어, 2024년 12월 14일 TikTok에 게시된 한 영상은 2020년 Facebook에서 라이브 스트리밍된 자살 영상을 미니언즈 스타일로 변환한 것으로, 3일 만에 25만 회 이상의 조회수를 기록하며 큰 논란을 일으켰습니다.
현재 각 플랫폼은 이러한 AI 콘텐츠에 대해 엄격한 조치를 취하고 있습니다. TikTok은 모든 Minion Gore 영상을 삭제했으며, AI 영상 제작 도구인 Runway는 ‘Minion’을 스타일 변환 프롬프트의 금지어로 지정했습니다. 하지만 이러한 문제는 AI 기술이 남용될 가능성을 단적으로 보여주는 사례로, 더 철저한 관리와 윤리적 가이드라인의 필요성을 시사합니다.
AI 영상 기술의 발전 사례: Hunyuan AI
출처 : generativeai.pub / Image by Jim Clyde Monge
AI 기술은 부작용에도 불구하고, 창작의 새로운 가능성을 열어주고 있습니다. 최근 주목할 만한 사례로 Hunyuan AI는 영화 ‘존 윅(John Wick)’과 드라마 ‘세버런스(Severance)’를 결합한 콘텐츠를 생성하며 큰 화제를 모았습니다. 이 작업은 기존의 Face-swap 기술을 넘어, Replace Actor 기술로 두 콘텐츠를 하나의 완성도 높은 영상으로 합성한 사례입니다. 이를 통해 새로운 스토리텔링과 예술적 표현의 무한한 가능성과 다양한 콘텐츠 제작, 활용의 가능성을 확인했습니다
AI 영상 제작 기술: 가능성과 주의점
Hunyuan AI와 Minion Gore 사례는 AI 기술의 빠른 발전과 접근성이 창작자들에게 새로운 가능성을 열어주는 동시에, 윤리적 책임과 주의가 필요하다는 것을 보여줍니다. AI 영상 제작 기술은 창작자들에게 시간과 비용의 제약을 넘어 독창적인 콘텐츠를 제작할 기회를 제공하며, 교육, 마케팅, 엔터테인먼트 등 다양한 분야에서 더욱 활용될 것입니다.
특히 복잡한 영상 제작 과정이 간소화되어 누구나 손쉽게 고품질의 콘텐츠 제작이 가능해지고 있습니다.
그러나 기술 발전의 혜택만큼이나 부작용과 위험성도 항상 고려해야 합니다. AI는 단순히 도구일 뿐, 그 사용 방식은 전적으로 사용자의 책임에 달려 있으며 기술의 편리함에 의존하기보다는, 자신의 창작물에 담긴 메시지와 의도가 신중히 고려하는 콘텐츠 제작의 기본을 잊어서는 안 됩니다.
