중국을 비롯한 해외에서 블랙핑크 제니,아이유,설현 등 한국 아이돌의 딥페이크 음란물이 배포돼 문제가 되고 있습니다.실제 인물의 얼굴과 음란물을 합성한 영상이 제작돼 디지털 성범죄로 이어지고 있는 것입니다.딥페이크란 인공지능 기술을 이용해 합성한 사진이나 동영상 또는 제작 프로세스 자체를 말합니다.
딥페이크는‘심층 기계학습’과‘가짜’의 합성어로,기존 얼굴을 바꿔치거나 완전히 새로운 얼굴 또는 몸짓을 만들어내는 일종의 위조 기술입니다.심층 신경망을 기반으로 하는 딥러닝을 이용해 얼굴과 표정을 만들어내고 음성을 합성합니다.그 결과 사람들이 하지 않은 말이나 행동이 마치 한 것처럼 보이게 됩니다.
강한나 얼굴에 쯔위 합성
딥페이크 기술을 활용한 성범죄가 많아졌으며,연예인을 합성시키는 성범죄 행위에 대해 강력한 처벌을 요청한 국민청원이 청와대 게시판에 올라오기도 했습니다.
실제로 딥페이크 관련 기술이 고도화됨에 따라 더욱 정교하고,실제와 같은 가짜 영상과 이미지 등 생산될 가능성이 크며,업계 전문가들은 딥페이크 기술이 지닌 무궁무진한 발전 가능성을 살리면서,각종 부작용들을 방지하고 대책을 마련해야 한다고 말했습니다.
빅뱅 탑과 제니 합성 논란
예를 들어 작년에 빅뱅 탑이 블랙핑크 뮤직비디오에 자신의 얼굴을 합성한 딥페이크 영상을SNS에 올려 논란이 되고 있습니다. 탑은 최근 자신의SNS에 블랙핑크의 신곡‘하우 유 라이크 댓'(How You Like That)뮤직비디오를 공개했습니다.해당 영상은 뮤직비디오 원본이 아닌 이른 바 딥페이크 합성물이었습니다.
뮤직비디오 속 블랙핑크 멤버들의 몸에 자신의 얼굴을 합성해 영상을 만들어 소속사 후배인 블랙핑크를 홍보 겸 응원하기 위해 올린 것으로 파악되었습니다.
하지만 당시 반응은 좋지 않은 쪽으로흘러가는 듯했습니다.일부 팬들은 딥페이크 기술이 성범죄에 악용된다는 점을 들어 탑의 행동이 경솔했다고 지적하기도 하였습니다.
또한 유튜브에서는 한 외국인이 제니의 모습을 한 상태로 격렬한 춤을 추는 영상이 올라와 큰 충격을 주기도 하였습니다.
화제의 차이유 역시 딥페이크
올해 가수 아이유와 닮은 꼴로 중국에서 인기를 끌었던 중국 뷰티 크리에이터 차이유의 실물이 공개되면서 해당 여성이 딥페이크(Deep Fake)기술을 사용했다는 의혹이 제기되고 있습니다.
딥페이크는 인공지능 기술을 활용해 특정 인물의 얼굴 등을 영상에 합성하는 기술로 특정인의 표정이 다양하게 담긴15초 분량의 원본 영상과 웹캠,목소리 데이터 등만 있으면 쉽게 만들 수 있습니다.
이와 같이 닮은 꼴로 인기를 얻은 차이유는 틱톡 앱을 통해 아이유 특유의 표정,옷차림 등을 따라 하며 더 큰 사랑을 받아왔습니다.그녀의 실체를 알게 되자 일부 누리꾼들은 딥페이크 기술을 이용해 아이유와 닮은 외모를 만들어 인기를 얻으려 한 것이라며 비난했습니다. 또 여성 연예인들이 딥페이크 포르노 범죄의 타깃인 만큼 이러한 기술로 특정 연예인을 따라 하는 이들이 더 이상 없어야 한다고 지적했습니다.
중국 딥페이크 조사 강화
인터넷 기업에 대한 규제를 강화하고 있는 중국 당국이 이번에는 딥페이크 기술 사용 대한 단속을 강화하였습니다.중국 매체에 따르면 중국의 사이버 감독기관인 중국 국가 사이버 정보 판공실과 공안국은 최근 인터넷 관련 기술 기업11곳과 회의를 열고 입장을 전달하였습니다.
중국 규제당국이 알리바바,텐센트,바이트 댄스 등11개 국내 정보기술 기업을 소환해 인공지능 기술로 얼굴이나 신체를 영상물에 합성하는 일명 딥페이크 기술에 대한 조사를 강화했습니다.
국가 사이버 정보 판공실과 공안국은 회의에서 딥페이크 기술을 사용하는지 면밀하게 모니터링하고 있다면서 기술기업들에 위반 사항이 발생하지 않도록 자체 점검을 할 것을 지시했습니다.
2020년 틱톡 딥페이크 서비스에 강한 우려
틱톡 운영사 중국 바이트 댄스가 이용자의 얼굴을 다른 사람의 몸에 감쪽같이 합성시켜주는 딥페이크 서비스를 만들었다고IT매체 테크 크러치가 보도했습니다.
테크크런치는 바이트 댄스가 비밀스럽게 딥페이크 서비스를 구축했다고 밝혔었습니다.당시 미국 외신들로부터 해당 서비스가 틱톡에 탑재되는 것을 우려하기도 했었습니다.
딥페이크 기술로 얼굴을 바꾸는 것이 이용자들에게 재밌는 서비스로 여겨질 수 있으나,딥페이크 포르노물 생성 등 악용 사례들도 빈번하다는사실 때문이었습니다.
