딥페이크를 활용한 범죄가 최근 사회적으로 크게 문제가 되고 있습니다. 딥페이크를 악용하여 여성을 대상으로 한 성적 합성물이 텔레그램 메신저를 통해 무차별적으로 유포되었습니다. 피해자는 초·중·고교생의 미성년자를 비롯한 교사, 군인까지 포함된 것으로 알려졌으며, 내 주변 친구나 가족의 사진이 이용된 것은 아닐까 하는 불안감이 생기기도 합니다.

딥페이크란 무엇이며 최근 딥페이크로 인해 발생하고 있는 문제와 이에 대한 대응 방안에는 어떤 것들이 있을까요?

딥페이크(Deepfake)란 컴퓨터가 스스로 외부 데이터를 조합, 분석하여 학습하는 기술인 딥러닝(Deep learning)과 가짜를 뜻하는 페이크(Fake)의 합성어입니다. 즉, 인공지능 기술을 이용하여 진위 여부를 구별하기 어려운 가짜 이미지나 영상물을 뜻합니다. 생성형 AI가 발달하면서 이제는 진짜 영상과 딥페이크로 만든 가짜 영상을 구별하기가 어려울 정도로 정교해지고 있습니다. 딥페이크는 원본 영상에서 얼굴 부분을 추출한 후 합성하고자 하는 얼굴 데이터를 학습시킨 후 GAN기술을 이용하여 원본 영상의 얼굴을 대상의 얼굴로 대체합니다. 이후 자연스러운 연결을 위해 세부적인 조정 작업을 거치면 실제 인물이 말하는 것처럼 보이는 영상이 완성됩니다. GAN(Generative Adversarial Network) 기술은 생성적 적대 신경망’이라는 딥러닝 알고리즘으로 진위를 감별하는 알고리즘과 새로운 이미지를 만드는 알고리즘이 경쟁을 통해 학습하며 실제에 가까운 거짓 데이터를 만드는 기술입니다.

딥페이크 기술을 목적에 맞게 사용한다면 긍정적인 사례로 활용할 수 있습니다. 역사적 인물을 재현함으로써 생생한 역사교육을 진행할 수 있으며, 영상제작 비용을 절감할 수 있습니다. 딥페이크를 통한 영상으로 감동을 주었던 사연도 있었습니다. 드라마 전원일기에 출연했던 故박윤배 배우를 대역을 맡은 사람에게 얼굴과 목소리를 합성하여 가상인간으로 구현하였습니다. 출연 배우들은 가상인물임을 알면서도 지난 시간을 회상하고 생전에 하지 못했던 말들을 하며 위로를 나누었고, 이 모습은 대중들에게 큰 감동을 주었습니다.

그러나 딥페이크 기술과 음성 복제 기술이 발전함에 따라 이를 악용하는 사례들이 점점 많아지고 있습니다.

딥페이크 기술을 나체 영상 등 음란물에 불법 합성하여 유통하는 범죄에 사용하면서 논란이 되고 있습니다. 딥페이크 성범죄 사태는 인하대 및 서울대에서 여학생의 얼굴을 음란물에 합성한 딥페이크 영상물이 텔레그램에서 유포한 사건이 알려지면서 시작되었습니다. 이후에 전국적으로 수천명이 참여하고 있는 사실이 알려졌고, 기술의 발전으로 인해 디지털 성범죄가 증가한다는 논란이 확대되기도 했습니다.

이처럼 계속해서 증가하는 딥페이크 피해를 방지하기 위해 세계 각국에서는 다양한 노력을 기울이고 있는데요. 대표적으로 논의되고 있는 방안 중 하나는 워터마크 의무화입니다. AI워터마크는 AI기술로 제작한 콘텐츠에 삽입되는 표식입니다. 눈에 띄는 표식을 넣을수도 있고, 보이지 않는 정보를 심는 방법도 있습니다. 실제와 구분하기 어려운 이미지와 영상, 음성을 동원한 가짜뉴스가 범람하고 성착취물 피해가 커지면서 세계 각국은 AI워터마크 도입을 검토하고 있습니다.

우리나라에서도 지난 5월 ‘새로운 디지털 질서 정립 추진계획’의 일환으로 AI생성물 워터마크 의무화를 논의하기도 했습니다. 또한 지난 6월 AI로 만든 음향, 영상, 이미지 등 콘텐츠에 가상 정보임을 명확하게 표시하도록 의무화하는 정보통신망법 개정안을 발의하였습니다. 개정안에서는 위반 시 정보제공자에게 1,000만원 이하의 과태료 및 플랫폼 기업은 표시 없는 AI생성물 삭제 의무를 부과하도록 하였습니다.

최근 미국, 유럽 등에서는 딥페이크 성범죄에 대한 경각심이 커지면서 관련 법안이 만들어지고 있습니다. 미국 캘리포니아주에서는 딥페이크 성착취물을 배포·소지한 이들도 처벌할 수 있게 하는 법안이 추진중입니다. 호주, 영국 등에서도 최대 2년형의 징역형을 부과할 수 있는 법안이 제정되기도 했습니다.

우리나라에서는 지난 9월 25일, 아동·청소년을 대상으로 한 딥페이크 성범죄 처벌을 강화하는 ‘딥페이크 성범죄 방지법’이 국회에서 의결되기도 했습니다. 이 법안은 딥페이크를 이용한 디지털 성범죄에 대한 처벌 강화를 골자로 한 법으로, 불법 딥페이크 성 착취물을 소지, 구입, 저장, 시청만 하더라도 징역 3년이하 또는 3,000만원 이하의 벌금형 등의 형사처벌을 받게 됩니다.

딥페이크를 이용한 범죄가 사회적 문제로 대두되면서 이를 막기위한 예방과 처벌도 중요하지만, 때문에 이러한 영상을 퍼뜨리지 못하게 막는 것 또한 중요합니다. 딥페이크의 순기능을 강화하면서 긍정적인 사례로 활용한다면 예술, 의료 등 다양한 분야에서 혁신적인 변화를 가져올 수 있을 것입니다. 딥페이크 기술을 악용하는 사례는 엄중히 처벌하고, 긍정적으로 활용할 수 있는 방안을 더 모색해보는 것은 어떨까요?