피해자 10명 중 3명은 미성년자

제도 미비 속 피해 키워

"교계, 윤리기준 확립 앞장서야"

▲딥페이크 음란물 사태가 전방위로 확산하고 있다.ⓒ데일리굿뉴스 

여성 얼굴에 음란물을 합성한 '딥페이크'(Deepfake)  영상물 파문이 전방위로 확산하고 있지만 인공지능(AI) 기술을 범죄에 악용한 생성물을 식별하고 걸러낼 수 있는 제도적 장치가 없어 심각한 사회 문제와 인권 유린을 방치한다는 비판이 커지고 있다.

지인이나 SNS(사회관계망서비스) 이용자의 사진을 합성해 만든 '딥페이크' 음란물이 무차별 확산하는 양상을 보이고 있다.

최근 한 대학에서 여학생의 얼굴에 음란물을 합성한 딥페이크 영상물이 유포된 사건이 발생한 데 이어 비슷한 종류의 텔레그램에서 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 대규모로 발견됐다. 

전국 각 지역·학교별로 세분화된 대화방도 다수 만들어져 있는 것으로 드러났다. AI로 가짜 영상과 이미지를 만드는 ‘딥페이크’ 범죄가 또 발생한 것이다.  

피해자 중에는 대학생뿐 아니라 중고생 등 미성년자는 물론이고 교사, 여군 등도 포함된 것으로 알려졌다. 특히 피해자 3명 가운데 1명 이상이 미성년자인 것으로 나타나 충격을 주고 있다.

28일 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 10대 이하였다. 2022년 64명에서 2024년(8월 25일 기준) 288명으로 2년 만에 4.5배나 증가한 셈이다. 

현재 SNS 등에 '피해 학교 명단'으로 올라 있는 곳만해도 100곳이 넘는다. 온라인에는 딥페이크 범죄 발생 학교들을 찾아내 그래픽으로 만든 '텔레그램 딥페이크 피해 지도'까지 올라왔다. 피해의 진위나 규모 등이 확인되지 않았지만 학생들은 공포와 불안감에 휩싸여 있다.

디성센터 관계자는 "10대와 20대 등 저연령층에서 관련 피해가 높게 나타난 것은 이들이 다른 연령층에 비해 SNS 등을 이용한 온라인 소통과 관계 형성에 상대적으로 익숙하기 때문"이라며 "최근 딥페이크 기술이 발전하고, 생성형 AI가 등장함에 따라 손쉽게 불법 영상물을 제작할 수 있는 기술이 보급되면서 관련 피해도 증가하고 있다"고 분석했다.

가해자는 소셜미디어에 올라온 피해자들의 사진을 무단으로 저장해 범행에 활용하는 것으로 전해졌다. 이런 상황이라면 누구나 이같은 범죄의 피해자가 될 수 있다는 우려가 커질 수밖에 없다. 

정부는 문제가 커지자 딥페이크를 활용한 디지털 범죄에 강력히 대응할 것을 시사했으나, 제도적 장치가 없는 데다 현행법상 처벌 규정도 약해 실효성에 대한 지적이 나온다. 

AI 기술이 통제 수준을 넘어서 고의로 악용되는 우려를 막기 위한 '인공지능 산업 육성 및 신뢰 확보에 관한 법률안' 등은 아직도 국회에 계류돼 있는 상태다.

일각에서는 이번 사태와 관련 터질게 터졌다는 반응이다. 

앞서 과학계와 전문가들은 몰가치성 등 AI 발전에 따른 윤리 문제가 지속적으로 대두될 것으로 예상하고, 'AI 윤리기준'을 마련해야 한다고 주장해왔다. 

특히 AI에 따른 윤리 문제를 계속적으로 제기해온 교계에서는 지금부터라도 AI 윤리 확립에 나서야 한다는 목소리가 높다. 

소망교회 온라인사역실장 조성실 목사는 "AI의 할루시네이션(가짜 뉴스) 문제가 앞으로 더욱 심화될 텐데 윤리 강령과 더불어 AI를 어떻게 사용해야 좋은지 가치 판단을 할 수 있는 능력을 키워야 한다"고 강조했다. 

그러면서 "윤리적인 부분을 중점적으로 다룬 가이드라인 등은 AI 기술을 책임감 있게 활용하도록 돕는 유용한 도구가 될 것"이라며 "교회 역시 AI 기술의 오용을 방지하고 신앙적 가치를 유지하려는 노력을 계속 기울여야 한다"고 덧붙였다.

AI 발전에 따른 올바른 사용 방안을 제시하는 데 한국교회가 선제적으로 앞장서야 한다는 제언도 나온다. 

이수인 아신대 교수는 한 포럼에서 "AI 기술은 효율성을 높이는 데 큰 도움이 되지만 기술의 한계도 분명 있다"면서 "AI에 대한 사회·철학·신학적 질문이 절대적으로 중요해진 시점이다. 과학 기술과 이를 견제하는 윤리가 함께 굴러갈 수 있도록 한국교회가 올바른 가이드라인을 제시하길 힘써야 한다"고 말했다.

최상경 기자 ⓒ 데일리굿뉴스