2025.07.31 (목) 06:55
|
#. 소셜미디어에서 얻은 지인의 얼굴을 나체 이미지에 합성해 온라인 메신저에 퍼뜨린 사건이 발생했다. 국과수는 AI 딥페이크 분석모델로 해당 유포물을 정밀 분석했고, 합성된 얼굴의 경계면에서 나타나는 왜곡을 포착해 딥페이크임을 규명했다. 이 감정 결과는 허위 영상물 차단과 수사 착수의 핵심 근거가 됐다.
AI를 활용한 딥페이크 판별 기술이 범죄수사 현장에 본격적으로 도입되고 있다.
행정안전부와 국과수는 30일 AI 딥페이크 분석모델 활용 성과를 공개했다.
최근 인공지능 기술을 악용해 특정인의 얼굴 등을 합성한 딥페이크 범죄가 급증하고 있지만, 딥페이크 판별 기술이 부족한 탓에 수사기관에서 증거물 분석에 어려움을 겪고 있는 실정이다. AI 딥페이크 분석모델은 이 같은 문제를 극복하기 위해 개발됐다.
실제로 딥페이크 성범죄영상물 시정 요구는 2022년 3574건에서 2023년 7187건, 2024년 2만3107건으로 폭증하고 있다.
행안부와 국과수는 지난 4월 이 모델 개발과 검증을 마치고 5월부터 경찰청 등 일선 수사기관으로부터 감정 의뢰를 받기 시작했다.
5~6월 두달간 이 모델을 통해 감정한 딥페이크 증거물만 60종, 관련 사건은 15건에 이른다.
이 중 13건은 제21대 대선 기간 중 대통령 후보 관련이었고, 나머지 2건은 디지털 성범죄였다.
특히 대선 기간에는 중앙선거관리위원회에 이 모델을 공유해 유튜브 등 온라인상 불법 딥페이크 선거물 1만여건을 탐지하고 삭제하는 데 기여했다.
행안부는 "과거 기술적 한계로 수행하지 못했던 딥페이크 감정을 국내 최초로 공식화하고, 과학적 증거에 기반한 수사 체계를 마련했다는 점에서 의미가 크다"며 "딥페이크 범죄 수사에 획기적인 전환점이 마련될 것"이라고 밝혔다.
이 모델 개발에는 231만건에 달하는 공개 데이터셋과 자체 제작 콘텐츠 등 방대한 딥페이크 데이터가 활용됐다. 최신 딥러닝 알고리즘과 지속적인 피드백, 성능 개선 작업을 거쳐 딥페이크 탐지력이 획기적으로 향상됐다.
이 모델은 이미지·영상·음성 등 변조가 의심되는 파일을 자동 분석하며 합성 확률과 시간별 변조율을 예측해 딥페이크 여부를 신속하게 판별하도록 돕는다.
얼굴의 눈·코·입과 같은 특정 부위별 변조는 물론, 반복된 업로드·다운로드로 품질이 저하된 증거물들에 대해서도 세밀하게 분석할 수 있다.
행안부와 국과수는 앞으로 여성가족부, 방송통신위원회 등에도 이 모델을 단계적으로 확산하는 등 이 모델 활용 범위를 더욱 확대해 나간다는 계획이다.
뉴시스
