경찰, 딥페이크 탐지 소프트웨어 개발…10분 내 진위 판별

선거철 기승을 부리는 ‘딥페이크’(Deepfake·실제인 것처럼 꾸민 합성 영상·이미지) 범죄 단속에 경찰이 본격적으로 나섰다.

경찰청 국가수사본부(국수본)는 5일 '딥페이크(Deepfake) 탐지 소프트웨어'를 개발해 관련 범죄 단속에 활용할 계획이라고 밝혔다.

새롭게 개발된 탐지 소프트웨어는 페이스 스왑(Face Swap·영상 등에서 얼굴을 인식하고 교체하는 AI 딥러닝 기술) 등 딥페이크 기술이 쓰인 것으로 의심되는 영상을 시스템에 올리면 통상 5∼10분 내에 분석 작업을 완료해 진위를 판별한다. 직후 결과보고서를 만들어 수사에 활용될 수 있도록 한다.

해외에서 제작된 기존 딥페이크 탐지 모델은 서양인 위주의 데이터로 구성돼 한국인 대상 합성 영상에 대해서는 탐지율이 떨어지는 한계가 있었다.

새로 개발한 소프트웨어는 한국인 데이터 100만점, 아시아 계열 인종 데이터 13만점 등 한국인과 관련한 인물 5400명의 데이터 520만점을 학습했다.

다만 해당 소프트웨어의 진위 여부 탐지율은 약 80%에 그친다. 경찰은 탐지율이 100%가 아닌 점을 고려해 증거자료보다는 수사 방향을 설정하는 자료로 활용할 방침이다. 아울러 학계·기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 받아 소프트웨어의 오탐지 가능성을 최소화할 계획이다.

국수본 관계자는 "딥페이크 이용 여부가 의심될 때 빠른 분석과 결과 확인을 거쳐 적극적으로 수사할 수 있을 것"이라며 "향후 더욱 정확한 탐지가 이뤄지도록 소프트웨어를 고도화하고 선거범죄, 합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처하겠다"고 말했다.

한편 올해 1월부터 시행된 개정 공직선거법에 따르면 선거일 전 90일부터 선거일까지 딥페이크를 활용한 선거운동이 전면 금지됐다. 최근 가상의 윤석열 대통령이 “국민을 고통에 빠뜨렸다”라고 말하는 내용의 딥페이크 영상이 소셜미디어에 퍼져 경찰 수사 중이다.