경찰이 AI로 만든 조작물을 더 정밀하게 가려내고, 생성부터 유포까지의 흐름을 추적하는 수사 체계를 강화합니다.
경찰청 국가수사본부는 딥페이크 성범죄뿐 아니라 명예훼손, 투자사기, 보이스피싱으로 번지는 AI 악용 범죄에 대응하기 위해 'AI 불법 조작물 탐지·분석체계 고도화 기본계획'을 시행한다고 밝혔습니다.
이번 계획은 조작 여부를 빠르게 판별하고, 조작과 유포의 전 과정을 분석하는 역량을 높이는 데 초점을 맞췄습니다.
경찰은 이를 위해 AI 조작물 정밀 탐지 시스템 구축, 자동화 분석 도구 개발 및 기법 고도화, AI 전문분석관 운영, 표준 절차 정립, 전문가 그룹 운영 등 8대 세부 과제를 추진합니다.
우선 2024년부터 활용 중인 '딥페이크 탐지 시스템'에는 한국인 맞춤형 자료를 학습시켜 국내 실정에 맞게 성능을 개선하고 있습니다. 영상과 이미지뿐 아니라 음성과 문자까지 함께 보는 '멀티모달(Multi Modal) 딥페이크 탐지 기술' 연구개발도 진행 중입니다.
이와 함께 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 사업은 2025년부터 2027년까지 3년간 예산 91억 원 규모로 추진됩니다. 연구개발이 끝나면 경찰을 포함한 모든 수사기관이 공동 활용할 수 있는 시스템 구축도 검토할 계획입니다.
조작물 생성과 유포 과정을 분석하는 기술도 강화합니다. 경찰은 사용 빈도가 높은 주요 생성형 AI 서비스를 대상으로 프로그램 실행이력과 명령어 기록 분석, 조작에 사용된 특정 프로그램 식별, 변형 자료 분석 기법을 개발하고 설명서도 보급하고 있습니다.
불법 조작물의 생성·유포 전 과정을 분석해 증거를 추출하는 자동화 도구 개발도 이어집니다. 관련 사업인 '로컬환경 인공지능 모델 대상 포렌식 기술개발'은 2026년부터 2029년까지 4년간 예산 100억 원 규모로 진행됩니다.
인력과 협력 체계도 손봅니다. 조작물 분석에 특화된 'AI 전문분석관'을 전국 시도경찰청에 배치하고, 현장수사관과 분석관 대상 전문교육도 확대합니다. 민·관·학 전문가 그룹을 운영해 최신 AI 기술 동향, 주요 탐지 사례, 신규 프로그램 분석 성과를 공유하고 공동 대응에 나설 방침입니다.
김종철 경찰청장 직무대행은 "AI를 이용한 범죄 수법이 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다"라며 "경찰은 AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖춰 국민이 안심하고 AI 기술을 이용할 수 있도록 하겠다"라고 말했습니다.
출처 : 해당 기관 보도자료
· · · · · · · · · ·
관련기사
▶ "특별대우 아냐"…경찰, '암살자(들)' 유해진 신변보호 해제
▶ 영암군, 치매어르신 실종 대응 훈련…주민·경찰·소방 50여 명 참여
· · · · · · · · · ·
한국사회복지저널은 AI 기술의 도움을 받아 보도자료와 복지 정보를 보다 쉽고 정확하게 전달하기 위해 노력하고 있습니다.
