Haiying Guan, James Horan, Andrew Zhang

Forensics,

National Institute of Standards and Technology

2025

과학기술-과학기술연구, 과학기술-과학기술진흥

이 보고서는 인공지능(AI) 기반 딥페이크(deepfake) 탐지용 분석 시스템을 평가하기 위한 종합적인 이니셔티브를 제시하며, 해당 기술이 초래할 수 있는 법적·경제적·사회적 위험의 확산에 대응하고자 한다. 본 이니셔티브의 주요 목적은 구조화된 협력적 체계 내에서 고도화된 탐지 도구를 개발하고 이를 엄격히 평가함으로써 디지털 포렌식 증거의 신뢰성과 무결성을 보호하는 데 있다. 이 평가 활동은 이해관계자 참여, 평가 체계 개발, 정기적인 시스템 평가 및 반복적 개선 과정을 포함하며, 새로운 딥페이크 생성기와 후처리 기법에 대한 일반화 가능성과 견고성을 확보하는 데 중점을 둔다. 주요 분석 결과에 따르면, 다수의 탐지 시스템이 새로운 위협에 효과적으로 적응하지 못하는 한계를 보이고 있으며, 이에 따라 지속적인 연구와 도구 고도화의 필요성이 강조된다. 이 이니셔티브의 차별화된 특징으로는 정교한 평가 방법론, 학계 및 산업계와의 개방형 협력, 그리고 빠르게 진화하는 생성형 AI 환경에 대응하기 위한 지속적 적응 노력이 포함된다.

https://www.nist.gov/publications/guardians-forensic-evidence-evaluating-analytic-sys...

미국