International Centre for Counter-Terrorism (ICCT)

2023

과학기술-과학기술진흥, 일반공공행정-개인정보

기술 환경이 발전함에 따라 디지털 정보 조작이 증가하고 있으며, 이는 정치적 결과를 초래하고 있다. 이 논문에서는 딥페이크라 정의하는 인공 지능-머신 러닝(AI/ML) 형태의 합성 미디어의 생성 및 배포의 악의성을 탐구한다. 정치 폭력을 선동하려는 행위체들은 민주 기관과 권위 있는 인물에 대한 신뢰를 약화시키고, 극단적인 정치적 의제를 부각시키기 위해 딥페이크 비디오 콘텐츠를 점점 더 활용하고 있다. 극우파 극단주의(FRE)와 같은 목표를 추구하기 위해 딥페이크 기술을 활용할 수 있는 새로운 개별 행위체의 행동 특성은 다양한 이념과 세계관에도 미국 정부, 그 지도자들, 그리고 이념이 상이한 외부그룹에 대한 신뢰를 약화시키기 위해 딥페이크 기술을 비슷한 수준으로 활용할 것이라 예상한다. 보고서에서는 정책 차원에서 FRE 딥페이크 위협을 경계해야 하며, 유해한 합성 미디어 사용을 금지하고 처벌하는 연방 법률을 제정할 것을 촉구한다. 지역 수준에서는 위협 받는 커뮤니티를 대상한 폭력적 극단주의 대응(CVE) 전략의 일환으로 딥페이크 리터러시 프로그램의 시행을 권장한다.

https://www.icct.nl/publication/weaponization-deepfakes-digital-deception-far-right

미국