U.S. Government Accountability Office(GAO)

2024

과학기술-과학기술진흥, 일반공공행정-개인정보

2024년 11월 미대선을 앞두고 본격적인 선거철에 접어든 미 정부는 인공지능(AI)를 활용한 딥페이크의 악의적 사용을 경고한다. 이러한 기조를 토대로 2024년 3월 미 회계감사원(GAO)에서 발행한 딥페이크 대응 보고서에서는 딥페이크의 악의적 활용은 선거에 대한 신뢰를 약화시키고 허위 정보를 퍼뜨리며, 국가 안보를 약화시키고, 위협을 조장할 수 있다고 경고한다. GAO 보고서에서는 인공지능(AI) 기술 기반 알고리즘을 활용해 조작된 이미지나 영상을 일컫는 딥페이크를 대응하는 데 있어 마주한 도전과제와 함의를 논한다. 현실 세계에서 현행 딥페이크 탐지 기술의 효과성은 제한적인 수준이라 평가하지만, 허위 정보의 확산을 어느정도 늦출 수 대안책으로 디지털 워터마크, 메타데이터, 블록체인과 같은 인증기술이 갖는 잠재력을 활용할 것을 제안한다. 문서에서는 딥페이크를 식별하는 것만으로는 남용을 방지하기에 충분하지 않으며 영상매체가 딥페이크로 확인된 이후에도 허위 정보의 확산을 완벽하게 막지 못할 수 있다고 분석한다. 개선책으로 탐지 도구를 강화하기 위한 데이터셋 훈련 등 시스템적 노력이 필요하며 딥페이크 악용에 대한 우려를 다루는 데 있어 현행 법률과 규제가 적합한지를 고민해야 하고 딥페이크에 대항한 조처에 대한 정부 그리고 민관, 비영리 등 기관과 조직 차원의 책임 관계를 명확히 할 필요성을 제안한다. 또한 딥페이크 탐지 및 인증기술을 개발하고 개선하는 데 사회 전반이 협력해야 할 필요성에 대한 정책적 고민을 강조한다.

https://www.gao.gov/assets/gao-20-379sp.pdf

미국