새로운 사기 수단이 된 딥페이크 기술
- 딥페이크 기술이 음성과 영상을 실시간으로 정교하게 위조할 수 있게 되면서 기업 화상회의가 새로운 사기 수단으로 떠오름
- 독일 프라운호퍼 연구진은 화상회의 영상·음성을 실시간 분석해 딥페이크 위험을 경고하는 AI 탐지 시스템을 개발 중임
화상회의 환경에 특화된 딥페이크 탐지
- 프라운호퍼 보안정보기술연구소(SIT)와 프라운호퍼 하일브론 사이버보안 연구혁신센터(HNFIZ)는 ATHENE 연구 프로젝트를 통해 영상과 음성 탐지를 결합한 AI 기반 솔루션을 개발함
- 시스템은 보안이 중요한 화상회의를 지속적으로 분석해 딥페이크일 가능성을 확률 형태로 시각적으로 표시함
- 다만 AI가 사기 여부를 직접 판단하지는 않으며, 위험 신호가 감지되면 별도 연락이나 질문을 통해 사용자가 신원을 확인하도록 지원함
- 특히 이 기술은 영상과 음성 데이터를 외부 서버로 전송하지 않고 고성능 노트북에서 로컬로 실시간 분석할 수 있다는 장점이 있음
실제 화상회의 환경을 학습한 AI
- 연구진은 실시간 탐지 효율이 높은 머신러닝을 활용해 AI가 실제 데이터와 딥페이크의 차이를 자체 구별하도록 학습시킴
- 음성 탐지 학습에는 공개 데이터셋을 활용해 약 1만 9,000개의 실제 녹음과 16만 개의 조작 음성을 사용함
- 특히 화상회의 환경의 압축·화질 변화·흐림 효과 등을 반영한 데이터 증강 기법을 적용하여 실전 탐지 성능을 유지함
기술과 함께 ‘이중 확인’ 절차도 중요
- 현재 시스템은 개념증명(PoC) 단계로, 화상회의 플랫폼과 실전 검증을 추진하고 개인정보 보호 등 법적 쟁점도 검토할 계획임
- 연구진은 딥페이크 위험 대응을 위해 AI 탐지 외에도 암호화, 추가 인증, 다중 채널(전화 등)을 통한 교차 확인 절차 병행의 필요성을 강조함
