CCTV 영상도 AI 조작 가능? 보안 강화 필요

최근 생성형 인공지능(AI)과 딥페이크 기술의 발달로 인해 CCTV 영상까지 정교하게 조작할 수 있는 상황에 직면했습니다. 이에 따라, 촬영 단계부터 영상의 출처와 위변조 여부를 확인하는 국제 표준화가 추진되고 있습니다. 글로벌 영상보안 표준단체 온비프(ONVIF)는 올해 연말까지 CCTV 영상 생성 단계에서 암호학적 서명을 적용하는 '미디어 사이닝 애드온(Media Signing Add-on)' 표준화를 목표로 하고 있습니다. 이는 IP카메라나 영상 인코더가 영상을 만드는 순간 암호학적 서명 정보를 함께 넣어, 이후 영상관리시스템(VMS)이나 검증 도구가 서명을 확인할 수 있도록 하는 것입니다.

온비프의 표준화 추진 배경에는 생성형 AI의 확산이 있습니다. 생성형 AI를 이용하면 촬영 날짜와 시간을 바꾸거나 특정 장면을 삭제하고, 영상 속 얼굴을 다른 사람으로 교체하는 등 육안으로 알아채기 어려운 조작이 가능해지고 있습니다. 이러한 기술적 발전은 범죄 수사, 재판, 기업 내부조사, 보험 청구 등에서 CCTV 영상이 증거로 활용되는 만큼 영상의 출처와 촬영 이후 변경 여부를 확인할 필요성을 더욱 강조하고 있습니다.

실제로 딥페이크 보안기업 겟리얼 시큐리티는 구글 'Veo 3'와 제미나이, 챗GPT, 캔바 등을 이용해 가정용 CCTV처럼 보이는 가짜 영상을 제작한 사례를 확인했습니다. 이는 CCTV 보안이 해킹이나 영상 유출을 막는 데서 나아가 영상 자체의 출처와 원본성을 확인하는 영역으로 확대되고 있음을 보여줍니다. 온비프는 연말에 미디어 사이닝 애드온 최종 규격을 확정할 예정입니다.