가용 역량 총동원해 위법행위에 신속하고 엄정하게 대응
ⓒ 데일리중앙
[데일리중앙 송정은 기자] 중앙선관위는 공직선거법 개정으로 딥페이크영상등을 이용한 선거운동이 금지됨에 따라 위법 행위 예방·단속 종합대책을 마련해 18일 발표했다.
인공지능 등 정교한 기술로 만들어진 딥페이크영상이 선거운동에 활용되는 경우 유권자의 정확한 판단을 방해할 가능성이 크다.
이에 중앙선관위는 딥페이크영상등 관련 법규운용기준을 마련하고 가용 역량을 총동원해 위법 행위에 신속하고 엄정하게 대응할 방침이다.
누구든지 선거일 전 90일부터(공직선거법 부칙에 따라 1월 29일부터 시행)는 선거운동을 위해 인공지능 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등('딥페이크영상등')을 제작·편집·유포·상영·게시할 수 없다.
포토샵·그림판과 같이 인공지능 기술 등을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용하는 것은 제한되지 않는다. 그러나 고급·전문가버전 등 인공지능 기술을 활용한 기능이 포함된 프로그램으로 만든 음향·이미지·영상은 제한 대상이 될 수 있다.
참고로 공직선거법 제82조의8(딥페이크영상등을 이용한 선거운동) ①은 '누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하 '딥페이크영상등'이라 한다)을 제작·편집·유포·상영 또는 게시하는 행위를 해서는 안 된다'고 규정하고 있다.
선거일 전 90일부터 선거일까지 공직선거법 제90조, 제93조 등 공직선거법을 위반하지 않는 범위에서 의정활동 보고, 통상적인 정당 활동, 당내 경선 운동, 투표 참여 권유 활동에 딥페이크영상등을 이용할 수 있다.
다만 이를 계기로 딥페이크영상등을 이용해 사실상 선거운동을 하는 경우에는 법에 위반될 수 있다.
중앙선관위는 인공지능 기술 발전에 따른 초유의 단속 환경에 효과적으로 대응하기 위해 가용 역량을 총동원한다. 현재의 불완전한 감별기술 수준 등을 감안해 감별의 신뢰도를 높이고 효과적 인지 및 신속한 조치를 위한 단속 방안을 마련했다.
이미 지난 1월 11일부터 AI(인공지능) 모니터링 전담요원과 AI 전문가로 구성된 감별반 등을 확대 편성·운영하는 등 대응 준비를 마쳤다.
기술적 한계를 보완하기 위해 시각적 탐지, 범용 프로그램 활용, AI 자문위원 감별 등 3단계 감별을 통해 신뢰도를 높인다. 또한 포털·커뮤니티사이트 초기화면에 신고·제보 배너를 게시하는 등 AI콘텐츠가 선거운동에 활용되는지 여부를 집중 감시한다.
언론 보도, 포털·SNS사와의 업무 협조를 통해 유권자와 정당·입후보 예정자를 대상으로 운용 기준을 적극 안내하고 악의적·조직적 제작·유포 행위에 대해 엄중 조사·조치할 계획이다.
포털 및 AI 플랫폼 관계사 등과 긴밀한 협조를 통해 위법성이 의심되는 AI 콘텐츠는 선제적으로 삭제 조치하고 삭제 요청에 불응하는 경우 과태료 등을 적극 부과할 방침이다. 특히 선거일이 임박한 시기에는 불법 AI 콘텐츠에 대한 조치 수준을 최대한으로 높여 대응한다.
또한 AI 댓글 자동 생성 프로그램 등을 이용한 댓글 자동 게시의 경우 사회 전체 여론을 왜곡하고 업무방해죄 등에도 해당될 수 있어 데이터 분석 등을 통해 의심 사례를 발견하면 수사기관에 신속히 통보할 예정이다.
중앙선관위는 기술의 발달로 실제와 구분하기 어려운 가상의 영상을 누구나 쉽게 만들 수 있는 상황이 된 만큼 유권자들도 선거공보나 후보자토론회 등 공식 선거운동 방법과 신뢰성 있는 언론 매체 등을 통해 종합적으로 후보자의 자질과 공약을 따져 볼 것을 당부했다.
송정은 기자 shyeol@dailiang.co.kr
