[아시아경제 차민영 기자] 올해 1월부터 3월까지 메신저로 구매자들에게 제작을 의뢰받은 A씨는 70여명의 연예인과 일반인의 불법 합성물을 딥페이크 기술로 제작, 판매하다가 검거됐다.
딥페이크는 인공지능(AI) 기술을 악용해 가짜 음란영상을 만들어 매매하거나 피해자를 협박하는 신종 범죄다.

작년 딥페이크 성적 허위영상물 제작·배포를 금지하는 '성폭력범죄의 처벌 등에 관한 특례법'이 마련됐지만 올 들어 딥페이크 범죄만 1400건 넘게 발생한 것으로 확인됐다.
현실적으로 기술을 저지할 수단이 제한적인 만큼 지능정보기술 관련 법 제도 개선이 필요하다는 목소리도 나오고 있다.

27일 과학기술정보방송통신위원회 김상희 국회부의장이 방송통신심의위원회에서 제출받은 자료에 따르면 '딥페이크 성적 허위영상' 차단·삭제 건수는 작년 6월 25일 이후 12월까지 548건에서 올해 1월부터 9월 24일까지 1408건으로 2.5배 이상 증가했다.
월평균 건수도 약 91건에서 156건으로 1.7배 늘었다.
딥페이크 성적 허위영상물의 제작·배포를 금지하는 성폭력범죄처벌법이 작년 6월 25일부터 시행됐지만 범죄 건수는 더 늘어난 상황이다.

김 부의장이 경찰청으로부터 제출받은 딥페이크 범죄 내용을 살펴보니 소셜네트워크서비스(SNS)와 채팅 메신저로 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 딥페이크로 성적 허위 영상물을 제작해 판매·유포하는 것으로 드러났다.
AI로 이질감 없는 영상을 만들기 때문에 확실히 단속하지 못한다면 다크웹 등으로 퍼져나가 '제2 N번방 사건'이 될 가능성도 존재한다.

이에 AI를 포함한 지능정보기술을 악용한 범죄 피해를 막기 위해서는 기술 규제가 강화돼야 한다는 지적이 나오고 있다.
현행 '지능정보화 기본법' 제31조와 제60조에 따르면 지능정보기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고 필요하다면 국가가 그 기술을 비상 정지하게 돼 있다.
하지만 현재까지 AI 등 지능정보 기술이 사람의 생명 또는 신체에 대한 긴급한 위해를 야기하는 등 규정을 위배하는 사례가 없어 해당 법이 적용된 사례는 전무하다.

김상희 부의장은 "현행법에는 AI를 악용해 심각한 정신적, 금전적 피해를 주는 것에 대한 규정이 없다"며 "AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다"고 주장했다.

이어 "미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다"며 "AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련하여 더 이상 AI 범죄로 고통받는 국민이 없도록 노력하겠다"고 강조했다.