[정치] AI 악용하여 가짜 음란물 만드는 딥페이크, 단속 2년 만에 2.5배 증가!

- AI, 범죄 악용되더라도 생명이나 신체에 위해를 줘야 기술 중지 가능... 정신적·금전적 피해 심각하다면 기술 사용 중지 가능할 수 있도록 제도개선 시급

- 김상희 부의장, “미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 해”

인공지능(AI) 기술의 발달은 인간의 삶의 질을 한 단계 높일 뿐만 아니라 실종아동과 치매 환자를 추적하고 불법 촬영물을 인공지능이 찾아 삭제ߴ차단하는 등 범죄 예방의 기능도 있다. 하지만 최근 AI 기술이 불법적인 범죄에 악용되고 있어 대책 마련이 시급하다.

특히, AI를 악용한 범죄 중 딥페이크(Deepfake) 불법 영상물에 대한 우려의 목소리가 지속적으로 나오고 있는 상황이다. 딥페이크란 심층학습(Deep Learning)과 가짜(Fake)의 합성어로 AI를 이용해 가짜 영상을 만들어내는 기술이다.

최근 딥페이크 기술로 타인 얼굴 사진을 도용하여 음란물 영상에 합성하여 이를 유포하겠다고 협박해 금전을 요구하는 범죄가 기승을 부리고 있다. 해외에서도 딥페이크를 악용해 “회사 고위 임원 목소리를 모방해 거액을 송금토록 속이고”, “친구 얼굴을 모방해 실제 영상통화를 한 후 돈을 빌려 달라는 범죄”도 발생하여 범죄 피해 예방을 위해 각별한 주의가 필요한 때이다.

이러한 ‘딥페이크 성적 허위영상물’의 제작 및 반포 행위를 금지하기 위해 2020년 3월에 「성폭력범죄의 처벌 등에 관한 특례법」이 국회 본회의를 통과하여 2020년 6월 25일부터 시행되었다. 하지만, 딥페이크의 범죄가 근절될 것이라는 예상과 달리 그 수법은 진화하고 차단ߴ삭제 건수도 증가하고 있다.

 김상희 국회부의장(과학기술정보방송통신위원회, 경기 부천병)이 방송통신심의위원회에서 제출받은 자료에 따르면 2020년 6월부터 단속이 시작된 ‘딥페이크 성적 허위영상’ 차단ߴ삭제 건수는 12월까지 548건에서 올해 1월부터 9월까지 1,408건으로 2.5배 이상 증가했다.

또한, 김 부의장이 경찰청으로부터 제출받은 딥페이크 범죄 내용을 살펴보니 SNS와 채팅 메신저로 일반인과 연예인 등 피해자들의 사진과 개인정보를 받아 딥페이크로 ‘성적 허위 영상물’을 제작하여 판매 및 유포하는 것으로 드러났다. 피해자의 사진만 가지고 AI로 이질감 없이 영상을 만들기 때문에 확실히 단속하지 못한다면 다크웹 등으로 퍼져나가 ‘제2의 N번방 사건’이 될 가능성도 높다.

<경찰청 딥페이크 집중 단속 주요 사례>

① 2019년 10월부터 2021년1월까지 A씨는 SNS로 의뢰받은 23명의 여성의 개인정보와 사진을 딥페이크로 제작·유포하여 검거(전북)

② 2020년6월부터7월까지B씨와 C씨는 연예인 150여 명의 얼굴을 딥페이크로 타인의 신체 사진과 합성·판매하여 검거(부산)

③ 2021년1월부터 3월까지 메신저로 구매자들에게 제작을 의뢰받은 D씨는 70여 명의 연예인, 일반인의 불법합성물을 딥페이크로 제작‧판매하여 검거 (대전)

AI를 포함한 지능정보기술을 악용한 범죄의 피해를 막기 위해서는 기술에 대한 규제가 필요하다는 지적이 나오고 있다. 현행 「지능정보화 기본법」 제31조와 제60조에 따르면 지능정보기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고 필요하다면 국가가 그 기술을 비상 정지하게 되어있다.

하지만, 현재까지 AI 등 지능정보 기술이 사람의 생명 또는 신체에 대한 긴급한 위해를 야기하는 등 규정을 위배하는 사례가 없어 해당 법에 적용된 적은 단 한 번도 없다. 현재까지 AI가 인간의 생명과 신체에 위해를 가할 만큼 기술력이 발달하지 못했기 때문이라는 일부 지적이 있어 현실적이고 범죄를 막을 수 있는 개선책이 필요하다.

이에 김상희 부의장은 “현행법에는 AI를 악용하여 심각한 정신적, 금전적 피해를 주는 것에 대한 규정이 없다”며, “AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다”고 말했다.

김 부의장은 “미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다”며, “AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련하여 더 이상 AI 범죄로 고통받는 국민이 없도록 노력하겠다”고 강조했다.