이미지를 무기로 쓴 청소년 딥페이크 범죄 급증

딥페이크가 위험한 이유는 기술이 쉬워지면서 진짜와 가짜의 경계가 무너졌다는 데 있습니다.

작동 원리는 두 단계입니다. 먼저 AI가 특정 인물의 사진 여러 장에서 얼굴의 생김새를 학습합니다. 그다음 디퓨전 모델이 그 얼굴을 다른 영상에 자연스럽게 합성합니다. 예전에는 전문 기술이 필요했지만, 지금은 사진 몇 장과 자동화 프로그램만으로 누구나 만들 수 있습니다. 한 중학생이 가짜 영상 590개를 찍어낸 일이 이 문턱이 얼마나 낮아졌는지를 보여 줍니다.

윤리 쟁점의 핵심은 초상권과 인격권 침해입니다. 합성된 사람은 자기가 하지 않은 행동을 한 것처럼 꾸며져, 명예와 존엄이 무너집니다. 더 어려운 문제는 누구에게 책임을 묻느냐입니다. 만든 사람만이 아니라, 그 영상이 퍼지는 통로인 플랫폼이 단순 전달자에 머물 수 있는지가 플랫폼 책임의 쟁점입니다. 이미지를 다루는 기술이 곧 누군가의 권리를 해치는 도구가 될 수 있다는 점이, 이미지를 만드는 사람의 윤리를 묻게 합니다.