생성형 인공지능(AI)의 발전이 인간의 창작과 연구, 산업 전반의 효율성을 높이는 가운데 기술을 악용한 범죄 역시 새로운 형태로 진화하고 있다. 최근 서울에서 한 대학원생이 연구실 동료 여성들의 얼굴을 AI로 합성해 다수의 음란물을 제작한 혐의로 재판에 넘겨진 사건은 이러한 현실을 보여주는 사례다. 사건 자료에 따르면 중국 국적의 대학원생 A씨는 약 6개월 동안 연구실 동료 여성 7명을 대상으로 딥페이크 성착취물 1141개를 제작한 혐의를 받고 있으며 검찰은 징역 3년을 구형했다. 선고기일은 오는 9월 10일로 예정돼 있다.
이번 사건에서 특히 주목되는 부분은 단순히 AI를 이용해 성적 이미지를 제작했다는 사실에 그치지 않는다. 수사 과정에서 A씨가 생성형 AI 서비스의 안전장치를 우회하는 방법을 검색한 정황이 확인됐다는 점이다. 이는 생성형 AI 서비스가 자체적으로 마련한 안전장치만으로는 악의적인 사용자의 지속적인 우회 시도를 완전히 차단하기 어려울 수 있다는 현실을 보여주는 대목이다. 생성형 AI가 텍스트와 이미지, 영상 등을 손쉽게 생성할 수 있는 수준으로 발전하면서 과거 일부 전문가에게 국한됐던 디지털 합성 기술의 접근성이 크게 낮아진 것도 배경으로 지목된다. 특히 딥페이크 기술은 실제 인물의 얼굴이나 신체적 특징을 다른 이미지와 결합할 수 있어 피해자가 자신의 의사와 관계없이 성적 콘텐츠의 등장인물이 되는 위험을 안고 있다.
이번 사건의 피해자는 연구실에서 함께 생활하거나 연구했던 여성 동료 7명으로 알려졌다. 제작된 콘텐츠는 총 1141개에 이르는 것으로 조사됐으며, 피고인 측은 공소사실을 모두 인정하고 반성하고 있다는 입장이다. 또한 피해자 7명에게 각각 700만원씩 모두 4900만원을 공탁한 것으로 알려졌다.
반면 피해자 측은 합의 의사가 없으며 공탁금 수령도 거부한 채 엄벌을 요구하고 있는 상황이다. 피고인 측은 제작물이 외부에 유포되지 않고 개인 컴퓨터에 저장돼 있었다는 점을 주장하고 있는 것으로 전해졌다. 그러나 피해자 입장에서는 자신의 얼굴이 동의 없이 성적 이미지에 사용됐다는 사실 자체가 심각한 정신적 피해로 이어질 수 있다는 점에서 유포 여부만으로 피해의 정도를 판단하기 어렵다는 지적이 가능하다.
이 사건은 AI 범죄의 특징 가운데 하나인 ‘실물 없는 피해’의 확산이라는 문제도 보여준다. 과거의 디지털 성범죄는 촬영과 유포가 주요 수단이었다면, 생성형 AI 시대에는 실제 성적 행위나 촬영물이 존재하지 않아도 특정인의 얼굴을 이용해 허위 성착취물을 만들어낼 수 있다. 피해자가 실제로 촬영된 적이 없더라도 주변 사람들이 해당 이미지를 진짜라고 인식할 가능성이 있고, 이미지가 온라인에 유포될 경우 삭제 이후에도 복제와 재유통을 막기 어려운 문제가 발생할 수 있다.
더 큰 문제는 기술 발전 속도와 제도적 대응 속도의 차이다. 생성형 AI 모델은 짧은 기간에도 이미지와 영상 생성 능력을 고도화하고 있지만 법률과 수사 체계, 플랫폼의 안전정책, 교육기관의 대응체계는 기술 변화에 맞춰 지속적으로 보완해야 하는 상황이다. AI 기술이 새로운 범죄 수단으로 사용될 때마다 사후 처벌만 강화하는 방식으로는 한계가 있다는 지적이 나오는 이유다.
한편 딥페이크 범죄는 실제 촬영물이 존재하지 않아도 피해자를 만들어낼 수 있다는 점에서 기존 디지털 성범죄와 다른 대응체계를 요구하고 있다. 관련 전문가들은 기술의 발전을 막는 방식보다 기술이 악용되는 지점을 정확히 찾아내고, 플랫폼의 안전장치와 수사기관의 대응 능력, 피해자 보호제도, 교육기관의 예방체계를 함께 강화하는 접근이 필요하다고 조언하고있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}