‘성범죄 영상’, AI기술로 6분 만에 찾아 삭제 요청까지

[앵커]

불법 성 착취물 관련 범죄가 끊이지 않고 있지만, 피해자의 상당수는 아동·청소년들이라 제대로 된 대처를 못하는 경우가 적지 않습니다.

서울시가 인공지능, AI 기술을 이용해 성착취 영상을 빠르게 찾고 신고까지 자동으로 하는 시스템을 도입했습니다.

김하은 기자입니다.

[리포트]

'당신의 딥페이크 영상이 유포되고 있다'며 여성들에게 접근한 뒤, 신체 사진을 요구해 오히려 성 착취물을 만들었다 적발된 10대 남학생.

피해자 가운데 19명은 10대 여학생이었는데, 대부분 유포가 두려워 제대로 대응하지 못했습니다.

이번에 도입된 기술의 핵심은 유포되는 성 착취물을 AI를 이용해 실시간 모니터링하고, 적발될 경우 자동으로 신고까지 해 주는 겁니다.

2년 전 도입된 24시간 모니터링 시스템에 더해, 향후 사법절차에 필요한 채증, 삭제 신고까지 AI가 하도록 기능을 개선한 겁니다.

이 신기술 도입으로 사람이 할 때 2~3시간씩 필요했던 작업을 6분 만에 마무리할 수 있게 됐습니다.

[김준철/서울연구원 연구위원 : "좀 더 의미 있는 데이터들을 빠르게 수집하고 더 정밀하고 선제적으로 대응을 빠르게 할 수 있는…."]

관련 사이트 대부분이 해외에 서버를 두고 있는 점을 감안해, 영어, 중국어 등 7개 국어로 신고 메일을 생성하는 기능까지 마련됐습니다.

다만 해외 사이트에 삭제 조치를 강제할 수 없다는 점은 한계로 지적됩니다.

[천주환/서울시 양성평등담당관 : "현재 가장 많은 불법 영상 올라오는 데가 미국이나 베트남, 인도네시아 이런 데인데요. 전기통신법이 국내에 한한 법이라서 해외까지는 적용이 안 되고 있고요."]

서울시는 AI 기술 도입 이후 삭제 신고 건수가 6배 가량 늘어났다며, 도움이 필요한 경우 즉시 디지털성범죄 안심지원센터로 알려달라고 당부했습니다.

KBS 뉴스 김하은입니다.

촬영기자:최원석/영상편집:서윤지