서울시 'AI 디지털 성범죄 삭제지원', 정부혁신 우수사례 대통령상‘대상’수상
- 서울시, 전국 최초 ‘디지털 성범죄 AI 삭제지원 프로그램’ 총 533건 중 1위 ‘대상’ 수상
- AI 도입 후 45만건 모니터링, 피해영상 검출시간 97.5% 단축…삭제지원도 2배로 증가 ↑
- 24년 UN공공행정상 신청, ‘AI 기반 아동‧청소년 피해 영상물 삭제지원’ 도 개발 주력
- AI 도입 후 45만건 모니터링, 피해영상 검출시간 97.5% 단축…삭제지원도 2배로 증가 ↑
- 24년 UN공공행정상 신청, ‘AI 기반 아동‧청소년 피해 영상물 삭제지원’ 도 개발 주력
□ 서울시가 ‘전국 최초, 디지털 성범죄 AI 삭제지원 프로그램’ 으로 행정안전부가 개최한 ‘2023 정부혁신 우수사례 경진대회’에서 대통령상 ‘대상’을 수상했다고 밝혔다.
□ 매년 정부혁신 우수사례를 발굴하여 범정부적으로 공유·확산하는 이번 경진대회에는 전 행정기관(중앙부처·자치단체·교육청) 및 공공기관 등에서 제출한 533건의 정부혁신 우수사례가 접수됐다.
□ 이 중 전문가심사와 2만1천명이 참여하는 온라인 국민심사 등 1, 2차 예선을 거쳐 총 13건이 본선에 진출했으며, 지난 11월 15일 3차 경진대회를 개최하여 최종 순위를 결정하였다.
□ 정부혁신 경진대회에는 전문가(10명)‧국민평가단(100명)이 참여하여 대상 1점(대통령상)과 금상 5점(대통령상), 은상 7점(국무총리상)을 선정하였으며, 서울시는 ‘디지털 성범죄 AI 삭제지원 프로그램’으로 최종 ‘대상’ 의 영예를 안았다.
□ 서울시 ‘디지털 성범죄 AI 삭제지원 프로그램’ 은 인공지능(AI) 기술이 24시간 실시간 모니터링을 통해 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는 시스템이다.
○ 서울시와 서울연구원은 22년도 7월 프로그램 개발에 착수, 올해 3월 프로그램 개발을 완료했다.
□ AI가 기존 피해 영상물의 삭제지원에 비해 보다 빠르고 정확하게 삭제지원을 할 수 있다는 점, 이를 통해 피해자의 고통을 줄이고 일상회복을 지원할 수 있어 기존의 디지털 성범죄의 가장 고질적인 문제를 해결할 수 있다는 점에서 높은 평가를 받았다.
□ 서울시는 ‘서울 디지털 성범죄 안심지원센터(서울시여성가족재단 운영)’를 통해 AI를 도입한 지 7개월 만에 총 45만 건의 영상물을 모니터링하였으며 이는 AI 도입 전 사람(삭제지원관)이 직접 모니터링했을 때와 비교하면(3만3,511건, '22.3.29~10.31) 무려 1,265%나 상승한 규모다.
○ 또한 키워드 입력부터 영상물 검출까지 사람이 직접 했을 때는 평균 2시간이 소요됐던 것에 비해, AI 기술은 3분이 소요돼 검출시간이 97.5%가 단축되어 피해영상물 삭제지원 역시 2배로 늘었다.
□ 서울시는 인공지능(AI) 기술 도입과 함께 아동‧청소년 피해 예방에 주력할 계획이다. 최근 아동‧청소년을 대상으로 한 디지털 성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고 없이 온라인 상에서 유포되는 피해 영상물이 많은 데 따른 것이다.
○ 본인이 삭제를 요청해야 삭제지원이 가능한 성인과 달리, 아동‧청소년은 ｢아동·청소년의 성보호에 관한 법률｣ 등에 따라 당사자나 부모님의 신고 없이도 즉시 삭제가 가능한 만큼, 인공지능(AI) 추적‧감시를 통해 디지털성범죄 피해 예방에 선제적으로 나선다.
□ 하지만 아동‧청소년 피해 영상물이 성인의 영상과 잘 구분되지 않아 삭제지원에 어려움이 있다는 점에 착안하여 서울연구원과 함께 내년 상반기를 목표로 ‘AI 기반 아동‧청소년 피해 영상물 삭제지원 프로그램’도 개발 중에 있다.
○ ‘AI 기반 아동‧청소년 삭제지원 프로그램’은 아동‧청소년 피해 영상물의 얼굴 및 배경 사물(객체) 인식뿐만 아니라, 아동‧청소년 연관 게시글을 종합 분석하여 성별, 나이 등을 예측하는 모델로 프로그램이 개발되면 아동‧청소년 선제적 삭제지원에 큰 도움이 될 것으로 기대된다.
□ 서울시는 ‘디지털 성범죄 AI 삭제지원 프로그램’ 개발 뿐 아니라 ‘서울 디지털 성범죄 안심지원센터’ 운영 등 예방부터 재발방지에 이르는 ‘디지털 성범죄 통합대응정책’을 국내 뿐 아니라 해외에 확산‧전파하기 위해 2024 UN공공행정상(UNPSA)에도 본 사업을 응모‧제출하였다.
□ 김선순 서울시 여성가족정책실장은 “디지털 성범죄 삭제지원은 많은 분들이 가장 필요로 하는 지원이었다”며 “디지털 성범죄 AI 삭제지원과 같은 혁신기술을 통해 피해자의 고통을 경감하고, 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱지원을 통해 피해자 한 분 한 분이 빠르게 일상을 회복할 수 있도록 최선을 다하겠다” 고 말했다.