AI로 딥페이크 불법 영상 선별…내년 2월까지 분석 모델 개발

# 그동안 딥페이크 기술을 활용한 불법 영상이 증가해 국민의 피해가 커지고 있었으나, 고도의 합성 기술로 어느 영상이 가짜 영상인지 판별하는 데 어려움을 겪었다. 

# 이에 행정안전부는 국립과학수사연구원과 함께 영상물 조작 여부를 영상 및 음성 종합 분석으로 탐지하는 모델을 개발한다. 개발된 모델로 관련 범죄에 신속하게 대응할 수 있게 되어 불법 콘텐츠에 대한 국민의 우려를 해소할 전망이다.

정부가 가짜뉴스, 디지털 성범죄 등 불법 합성 콘텐츠로 인한 피해 확산을 차단하고 사회적 손실을 최소화하기 위해 동영상의 딥페이크 적용 여부를 분석할 수 있는 모델을 개발한다.

행정안전부는 국민생활과 밀접한 사회문제를 해결하고, 정부 정책결정과 일하는 방식을 개선하기 위해 5개 분야 12건의 데이터 분석과제를 선정해 데이터 분석을 추진한다고 밝혔다.

이에 지난 8월부터 시작된 사전 준비 과정을 거쳐 내년 2월까지 심도 있는 데이터 분석과 AI 모델을 개발해 실제 업무 현장에서 활용할 방침이다. 

이번 데이터 분석은 ▲국민안전 2개 과제 ▲근로·복지 3개 과제 ▲국민건강 2개 과제 ▲국민편의 2개 과제 ▲일하는 방식 개선 3개 과제로 나뉘어 이뤄진다.

특히 올해 과제는 중앙부처, 지자체, 공공기관 대상 수요조사와 전문가 평가를 거쳐 국민안전, 근로·복지, 국민건강 등 국민 생활과 밀접한 주제를 우선 고려해 선정했다.

먼저 국민안전 분야에서 인공지능을 활용한 딥페이크 불법 콘텐츠 분석모델과 사업장 굴뚝 대기오염 배출 자동 탐지 지원 모델을 개발한다.

이에 AI로 딥페이크 불법 영상을 선별하고, 9억 개 주요 사업장 굴뚝의 대기오염물질 항목별 측정값과 유량 및 온도 등의 데이터를 활용한 탐지 모델도 만든다. 

이를 통해 그동안 육안으로 식별하던 대기오염 발생물질 배출 여부를 자동으로 선별할 수 있게 된다.

근로·복지 분야에서는 상병 및 요양데이터 등을 활용한 장해등급 예측 분석과 AI 기반 재해조사 분류 모델 개발, 에너지 바우처 사용 사각지대 발굴을 위한 빅데이터 분석을 추진한다.

이로써 증가하고 있는 산재 신청을 효율적으로 처리하기 위해 그동안의 데이터를 바탕으로 산재신청을 자동 분류하고, 신속한 처리를 지원하는 AI 기반 분류 모델을 만들어 업무에 활용할 계획이다.

또한 에너지 취약계층에 제공하는 에너지 바우처(구매이용권)를 잘 활용하지 못하는 사람을 위해 수급세대 정보 등의 빅데이터를 분석해 실질적이고 효과적인 에너지 바우처 지원방안을 찾는다.

국민건강 분야에서는 농작물 병해충 발생 및 위험도 예측과 식품안전 사각지대의 체계적 관리를 위한 점검대상 자동 추천 모델, 주요 질병별 의약품 품절 예측 지원모델 개발을 진행한다.

이 모델로 농작물 병해충 발생 위험도 예측이 이뤄지면 10년 동안의 병해충 발생 및 피해정보, 작물생육정보, 지역별 온도, 습도, 강우 등을 토대로 기상변화에 따른 병해충 발생 가능성과 그에 따른 위험도를 미리 알 수 있다.

아울러 해썹(HACCP) 인증 업체의 불시 점검을 위해 행정처분 이력 등을 기반으로 위생 점검대상을 자동 추천하는 분석 모델을 개발한다.

한편 의약품 수급 위험을 사전 예측해 의약품 공급 안정성을 확보하기 위한 주요 질병별 의약품 품절 예측 지원 모델도 개발할 예정이다. 

국민편의 분야에서는 보훈대상자의 등록심사 의사결정 지원모델 개발과 천안시 불법 주정차 최적 단속 경로 및 공영주차장 입지선정 분석이 이뤄진다.

특히 보훈심사 지원모델은 국가유공자 등록 및 보훈심사에 대한 불만족 민원과 보훈심사 결과서를 토대로 보훈대상자 등록심사 체계를 개선하는 내용이다.

일하는 방식 개선 분야에서는 인구감소지역 맞춤형 정책수립 지원을 위한 빅데이터 분석과 범정부 행정정보시스템 장애예측 모델 개발을 진행할 계획이다. 

행안부는 그동안 보이스피싱 음성분석 모델과 대중교통 하차승객 인원추정 등 158종의 데이터 분석을 수행해 실제 분석 모델을 보이스피싱 조직 검거에 활용하는 등 국민불편과 사회이슈를 해결한 바 있는데, 이번 12개 분석과제도 각 기관 및 전문가와 협업해 실효성 높은 분석 모델 개발을 지원하며, 이 모델들이 다양한 기관에서 활용될 수 있도록 지속적으로 관리할 방침이다. 

배일권 행안부 공공데이터국장은 “앞으로도 생활과 밀접한 다양한 분야에서 AI 기반의 과학적 데이터 분석을 확대해 나갈 예정”이라며 “데이터 분석의 질을 높여 체감할 수 있는 공공서비스 개선이 이뤄질 수 있게 하겠다”고 강조했다.

문의 : 행정안전부 디지털정부혁신실 통합데이터분석센터(044-205-2289)