▲ 인공지능(AI) 기술을 활용한 이미지 합성으로 손쉽게 음란물을 만드는 '딥페이크' 성착취물 피해 사례가 도내에서도 발생한 것으로 확인된 가운데 전북교육청과 방송통신심의위원회(이하 방통심의위)가 14일 호남지역에서 처음으로 피해구제 및 대응을 골자로 업무협약을 체결했다. / 사진제공 = 전북특별자치도교육청  © 박동일 기자

▲ 서거석(오른쪽) 전북교육감이 업무협약에 앞서 "학교 현장은 최근 딥페이크 등 디지털 기술을 악용한 성범죄로 큰 위협을 받고 있다"며 "이번 협약 체결이 디지털 성범죄 피해 확산을 방지하는 등 딥페이크 영상물 피해 최소화에 중요한 역할을 할 것으로 기대한다"는 환담을 나누고 있다. / 사진제공 = 전북특별자치도교육청   © 박동일 기자

인공지능(AI) 기술을 활용한 이미지 합성으로 손쉽게 음란물을 만드는 '딥페이크' 성착취물 피해 사례가 도내에서도 발생한 것으로 확인된 가운데 전북교육청과 방송통신심의위원회(이하 방통심의위)가 손을 맞잡았다.

전북특별자치도교육청은 14일 방통심의위와 피해 구제 및 대응을 골자로 업무협약을 체결했다.

이날 협약은 딥페이크 등 디지털 성범죄 영상물로부터 도내 학생들의 안전을 보호하고 디지털 성범죄 피해자의 신속한 구제를 위해 협력 강화를 위해 호남지역에서는 처음으로 체결됐다.

특히 학교 딥페이크 성범죄 문제의 심각성을 인식하고 '학교 딥페이크 성범죄 대응 TF팀'을 운영하고 있는 전북교육청과 방통심의위의 적극적인 대응 의지가 담겼다.

양 기관은 협약에 따라 ▲ 딥페이크 불법 피해 영상물이 24시간 이내에 신속하게 삭제될 수 있도록 전북교육청 딥페이크 원스톱 신고센터와 간 핫라인을 구축한다.

또 ▲ 올바른 미디어 이용 환경 조성을 위한 캠페인 및 교육 프로그램 운영을 비롯 공동 홍보ㆍ예방 활동 ▲ 아동과 청소년이 안전하고 건전하게 인터넷 정보를 이용하고 디지털 성범죄로부터 보호받을 수 있도록 디지털 성범죄 전용 신고 배너(1377)를 홍보한다.

아동ㆍ청소년 유해사이트 자동 차단 프로그램(그린i-Net) 안내 배너 설치 및 보급에도 힘쓴다.

서거석 전북교육감은 "학교 현장은 최근 딥페이크 등 디지털 기술을 악용한 성범죄로 큰 위협을 받고 있다"며 "이번 협약 체결이 디지털 성범죄 피해 확산을 방지하는 등 딥페이크 영상물 피해 최소화에 중요한 역할을 할 것으로 기대한다"고 말했다.

류희림 방통심의위원장은 "정보통신기술 발전으로 영상물 제작과 편집이 일상에서 손쉽게 이뤄지면서 딥페이크 등 성범죄 영상물이 폭증하는 상황"이라며 "전북교육청과 피해 영상물 삭제 및 교육ㆍ홍보 등 공동협력 강화에 최선을 다하겠다"고 화답했다.

한편, 전북교육청은 ▲ 학교로 찾아가는 디지털 성폭력 예방 교육 ▲ 디지털 성폭력 예방 및 피해 대응 교육 자료 개발 및 배포 ▲ 학생 대상 디지털 윤리 및 시민교육 강화 등 다양한 정책을 추진하고 있다.

전북경찰청에 따르면 지난 3년(2021~2023년)간 도내지역 딥페이크 관련, 불법 성영상물 발생 건수는 2021년 9건ㆍ2022년 6건ㆍ2023년 1건ㆍ올해 1월부터 7월까지 24건이 발생한 것으로 집계됐다.

☞ 아래는 위 기사를 구글 번역이 번역한 영문 기사의 '전문' 입니다.

구글 번역은 이해도를 높이기 위해 노력하고 있으며 영문 번역에 오류가 있음을 전제로 합니다.

【Below is the 'full text' of the English article translated by Google Translate.

Google Translate is working hard to improve understanding, and assumes that there are errors in the English translation.】

Jeonbuk Office of Education - Korea Communications Standards Commission 'Business Agreement' concluded

Support for deletion of deepfake videos and rapid damage relief

Reporter Park Dong-il

As it was confirmed that cases of damage to 'deepfake' sexual exploitation, which easily creates pornography by combining images using artificial intelligence (AI) technology, have occurred in the province, the Jeonbuk Office of Education and the Korea Communications Standards Commission (hereinafter referred to as the Korea Communications Standards Commission) joined hands. .

The Jeonbuk Special Self-Governing Provincial Office of Education signed a business agreement with the Korea Communications Standards Commission on the 14th, focusing on relief and response to damage.

This agreement was signed for the first time in the Honam region to protect the safety of students in the province from digital sex crime videos such as deepfakes and to strengthen cooperation to provide prompt relief to victims of digital sex crimes.

In particular, the Jeonbuk Office of Education and the Korea Communications Standards Commission, which recognize the seriousness of the problem of school deepfake sex crimes and are running the 'School Deepfake Sex Crime Response TF Team', expressed their will to actively respond.

According to the agreement, the two organizations will establish a hotline with the Jeonbuk Office of Education's Deepfake One-Stop Reporting Center so that illegal deepfake videos can be quickly deleted within 24 hours.

In addition, ▲ joint promotion and prevention activities, including the operation of campaigns and educational programs to create an environment for proper media use ▲ a reporting banner(1377) dedicated to digital sex crimes so that children and adolescents can use Internet information in a safe and sound manner and be protected from digital sex crimes Promote.

We will also strive to install and distribute information banners for the automatic blocking program for harmful sites for children and teenagers(Green i-Net).

Jeonbuk Superintendent of Education Seo Geo-seok said, "School settings have recently been under great threat from sex crimes abusing digital technologies such as deepfakes," and added, "The signing of this agreement will play an important role in minimizing the damage from deepfake videos, including preventing the spread of damage from digital sex crimes." "I look forward to it," he said.

Ryu Hee-rim, Chairman of the Korea Communications Standards Commission, said, "With the development of information and communication technology, video production and editing are becoming easier in everyday life, and the number of sexual crime videos such as deepfakes is increasing rapidly." He added, "We will do our best to strengthen joint cooperation with the Jeonbuk Office of Education, including the deletion of damaging videos and education and promotion." "I will do my best," he responded.

Meanwhile, the Jeonbuk Office of Education is pursuing various policies, including ▲ digital sexual violence prevention education to schools, ▲ developing and distributing educational materials for digital sexual violence prevention and response to damage, and ▲ strengthening digital ethics and civic education for students.

According to the Jeonbuk Police Agency, over the past three years (2021-2023), the number of illegal sexual videos related to deepfakes in the province has been 9 cases in 2021, 6 cases in 2022, 1 case in 2023, and 24 cases from January to July of this year. It is calculated that it occurred.