▲ 서거석 전북교육감이 최근 인공지능(AI) 기술을 활용한 이미지 합성으로 손쉽게 음란물을 만드는 '딥페이크' 성착취물 피해 학교 명단이 사회관계망서비스(SNS)를 통해 확산되고 있는 것과 관련, 27일 관련 부서에 "사이버폭력에 대한 예방과 대응을 강화하라"고 긴급 지시하고 있다. / 사진제공 = 전북특별자치도 교육청   © 김현종 기자

 

 

 

최근 인공지능(AI) 기술을 활용한 이미지 합성으로 손쉽게 음란물을 만드는 '딥페이크' 성착취물 피해 학교 명단이 사회관계망서비스(SNS)를 통해 확산되고 있는 가운데 서거석 전북교육감이 "사이버폭력에 대한 예방과 대응을 강화하라"고 관련 부서에 긴급 지시했다.

 

서 교육감은 27일 "텔레그램 등 소셜미디어(SNS)에 당사자 동의 없이 타인의 사진이나 영상을 합성해 유포하는 딥페이크 사건이 확산하고 있다'는 소식을 접하고 민주시민교육관에 "이에 대한 예방과 대응 방안을 신속하게 마련하라"고 지시했다.

 

특히 "최근 발전하는 인공지능 기반 이미지 합성 기술을 오용한 학교폭력이 증가하고 있다"며 "사이버폭력 예방을 강화하는 동시에 학교폭력 사안 발생시 신속히 대응해 피해 학생 보호 및 가해 학생 선도에 최선을 다하겠다"고 밝혔다.

 

민주시민교육과는 서 교육감의 긴급 지시로 ▲ SNS에 유포 중인 도내 피해 현황 조사 및 적극 대응한다.

 

또 ▲ 학생 딥페이크 예방과 신고를 위한 가정통신문 및 문자 발송 ▲ 청소년 딥페이크 사이버범죄 예방을 위한 교육 영상 자료 제작 및 배포 ▲ 사이버폭력 예방(딥페이크) 교장ㆍ교감ㆍ생활교육 담당 교사 연수 등을 실시한다.

 

또한 경찰청 유관 부서 협의회 개최 등 대응 방안을 마련해 적극 대처한다는 방침이다.

 

전북교육청은 오는 29일부터 30일까지 2일간의 일정으로 도내 교장ㆍ교감ㆍ교사 등 2,500여 명을 대상으로 사이버폭력과 딥페이크 이해 및 예방 방안을 주제로 집중교육을 실시한다.

 

한편, 딥페이크(Deep Fake) 성범죄는 인공지능(AI) 기술을 활용해 인터넷에 떠도는 얼굴과 음란물을 합성한 가짜 영상물을 제작·유포하는 범죄를 의미한다.

 

딥페이크 음란물의 대상자가 ▲ 아동일 경우 = 아동ㆍ청소년의 성보호에 관한 법률(11조) ▲ 성인일 경우 = 성폭력범죄의 처벌 등에 관한 특례법(14조)에 의해 처벌받는다.

 

최근 수도권 한 대학 재학생과 졸업생이 타깃이 된 단체 대화방 운영자 등이 경찰에 붙잡혔다.

 

각종 온라인 커뮤니티에는 텔레그램 딥페이크 피해자 학교 명단이 게재됐다.

 

해당 명단에는 전국적으로 100여개가 넘는 피해 학생의 학교가 게재돼 있으며 대학 외에도 중ㆍ고등학교 수십 군데가 포함돼 있는 것으로 알려졌다.

 

이들은 '겹지인방(겹지방)'이라는 이름으로 참가자들이 같이 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작ㆍ유포하는 등의 방식으로 성희롱을 이어왔다.

 

전북경찰청도 해당 사실을 인지하고 전국적인 사안이 만큼, 예의 주시하고 있다.

 

무단으로 도용된 본인의 사진이 성적 수치심을 유발할 수 있는 형태로 합성돼 유포됐다면 디지털 성범죄 피해자 지원센터(디성센터)로 상담을 접수하면 된다.

 

☞ 아래는 위 기사를 구글 번역이 번역한 영문 기사의 '전문' 입니다.

구글 번역은 이해도를 높이기 위해 노력하고 있으며 영문 번역에 오류가 있음을 전제로 합니다.

【Below is the 'full text' of the English article translated by Google Translate.

Google Translate is working hard to improve understanding, and assumes that there are errors in the English translation.】

 

Seo Geo-seok, Jeonbuk Superintendent of Education, orders "counteract deepfakes"

Begin preparing measures such as investigating damage status and distributing educational materials

 

Reporter Kim Hyun-jongㆍKim Jong-jin

 

Recently, the list of schools that have been victims of 'deepfake' sexual exploitation, which easily creates pornography by combining images using artificial intelligence (AI) technology, is spreading through social networking services(SNS), and Jeonbuk Superintendent of Education Seo Geo-seok said, "Prevention of cyber violence. He urgently instructed the relevant departments to strengthen the response."

 

On the 27th, Superintendent Seo heard the news that "deepfake incidents, in which other people's photos or videos are synthesized and distributed on social media (SNS) such as Telegram, are spreading" and asked the Democratic Citizenship Education Center to "prevent and respond to this." "Come up with a plan quickly," he ordered.

 

In particular, he said, "School violence due to the misuse of the recently developed artificial intelligence-based image synthesis technology is increasing," and "We will do our best to protect victims and guide perpetrators by strengthening cyberbullying prevention and responding quickly to incidents of school violence when they occur." revealed.

 

Under Superintendent Seo's emergency order, the Democratic Citizenship Education Department investigates and actively responds to damage in the province that is being circulated on social media.

 

In addition, ▲ Sending home letters and text messages to prevent and report student deepfakes ▲ Producing and distributing educational video materials to prevent youth deepfake cybercrime ▲ Conducting cyberbullying prevention (deepfake) training for principals, vice principals, and teachers in charge of life education Do it.

 

In addition, the plan is to proactively respond by preparing response plans, such as holding a council meeting with related departments of the National Police Agency.

 

The Jeonbuk Office of Education will conduct intensive training on the topic of understanding and preventing cyberbullying and deepfakes for about 2,500 principals, vice principals, and teachers in the province over a two-day schedule from the 29th to the 30th.

 

Meanwhile, Deep Fake sexual crime refers to a crime that utilizes artificial intelligence (AI) technology to produce and distribute fake videos that combine faces and pornographic material floating around the Internet.

 

If the target of deepfake pornography is a child = the Act on Sexual Protection of Children and Adolescents (Article 11) ▲ if the subject is an adult = punished under the Special Act on Punishment of Sexual Crimes, etc.(Article 14).

 

Recently, the operator of a group chat room targeting students and graduates of a university in the metropolitan area was arrested by the police.

 

A list of schools that were victims of Telegram deepfake was posted on various online communities.

 

The list lists more than 100 schools of affected students nationwide, and is known to include dozens of middle and high schools in addition to universities.

 

Under the name of 'Gyeopjiinbang(Gyeopjibang)', they continued to sexually harass participants by sharing information about specific women they knew and producing and distributing deepfake videos.

 

The Jeonbuk Police Agency is also aware of this fact and is keeping a close eye on it as it is a nationwide issue.

 

If your photo has been stolen without permission and has been synthesized and distributed in a form that can cause sexual humiliation, you can contact the Digital Sex Crime Victim Support Center (Diseong Center) for consultation.