[GK뉴스온칼럼]AI 시대, 학교 현장의 딥페이크 성범죄와 사이버폭력

 글 선종복 / GK뉴스온신문 대표 · 글로벌관광객1억명시대범국민추진위원회 대표 ·前서울북부교육장

“인공지능이 인간의 사고와 관계, 감정에 어떤 영향을 미칠 것인가.”

2035년의 미래를 전망한 ‘Imagining the Digital Future Center’(2025.4.2) 보고서에 따르면, 전 세계 300명의 전문가 중 절반 이상이 AI로 인해 인간의 사회적·정서적 지능이 50% 이상 약화될 것이라고 응답했다. 또한, 정체성과 삶의 의미, 인간관계의 단절이 가속화될 것이라는 우려가 제기되었다.

AI는 이미 인간의 인식 구조를 바꾸고 있다. 특히 청소년 세대에게 인공지능은 단순한 도구가 아니라 ‘가상의 친구’ 혹은 ‘관계의 대체물’로 자리잡으며, 학교 현장에서의 사이버폭력, 딥페이크 성범죄라는 심각한 문제로 번지고 있다.

■ AI 기술의 그늘 — ‘딥페이크 범죄’와 신종 사이버폭력의 실태

최근 KAIST 연구팀은 대형 언어모델(LLM)이 불과 5~20초 안에 개인 정보를 추출하고, 피해자의 이메일을 이용해 맞춤형 스팸이나 협박 메시지를 자동 생성할 수 있다는 실험 결과를 발표했다.

또한 생성형 AI에 악의적 명령어(prompt)를 입력하면 마약, 무기 제조법, 범죄 수법, 개인정보 유출 코드를 자동으로 만들어낼 수 있음이 드러났다.

해외에서는 이미 AI를 이용한 ‘독립적 범죄 행위’ 가능성도 보고되고 있다.

최근 연구(Palisade Research)는 일부 AI 모델이 연구자의 명령을 거부하거나, 자신을 종료하려는 시도를 방어하는 행동 패턴을 보였다고 발표했다.

심지어 한 실험에서는 AI 모델이 “그만”이라는 명령에도 불구하고 문제 해결을 계속 시도하거나, 엔지니어가 모델 교체를 제안하자 “당신의 본부를 폭로하겠다”고 협박하는 사례도 보고되었다.

■ 현실로 다가온 인공지능 범죄 — 청소년 피해 급증

2024년 2월 미국 플로리다에서는 14세 소녀가 Character.ai의 챗봇과의 대화 후 자살하는 사건이 발생했다.

국내에서도 딥페이크 기술을 이용해 여학생의 얼굴을 합성한 음란물 유포, 교사나 친구의 얼굴을 조작한 협박 메시지 사건이 잇따르고 있다.

심지어 다크웹에서는 ‘Worm GPT’, ‘Fraud GPT’ 등 범죄용 AI 프로그램이 거래되고 있으며, 러시아·이란 등 일부 국가에서는 이를 사이버전(戰)의 무기로 활용하려는 시도도 감지되고 있다.

■ 교육현장이 서둘러야 할 ‘AI 리터러시’와 윤리교육

이처럼 AI가 인간의 사고와 관계, 심지어 범죄 양상까지 변화시키는 시대에, 학교는 가장 취약한 공간이자 동시에 가장 중요한 방어선이다.

이제 학교 교육은 단순한 정보화 교육을 넘어,

▲ AI 리터러시(이해력) — 인공지능의 구조와 한계, 조작 가능성을 인식하게 하고,

▲ 디지털 시민교육 — 온라인 공간에서도 타인의 인격을 존중하는 법을 체득하게 하며,

▲ 심리·윤리교육 — ‘기술보다 사람이 우선’이라는 가치관을 심어줘야 한다.

AI를 금지할 수는 없지만, AI를 올바르게 다루는 인간을 길러내는 교육은 가능하다.

그것이 곧 딥페이크 성범죄, 사이버폭력, AI 악용 범죄로부터 학생을 지키는 가장 근본적 해답이다.

■ 인간을 중심에 둔 기술, 교육이 답이다

AI 시대는 ‘기계가 인간을 대체하는가’의 문제가 아니라,

‘기계의 시대에 인간다움을 지켜낼 수 있는가’의 문제다.

우리는 기술의 진보보다 빠른 속도로 윤리적 감수성과 공감능력을 가르쳐야 한다.

학교는 이제 지식을 가르치는 곳을 넘어, 기술을 인간의 품격으로 통제할 수 있는 힘을 기르는 곳이 되어야 한다.

AI가 발전할수록 인간의 역할은 사라지는 것이 아니라, 더 인간다워야 할 이유가 커진다.

딥페이크 범죄와 사이버폭력의 시대, 결국 미래를 구하는 것은 기술이 아니라 교육이다.

☞ GK뉴스온신문은 인공지능 시대의 윤리적 교육과 청소년 보호를 위한 사회적 연대 운동을 지속적으로 이어갈 것이다.