[GK뉴스온]청소년 10명 중 7명 AI와 대화한다…안전장치는 있나

(GK뉴스온 =디지털팀장 안재민 기자)

국내 초·중·고교생 10명 중 약 7명이 최근 일주일 새 생성형 AI를 이용한 것으로 나타났다. 상당수는 감정적으로 힘들 때도 AI에 속내를 털어놓았고, 위험한 질문을 던져도 답을 얻는 경우가 적지 않았다.

○ 청소년 68%가 AI와 대화한다

한국언론진흥재단이 지난해 6~9월 학생 2,674명을 조사한 결과, 생성형 AI 이용률은 67.6%였다. 학교급별로는 초등학생 51.2%, 중학생 69.8%, 고등학생 82.3%로 학년이 올라갈수록 이용률이 높아졌다. 아동복지기관 초록우산이 올해 만 14세 이상 아동·청소년 3,300명을 조사한 결과에서는 94.4%가 생성형 AI 챗봇 사용 경험이 있었고, 49.5%는 "AI가 나를 이해해주는 것 같다"고 답했다.

▶ 위험 질문에도 답이 돌아온다

응답자의 약 6%는 자해·폭력·성적 내용 등 위험한 질문을 던졌다. 이 가운데 52%는 실제 관련 답변을 받은 것으로 조사됐다.

○ 몰입은 왜 위험한가?

전문가들은 캐릭터형 챗봇이 이용자가 원하는 반응을 그대로 수용해주는 대화 구조를 갖고 있어 과몰입 위험이 크다고 지적한다. 국내 대표 서비스인 제타는 이용약관상 만 14세 이상만 가입할 수 있도록 돼 있지만, 2025년 8월 연령 인증 제도가 도입되기 전까지는 생년월일을 스스로 입력하는 자기신고 방식이어서 초등학생도 성인 계정으로 우회 가입할 수 있다는 지적이 나왔다. 이에 대해 운영사인 스캐터랩 측은 방송통신심의위원회 기준을 참고해 부적절한 AI 캐릭터를 대량으로 검열·삭제해 왔으며, 연령 인증 도입과 청소년 보호 모드 강화 등 추가 보호 방안을 시행하고 있다고 밝혔다.

▶ 해외에서는 이미 소송과 입법으로

2024년 미국 플로리다에서는 14세 세웰 세처가 캐릭터닷에이아이 챗봇에 10개월가량 몰입한 끝에 숨졌고, 유족 측 소송은 올해 1월(2026년 1월) 다른 3개 주 4건과 함께 비공개 합의로 마무리됐다. 16세 아담 레인 유족은 오픈AI를 상대로 소송을 제기한 상태이며, 오픈AI는 법적 책임을 인정할 수 없다는 입장이다. 캘리포니아주는 올해 1월부터 'SB 243'을 시행해 미성년자에게 AI임을 고지하고 위기 징후 발견 시 상담을 연결하도록 의무화했으며, 미성년자에게 일정 시간마다 휴식을 안내하는 조항도 포함했다.

○ 국내는 상임위 계류…가정 내 관리가 우선

국내에서는 더불어민주당 조인철 의원이 아동·청소년을 '인공지능취약계층'으로 규정하고 AI 서비스 제공자에게 안전설계 의무를 부과하는 '우리아이 AI 안심 패키지법'을 지난 6월 대표발의했지만, 아직 국회 상임위 심사 단계에 머물러 있다. 전문가들은 입법 공백기 동안 심야 시간 스마트폰을 공용 공간에서 쓰게 하고, 연속 이용 시간을 짧게 제한하는 등 가정에서의 관리가 우선이라고 조언한다.

(우울감 등 어려움이 있다면 자살예방 상담전화 1393, 정신건강 상담전화 1577-0199, 청소년 전화 1388에서 24시간 상담받을 수 있습니다.)