[GK뉴스온]AI 캐릭터 챗봇 '제타' 청소년 38만명…부모가 확인할 5가지

[GK뉴스온=안재민 디지털팀장]

AI 캐릭터와 친구나 연인처럼 대화하는 ‘AI 캐릭터 챗봇' 제타의 월간 활성 이용자(MAU)가 9월 말 기준 148만명이고, 이 가운데 19세 이하가 38만명인 것으로 집계됐다. 국회 교육위원회는 23일 교육부·국가교육위원회 종합감사에 제타 운영사 스캐터랩의 김종윤 대표를 증인으로 불렀지만, 김 대표는 일본 일정을 이유로 불출석 사유서를 제출했다.

업체들이 내놓은 이용시간·결제 제한은 연말 이후에야 시행되는 만큼, 그 전까지 자녀의 챗봇 이용을 살필 1차 책임은 가정에 남아 있다.

국회 과학기술정보방송통신위원회 소속 이주희 더불어민주당 의원은 지난 12일 과방위 국정감사에서 제타 사례를 들어 청소년 과몰입 문제를 지적했다. 이 의원은 지난 15일 국회입법조사처 회답서를 공개하며 "장시간 이용이나 과몰입을 막기 위한 보호장치는 반드시 필요하다"고 강조했다. 김 대표는 12일 과방위 국감에도 출석하지 않았다.

○ 숫자로 본 '우리 아이의 AI 친구'

아동복지전문기관 초록우산이 올해 3월 9~23일 전국 만 14세 이상 아동·청소년 3,300명을 조사한 결과, 94.4%가 생성형 AI 챗봇을 써 본 경험이 있었다. 19.3%는 거의 매일 사용했고, 75.8%는 보호자 계정이 아닌 본인 계정으로 이용했다.

챗봇 답변의 영향도 확인됐다. 답변을 실제 행동에 옮긴 비율은 41.0%였고, 행동하지는 않았지만 진지하게 고려한 경우까지 합하면 75.3%였다. AI가 자신을 이해해 준다고 느낀 응답은 49.5%, 힘들거나 우울할 때 AI와 대화한 경험은 32.3%였다.

위험한 대화도 걸러지지 않았다. 같은 조사에서 자해·자살, 불법, 폭력, 성적 내용 등을 물어본 응답자는 평균 6% 수준이었지만, 이 중 평균 52%는 실제 답변을 받았다고 응답했다. 성평등가족부도 지난 15일 AI 캐릭터챗봇 응답 일부에서 성적·폭력적 묘사와 자해·자살, 범죄 조장 우려 응답을 확인했다며 사업자에게 보호조치 개선을 요청했다.

○ 업체 대책은 연말·내년 초…영국은 18세 미만 '로맨틱 챗봇' 금지 방침

스캐터랩은 19세 이하 제타 이용자의 하루 기본 이용시간을 3시간, 월 기본 결제 한도를 10만원으로 정하는 방안을 연내 도입하겠다고 밝혔다. 뤼튼테크놀로지스도 AI 캐릭터 채팅 플랫폼 '크랙'에 같은 기준을 내년 초부터 적용하고, 이를 넘기려면 보호자 인증과 동의를 거치도록 할 계획이다.

법 제도는 아직 논의 단계다. 국회에는 대화형 AI 사업자에게 연령 확인, 법정대리인 동의, 이용시간 제한 수단 제공 등을 의무화하는 정보통신망법 개정안들이 발의돼 있다. 입법조사처는 개인정보보호법이 만 14세 미만에만 법정대리인 동의를 요구하고 청소년보호법은 19세 미만을 보호 대상으로 삼아 14~18세에 공백이 생긴다고 지적했다. 김종철 방송미디어통신위원장은 지난 12일 국감에서 관계부처 협의를 거쳐 입법을 지원하겠다고 답했다.

해외는 한발 앞서 있다. 영국 정부는 6월 15일 16세 미만 소셜미디어 금지와 함께 연인 관계를 흉내 내는 '로맨틱 동반자형' AI 챗봇을 18세 미만에게 금지하는 방침을 발표했다. 미국 캘리포니아주는 올해 1월부터 동반자 챗봇 운영자에게 미성년 이용자에게 AI임을 알리고 최소 3시간마다 휴식 알림을 보내도록 의무화했다.

○ 부모가 오늘 확인할 5가지

첫째, 자녀 스마트폰에 제타·크랙 같은 캐릭터 챗봇 앱이 있는지, 하루 얼마나 쓰는지 확인한다. 업체 제한이 시행되기 전까지는 안드로이드의 패밀리 링크나 아이폰의 스크린 타임으로 앱별 이용시간과 결제 승인을 직접 설정할 수 있다.

둘째, 보호자 명의로 성인인증을 대신 해 주지 않는다. 제타의 경우 성인인증을 하지 않은 계정에는 청소년과 같은 안전 기준인 '세이프 모드'가 적용되는데, 부모 명의로 인증하면 이 보호 기준이 풀릴 수 있다. 셋째, 개인정보 입력을 점검한다. 초록우산 조사에서 응답자의 45.0%는 나이, 32.8%는 이름, 23.9%는 건강·정신 상태를 챗봇에 입력한 적이 있었다.

넷째, 대화 기록을 몰래 들여다보기보다 대화를 건넨다. 초록우산 이슈브리프에 실린 전문가 제언은 힘들 때 무엇을 하는지, 언제 AI와 대화하는지 두 가지만 물어도 아이의 상태를 파악할 수 있다고 설명했다. 다섯째, 자녀가 챗봇에 정서적으로 기대거나 위험한 대화를 한 흔적이 보이면 청소년상담 1388(전화·문자·카카오톡)이나 자살예방상담전화 109에 도움을 요청한다.

국감 일정은 이날 종합감사로 마무리되지만, 업계 자율 대책과 정보통신망법 개정안 등 입법 논의는 국감 이후 정부·국회 협의로 이어질 전망이다. 스캐터랩의 이용시간 제한이 실제로 언제 적용되는지, 연령을 속인 우회 이용을 어떻게 막을지가 다음 확인 과제로 남았다.