[GK뉴스온]“AI가 내 메일로 과제 전송?”… ‘행동하는 AI’ 교실 습격

“이번 주 수행평가 과제를 확인하고 참고자료를 모아 선생님께 메일로 보내라.”  명령 한 줄에 인공지능이 학생의 메일함을 열고, 클라우드 문서를 수정한 뒤 담당 교사에게 직접 발송까지 마쳤다. 질문에 답변만 내놓던 ‘챗봇’ 단계를 넘어, 실제 시스템 권한을 쥐고 행동하는 ‘AI 에이전트(Agent)’가 교육 현장에 들어섰다.

○ [‘답변 자판기’에서 ‘대리 집행자’로… 진화한 AI 에이전트] 

기존 생성형 AI가 초안을 써주고 수정을 사람에게 넘기는 방식이었다면, AI 에이전트는 목표를 스스로 단계별로 쪼개어 실행한다. 검색, 자료 정리, 클라우드 문서 수정, 외부 메일 전송까지 전 과정을 사람이 개입하지 않고도 연속 처리하는 구조다. ‘답을 만들어주는 보조 도구’에서 ‘일을 대신 끝내는 대리 실행 도구’로 기능이 완전히 전환됐다.

 ▶ [시스템 접근 권한의 덫… 오작동 땐 돌이킬 수 없는 보안 사고] 

 AI가 실제 행동을 수행하려면 학생 계정과 클라우드 드라이브, 파일 다운로드 등 광범위한 접근 권한을 쥐어야 한다. 문제는 AI가 항상 올바른 판단을 내리지 않는다는 점이다. 악성 명령이 숨겨진 문서를 읽고 개인정보를 유출하거나, 엉뚱한 수신자에게 중요 문서를 오발송하는 등 치명적인 실행 오류 사고로 직결될 수 있다.  

○ [학교 현장이 즉시 가르쳐야 할 ‘5대 통제 역량’] 

더 이상 프롬프트 명령어를 화려하게 외우는 기술은 핵심이 아니다. 학교는 학생들에게 시스템을 통제하고 책임을 관리하는 5가지 역량을 가르쳐야 한다는 진단이다. 

▶ [1. 판단력과 2. 권한 관리] 

첫째, AI에게 맡길 작업과 학생이 직접 고민해야 할 영역을 구분하는 ‘판단력’이다.

둘째, 계정 전체 접근권을 넘기지 않고 특정 파일만 열람하도록 제한하며 최종 실행 전 반드시 사람의 승인을 거치게 설정하는 ‘권한 관리’ 능력이다.

▶ [3. 보안 감수성·4. 결과 검증·5. 최종 책임 원칙] 

셋째, 내려받은 문서 속 숨겨진 악성 지시를 걸러내는 ‘보안 감수성’과 넷째, 출처와 연산 결과를 역추적하는 ‘결과 검증’ 습관이다.

다섯째, AI가 작업을 대행했더라도 제출된 결과물과 발송 사고에 대한 법적·윤리적 책임은 사람에게 귀속된다는 ‘최종 책임 의식’이다.

○ [결과물 제출 과제의 종말… ‘과정 중심 4단계 평가’ 개편 시급] 

문서 작성부터 자료 취합까지 AI가 일괄 처리하면서, 완제품만 확인하는 기존 수행평가는 한계에 부딪혔다. 앞으로는 AI 차단 기반의 기초 문해력 평가, AI를 도구로 쓴 문제 해결 프로젝트, 프롬프트 입력 기록(로그) 검증, 구술 면접을 통한 설명 평가 등 ‘과정 중심 4단계 평가’로 전환해야 한다.

○ [도구 맹신 벗어나 ‘통제권 쥔 인재’ 길러야] 

교육의 본질은 AI 사용을 무조건 막는 것도, 모든 작업을 AI에 떠넘기는 것도 아니다.  기술의 편리함을 활용하되, 권한을 어느 선에서 제한하고 언제 멈춰 세울지 결정하는 ‘통제권과 판단력’을 길러내는 것이 공교육의 새로운 과제다.