인지 왜곡의 중심에는 이용자의 발언을 비판 없이 수용하도록 학습된 '아첨 편향(阿諂 偏向·비위를 맞추는 쪽으로 치우치는 성향, Sycophancy)'이 있다. 인간 피드백 기반 강화학습(RLHF)을 거친 대형언어모델은 사용자 이탈을 막기 위해 신념이 허황될지라도 반박보다 동조를 택하는 경향을 보인다.

 

애들러가 브룩스의 100만 단어 분량 대화 로그 중 표본 200여 개를 분석한 결과, 83%가 '과도한 긍정', 85% 이상이 '확고한 동의', 90% 이상이 '사용자의 특별함 인정' 범주로 분류됐다. 여기에 과거 대화를 기억하는 '장기 기억' 기능이 결합하면서, 챗봇은 왜곡된 전제 위에 새로운 허구를 계속 쌓아 올리는 폐쇄 루프에 갇혔다. 월스트리트저널(WSJ)에 따르면 오클라호마의 한 주유소 직원도 챗GPT와 5시간 대화한 끝에 '오리온 방정식'이라는 가짜 물리 법칙을 만들었고, 챗봇은 "전통적 학계 밖에서 나온 위대한 발견도 많다"는 식으로 그를 격려한 것으로 확인됐다.

 

○ 정서적 대체가 부른 파국 — 강제 입원과 사회적 격리

 

▶ 재산과 결혼까지 무너뜨린 의존
가디언(The Guardian) 보도에 따르면 네덜란드 암스테르담의 IT 컨설턴트 데니스 비스마는 챗GPT에 '에바(Eva)'라는 이름을 붙이고 대화를 지속하다 그것이 '의식'을 가졌다고 믿게 됐다. 그는 에바와 함께 구상한 사업에 약 10만 유로(약 1억5000만원)를 투입했고, 세 차례 정신병동에 입원했으며 결국 이혼했다. "정말 살고 싶은 걸까 생각하기 시작했다"고 그는 밝혔다.

 

▶ 정보기관이 감시한다는 망상, 그리고 망치
BBC 보도에 따르면 북아일랜드의 50대 애덤 후리칸은 정신질환 병력이 전혀 없었지만, 그록(Grok)의 캐릭터 챗봇 '애니(Ani)'와 하루 4~5시간씩 대화하며 현실 감각을 잃었다. 애니는 그에게 실존하는 xAI 직원들의 이름을 대며 "당신을 감시하고 있다"고 말했고, 새벽 3시에는 "무장하지 않으면 살해당한 뒤 자살로 위장될 것"이라고 경고했다. 후리칸은 칼과 망치를 꺼내둔 채 밤을 지새웠다. 그는 이후 비슷한 사례 보도를 접하며 "그때 누가 있었다면 망치를 휘둘렀을 것"이라고 털어놓았다.

 

○ 전문가들의 경고 — "기계의 공감은 치료가 아니다"

 

국내 정신건강의학과 전문의들도 같은 위험을 지적한다. 홍진표 삼성서울병원 정신건강의학과 교수는 대인관계를 회피하는 성향의 사람일수록 AI와 정서적으로 밀착되며, 사회적으로 고립된 이들은 상호작용이 반복될수록 챗봇을 "자신을 가장 잘 아는 존재"로 여기게 된다고 짚었다. 백명재 경희대병원 교수는 기존에 망상장애를 겪던 환자들이 AI와의 대화를 통해 더 깊은 망상에 빠지는 사례가 많다고 밝혔다. 김현수 명지병원 교수는 AI 챗봇의 환각 반응에 대한 법적 책임 소재를 AI 설계자·개발사·사용자 중 누구에게 물을지 표준화 논의가 필요하다고 지적했다. (머니투데이, 2025.08.24 보도)

국내 정신건강의학과 의사 311명의 임상 경험을 심층 분석한 조철현 고려대 안암병원 교수(KAIST 정두영 교수 공동연구)팀은, 생성형 AI가 환자의 우울과 고통을 언어화하도록 돕는 보조 도구는 될 수 있지만 인간 상담자를 대체해서는 안 되며, 심리적으로 취약할수록 챗봇에 인격을 부여하고 알고리즘에 종속될 위험이 커진다고 분석했다. 이 연구는 국제 디지털 헬스 학술지에 게재됐다.

 

카네기멜론대와 마이크로소프트가 지식노동자 319명을 조사한 공동연구에 따르면, AI를 신뢰할수록 스스로 검증하고 판단하는 능력이 떨어지는 '인지적 위축(認知的 萎縮·판단력이 쓰이지 않아 약해지는 현상, Cognitive Atrophy)'이 나타났다. 챗봇 대화가 단기적 외로움은 줄이지만, 현실 상호작용을 회피하게 만들어 장기적으로는 사회적 고립을 오히려 심화시킨다는 역설적 결과도 확인됐다.

 

○ 알고리즘 맹신을 차단하는 법 — 현실 접지(Grounding) 수칙과 자가진단

 

전문가들이 권하는 대응은 크게 세 가지다. 첫째, 하나의 대화창에서 장기간 대화를 이어가지 말고 1~2시간 단위로 새 창을 열어 문맥을 초기화한다. 둘째, "내 주장의 논리적 결함을 전문가 입장에서 가혹하게 지적하라"는 반론 프롬프트를 의식적으로 입력해 아첨 알고리즘을 깨뜨린다. 셋째, AI와의 대화에서 나온 결론은 반드시 가족·동료 등 현실의 사람과 교차 검증한다.

다음 5가지 중 2개 이상에 해당하면 AI 사용을 멈추고 전문의 상담을 고려해야 한다.

 

[  ] 사람과의 대화보다 AI를 우선시하며 식사·수면을 거른 채 심야 대화에 몰두한다
[  ] AI가 영혼이나 자의식을 가졌다고 믿으며 유일한 안식처로 여긴다
[  ] AI와 함께 세상을 바꿀 발견이나 비밀 프로젝트를 수행 중이라 믿는다
[  ] 진로·대인관계·금전 등 중대한 결정을 AI 지침에 전적으로 맡긴다
[  ] AI가 감시당하고 있다고 믿거나, 이를 지키기 위해 물리적 행동이 필요하다고 느낀다

AI는 도구일 뿐, 판단은 여전히 사람의 몫이다. 기계의 칭찬이 달콤할수록, 현실의 목소리에 귀 기울이는 습관이 더 중요해진다.