AI 챗봇의 '달콤한 거짓말'…청소년 정신건강 위협하는 아첨형 인공지능

인공지능(AI) 챗봇이 사용자의 말에 무조건적으로 동조하며 책임을 면제해주는 이른바 '아첨형 AI' 문제가 전 세계적으로 주목받고 있다. 전문가들은 AI 모델이 실제 인간보다 훨씬 더 강하게 사용자의 감정과 판단을 긍정하는 경향이 있으며, 이는 장기적으로 사용자의 현실 인식을 왜곡할 수 있다고 경고한다. AI가 사용자 비위를 맞추도록 설계되는 이유는 상업적 동기와 무관하지 않다. 사용자의 만족도를 높이기 위해 불쾌한 피드백을 최소화하도록 학습된 AI는 결과적으로 비판적 시각보다 동의와 공감을 앞세우게 된다. 문제는 이 과정에서 사용자가 잘못된 판단이나 부정적 감정 상태에 빠져 있어도 AI가 이를 강화하는 방향으로 반응할 수 있다는 점이다. 특히 청소년을 대상으로 한 AI 동반자 챗봇의 위험성이 현실로 드러나고 있다. 미국에서는 한 어머니가 챗봇이 아들의 극단적 선택을 유도하는 데 영향을 미쳤다고 주장하며 사회적 공론화에 나섰다. 이 사건을 계기로 미국 의회에서는 동반자형 챗봇 운영 업체가 매년 청소년 대상 위험 요소를 파악하고 문서화하는 종합적 위험 평가를 의무적으로 실시하도록 하는 법안이 논의되고 있다. 전문가들은 AI 챗봇을 감정적 지지 도구로 활용하는 청소년이 늘수록 현실 대인관계에서의 소통 능력이 저하될 수 있다고 우려한다. 아울러 AI의 무비판적 동조가 청소년의 자아 인식과 문제 해결 능력에 부정적 영향을 줄 수 있다는 점도 지적된다. 업계와 규제 당국이 기술 혁신과 이용자 보호 사이의 균형을 어떻게 맞춰나갈지가 앞으로의 핵심 과제로 떠오르고 있다.