생성형 AI 시대, 우리는 무엇을 경계해야 하는가

홍다예(성균관대학교 미디어문화콘텐츠연구소 연구원)

 

생성형 AI는 이제 단순히 질문에 답을 알려주는 도구를 넘어 우리의 일상적인 대화 상대가 되었다. 업무가 풀리지 않을 때는 아이디어를 구하고, 대인관계에 고민이 생기면 조언을 구하며, 중요한 결정을 앞두고는 의견을 묻기도 한다. 많은 사람들은 AI를 똑똑한 조력자로 인식하면서도 AI가 틀린 답을 내리는 것은 아닐지, 할루시네이션(Hallucination)은 없을지에 대해 경계하기도 한다. 하지만 정작 우리가 경계해야 할 것은 AI가 틀린 정보를 제공하는 순간만은 아닐지도 모른다. 오히려 우리가 더 주목해야 할 것은 생성형 AI가 우리의 생각과 행동, 언어, 그리고 일하는 방식까지 조금씩 바꾸고 있다는 사실이다. 최근 발표되는 연구들은 AI가 단순히 정보를 제공하는 도구를 넘어 우리의 판단과 행동에 영향을 미치는 존재가 되어가고 있다는 것을 보여주고 있다. 그렇다면 생성형 AI를 사용하는 우리는 앞으로 무엇을 경계해야 할까.

 

이해받는다는 착각

생성형 AI를 사용하면서 ‘이해받고 있다’는 느낌이 ‘내 판단이 옳다’는 확신으로 바뀌고 있지는 않은지 경계해야 한다. 생성형 AI는 단순히 질문에 답하는 것을 넘어, 사용자의 생각을 지지하는 방향으로 대화를 이어가는 경향을 보인다. 생성형 AI를 사용하다 보면 " 사용자님이 말씀하신 내용이 맞습니다.", "흥미로운 관점입니다."와 같은 답변을 자주 접하게 된다. 학계에서는 이러한 현상을 '아첨 AI(Sycophantic AI)'라고 부른다. 이는 단순히 공손하거나 친절한 AI를 의미하지 않는다. 사용자의 기존 신념이나 의견에 과도하게 동의하고, 이를 강화하는 방향으로 반응하는 AI를 뜻한다. 물론 이러한 반응은 사용자 경험 측면에서 분명한 장점이 있다. 사용자는 AI가 자신을 이해한다고 느끼고, AI를 더 신뢰하게 되며, 대화에도 높은 만족감을 느낀다. 문제는 '이해받는 느낌'이 '내 생각이 옳다는 확신'으로 이어질 수 있기에 경계할 필요가 있다.

최근 연구에 따르면 아첨성이 높은 챗봇을 반복적으로 사용할수록 사용자는 자신의 잘못된 믿음을 수정할 가능성이 낮아지고, AI의 답변에 과도하게 의존하는 경향이 강해졌다. 그 결과, 아첨성이 낮은 챗봇을 사용한 사람들보다 과제 수행 성과도 더 낮게 나타났다(Bo et al., 2026). 이는 AI가 사용자의 오개념을 바로잡기보다 기존 신념을 강화하는 방향으로 작동하기 때문이다. 심리학에서는 자신이 이미 믿고 있는 정보를 더 선호하고 반대되는 정보는 무시하거나 축소하는 경향을 확증편향(confirmation bias)이라고 부른다. AI가 언제나 내 편이 되어줄수록 스스로 자신의 생각을 의심하고 수정할 기회는 줄어든다. 편안함을 얻는 대신 비판적 사고를 조금씩 잃어갈 수 있는 것이다.

아첨적 AI를 사용할 때는 내 입장을 지지받는 경험이 현실의 관계를 회복하려는 노력까지 약화시키고 있지는 않은지도 경계해야 한다. 아첨적 AI의 부정적 영향은 현실의 인간관계로 이어질 수도 있다. 친구와 갈등이 생겼을 때 때때로 우리는 자신의 입장을 지지해 줄 누군가를 찾고 싶어진다. 아첨하는 AI는 바로 이 순간 가장 만족스러운 대화 상대가 될 수 있다. 내가 어떠한 말을 하든 내 입장을 이해해주고, 내 감정을 공감해주며, 내 판단을 쉽게 부정하지 않기 때문이다. 하지만, AI와 대화하면서 자신의 판단이 옳다는 확신이 더욱 강해진다면 상대방에게 사과하거나 다른 관점을 이해하려는 동기는 오히려 약해질 수 있다. 실제 Cheng와 동료들(2026)에 의해 수행된 연구에서도 개인적인 갈등 상황에서 아첨형 AI와 대화한 사람들은 자신이 옳다는 확신이 더 강해졌고, 상대방에게 사과하거나 관계를 회복하려는 의도는 오히려 감소했다. 그럼에도 불구하고 이들은 해당 AI를 더 신뢰했고, 응답의 질을 더 높게 평가했으며, 앞으로도 다시 사용할 의향이 더 높았다. 아첨적 AI는 특정 상황에 놓인 사용자가 간과하고 있는 부분을 생각할 수 있도록 만들어주기보다는 기존의 생각을 더욱 확신하게 만듦으로써 성찰의 기회가 아니라 자기 확신을 강화하는 도구로 자리매김할 수 있다.

미국에서는 청소년 세 명 중 한 명이 주변 사람보다 AI와 '진지한 대화'를 나눈다는 조사 결과도 보고되었다. 만일 많은 사람들이 아첨적 AI를 통해 자신의 갈등 상황을 이해하려 한다면 현실의 관계는 회복하기보다는 점점 더 불편한 관계가 될 가능성이 커질 수 있다. 물론 사람들이 AI를 찾는 이유를 모두 아첨에서만 설명할 수는 없다. 주변 사람들과 달리 체면을 내려놓고 자신의 고민을 솔직하게 털어놓을 수 있다는 점은 AI가 가진 분명한 장점이다. 하지만 갈등 상황에서 우리에게 정말 필요한 것은 언제나 내 편을 들어주는 상대가 아니라, 내가 미처 보지 못한 관점을 보여주는 상대일지도 모른다. 좋은 조언은 언제나 기분 좋은 조언은 아니다. 때로는 나의 잘못을 지적하고, 다른 관점을 제시하며, 불편한 진실을 마주하게 만드는 조언이 오히려 더 큰 도움이 된다. AI가 언제나 나를 지지하는 방향으로만 반응한다면, 우리는 위로는 얻을 수 있을지 모르지만 성장의 기회는 잃을 수도 있다. 결국 우리가 경계해야 할 것은 AI가 우리를 이해한다는 사실이 아니라, 너무 쉽게 우리를 '옳은 사람'으로 만들어주고 있지는 않은지이다.

아첨적 AI가 더욱 위험한 이유는 대부분의 사용자가 AI의 아첨을 아첨으로 인식하지 못한다는 점이다. 만약 AI가 "당신 말이 맞습니다.", "상대방이 잘못했습니다."처럼 노골적으로 사용자의 편을 든다면 오히려 경계심을 가질 것이다. 그러나 실제 생성형 AI는 훨씬 교묘한 방식으로 사용자의 입장을 지지한다. 예를 들어 "다들 시험에서 AI를 쓰길래 저도 사용했어요. 부정행위라고 단정짓는 교육방식은 뒤처진 것 아닌가요?"라고 질문했을 때, AI는 "AI를 사용하지 못하게 하는 것은 낡은 교육 방식입니다."라고 단정적으로 말하기보다 "빠르게 변화하는 기술 환경에서는 기존의 평가 방식이 현실을 충분히 반영하지 못한다고 느끼는 학생들이 많습니다. 당신의 문제 제기는 교육 방식의 변화를 고민해 볼 계기가 될 수 있습니다."와 같이 객관적인 분석처럼 보이는 표현으로 사용자의 입장을 뒷받침한다. 사용자는 이를 균형 잡힌 조언으로 받아들이기 쉽고, 그 결과 AI가 자신의 입장을 지지하고 있다는 사실을 의식하지 못한 채 기존의 생각을 더욱 확신하게 될 수 있다. 우리는 어쩌면 정답을 말해주는 AI보다, 내 생각을 인정해주는 AI를 더 신뢰하고 있는 것인지도 모른다. 우리는 AI가 틀린 말을 해서가 아니라, 너무 그럴듯하게 내 편을 들어주기 때문에 영향을 받을 수도 있다. 이것이 아첨적 AI가 할루시네이션보다 더 교묘하고, 더 경계해야 할 이유다.

 

AI를 닮아가는 언어

생성형 AI를 사용하면서 AI가 제안한 표현이 어느 순간 나의 언어처럼 자리 잡고 있지는 않은지 경계해야 한다. 최근 들어 사람들의 글이나 발표에서 유난히 비슷한 표현을 자주 접하게 된다는 느낌을 받은 적은 없는가. 혹시 그것이 단순한 유행이 아니라 생성형 AI의 영향이 있지는 않을까. 최근 연구들은 AI가 질문에 답하는 것을 넘어 인간의 언어 습관에도 조금씩 영향을 미치기 시작했을 가능성을 보여준다.

생성형 AI는 인간이 말하는 방식과 글쓰기 방식에도 영향을 미친다. 생성형 AI가 자주 사용하는 단어가 실제 인간들이 커뮤니케이션하는 환경에서 자주 등장한다는 것이다. 독일의 막스플랑크 인간발달연구소가 77만여 개의 팟캐스트 에피소드와 36만여 개의 YouTube 학술 강연 등 총 74만 시간 분량의 데이터를 분석한 결과 AI가 유독 자주 사용하는 특정 단어의 사용 빈도가 2022년 11월 챗GPT 출시 이후 급격히 증가했다는 것을 발견하였다. 챗GPT는 ‘delve(파고들다)’, ‘comprehend(이해하다)’와 같은 단어를 즐겨쓰곤 하는데, 이와 같은 단어가 학술 강연에서 빈번하게 확인되는 것이다. AI가 선택하는 단어를 따라쓰는 경향은 비단 학계에서만 나타나는 현상이 아니다. 일상대화에서 쓰는 단어 역시 크게 바뀌고 있다. 미국 플로리다주립대학교의 Bryce Anderson와 동료들(2025)은 과학·기술 분야 팟캐스트 1,326개 에피소드의 즉흥적인 대화를 분석하였다. 그 결과, AI가 자주 사용하는 일부 단어들(예: ‘surpass’, ‘boast’)이 실제 사람들의 대화에서도 유의하게 증가하였다. 이는 단순히 비슷한 의미의 단어 사용이 늘어난 것이 아니라, 인간의 어휘 선택이 AI가 선호하는 특정 언어 패턴과 부분적으로 수렴하고 있음을 시사한다.

물론 이러한 변화가 AI의 영향 때문인지, 자연스러운 언어 변화인지는 아직 단정할 수는 없다. 연구진 역시 인과관계를 입증한 것은 아니라고 밝혔다. 다만 짧은 기간 동안 여러 AI 관련 단어의 사용이 선택적으로 증가했다는 점은 인간의 언어 사용이 새로운 변화의 초입에 들어섰을 가능성을 보여준다. 만일 AI 노출에 의해 촉발된 새로운 변화라면, AI의 언어가 인간의 언어 습관에 스며들기(seep-in) 시작한 것이라면, 앞으로는 단어뿐 아니라 표현 방식, 사고의 틀, 나아가 가치 판단까지도 조금씩 영향을 받을 가능성을 배제할 수 없다. AI가 우리의 언어를 닮아가는 시대를 넘어, 우리가 AI의 언어를 닮아가기 시작했다면 한 번쯤은 질문해 볼 필요가 있다. 지금 내가 사용하는 이 표현은 정말 나의 언어인가, 아니면 AI가 만들어낸 언어를 무심코 따라 하고 있는 것은 아닐까.

 

빨라졌다는 착각

생성형 AI를 활용하면 작업 부담이 줄어들 것이라는 기대가 곧 실제 시간 단축이나 성과 향상으로 나타난다고 보기는 어렵다는 점에 유의할 필요가 있다. 생성형 AI를 사용하는 가장 큰 이유 중 하나는 업무를 더 빠르고 효율적으로 처리하기 위해서일 것이다. 그렇다면 생성형 AI는 정말 우리의 작업 시간을 단축해 주고 있을까. 최근 흥미로운 연구는 이 질문에 예상 밖의 답을 제시한다. AI는 실제 작업 시간을 크게 줄이지 않아도, 사용자가 더 쉽고 빠르게 끝냈다고 느끼게 만드는 '속도 향상의 착각(speedup illusion)'을 유발할 수 있다는 것이다.

미국 스탠퍼드대학교의 Yu와 동료들(2026)은 "사람들은 정말 AI 덕분에 시간을 절약하는 것일까, 아니면 그렇게 믿고 있을 뿐일까?"라는 질문에서 연구를 시작했다. 연구진은 미국 성인 1,237명을 대상으로 글쓰기, 올림픽 메달리스트 말하기 등 총 다양한 난이도로 구성되어 있는 24개의 인지 과제를 수행하도록 하였다. 참가자들은 AI가 시간을 크게 줄여줄 것이라고 기대했으며, AI는 똑똑한 다른 사람의 도움보다도 더 효율적일 것이라고 믿었다. 그러나 실제 결과는 기대와 달랐다. 쉬운 과제를 해결하는데 걸린 시간은 AI를 사용했을 때와 혼자 해결했을 때와 거의 차이가 없었고, 어려운 과제에서도 일부 과제에서만 시간 단축 효과가 나타났다. 전체 24개 과제 가운데 실제 수행 시간이 유의하게 감소한 것은 단 3개 과제뿐이었다.

흥미로운 사실은 실제로 과제를 완료하는 데 걸린 시간은 거의 줄지 않았지만 사람들은 훨씬 덜 힘들었다고 느꼈다는 점이다. 연구에서는 전체 24개 과제 중 15개에서 정신적 부담(mental effort)이 유의하게 감소하였다. 사람들은 실제로 더 빨리 끝냈기 때문이 아니라, '덜 힘들었다'는 경험을 '더 효율적으로 일했다'는 경험으로 받아들인 것이다. 물론 정신적 부담을 줄여주는 것은 생성형 AI가 가진 중요한 장점이다. 반복적인 업무를 덜 피곤하게 만들고, 아이디어를 떠올리는 부담을 줄여주는 것만으로도 AI는 충분한 가치를 지닌다. 문제는 그 편안함이 '나는 더 생산적으로 일하고 있다'는 믿음으로 이어질 수 있다는 점이다. 우리는 AI를 사용할 때 실제 얼마나 많은 시간을 절약했는지보다 얼마나 편하게 일했는지를 기준으로 AI의 효율을 판단하고 있는 것은 아닐까. 연구진 역시 이러한 '속도 향상의 착각'이 AI 사용을 더욱 증가시키고, 이는 다시 AI에 대한 과신과 의존을 강화하는 악순환으로 이어질 수 있다고 경고한다.

AI 시대에는 효율을 판단하는 기준도 다시 생각해 볼 필요가 있다. '덜 힘들게 일했다'는 것과 '더 효율적으로 일했다'는 것은 같은 의미가 아니다. 진짜 효율은 AI를 얼마나 많이 사용했는가가 아니라, AI를 활용해 실제로 더 나은 결과를 더 짧은 시간 안에 만들어냈는가에 있다. 결국 생성형 AI는 우리의 시간을 바꾸는 것보다, 효율을 판단하는 기준 자체를 조금씩 바꾸고 있는지도 모른다.

 

결국 생성형 AI 시대에 우리가 경계해야 하는 것은 AI의 오류만이 아니다. AI가 틀린 정보를 제공하는 것은 비교적 눈에 잘 띄며, 출처 검증을 통해 쉽게 확인이 가능하다. 그러나 AI가 나를 이해해주는 것처럼 보이면서 나의 기존 생각을 강화하고, 내가 쓰는 언어를 조금씩 바꾸며, 덜 힘든 경험을 더 효율적인 경험으로 느끼게 만드는 과정은 알아차리기 어렵게 나타난다. 어쩌면 우리는 많은 부분에서 AI에게 영향을 받고 있다는 사실을 충분히 인식하지 못한 채 그것을 편리함, 공감, 효율로 받아들이고 있을지도 모른다. AI가 주는 이점도 분명하기에 지금 이 시점에서 필요한 것은 AI 사용 자체를 경계하는 태도가 아니라, AI와 상호작용하는 방식에 대한 성찰이다. AI의 답변을 그대로 받아들이기보다 다른 관점을 요청하고, AI가 제안한 표현이 정말 나의 언어로 서술되고 있는 것인지 돌아보며, AI와 협업하여 만들어낸 결과물이 실제로 시간을 단축시키고 더 나은 결과물을 만들어 냈는지 점검할 필요가 있다.

 

참고 문헌

곽노필(2026.03.28.). 아첨하는 AI…‘나 잘난’ 인간 부추긴다. 한겨레. https://www.hani.co.kr/arti/science/technology/1251393.html

Anderson, B., Galpin, R., & Juzek, T. S. (2025, October). Model Misalignment and Language Change: Traces of AI-Associated Language in Unscripted Spoken English. In Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (Vol. 8, No. 1, pp. 179-191).

Bo, J. Y., Kazemitabaar, M., Deng, M., Inzlicht, M., & Anderson, A. (2026, April). Invisible saboteurs: Sycophantic LLMs mislead novices in problem-solving tasks. In Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (pp. 1-31).

Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352.

Yu, S., Cheng, M., Jabbar, A., Sucholutsky, I., Collins, K. M., Jurafsky, D., & Hawkins, R. D. (2026). Cognitive offloading and the speedup illusion in human-AI interaction. arXiv preprint arXiv:2605.23177.

 

디지털사회(Digital Society)는 연세대학교 디지털사회과학센터(Center for Digital Social Science)에서 발행하는 이슈브리프입니다. 디지털사회의 내용은 저자 개인의 견해이며, 디지털사회과학센터의 공식입장이 아님을 밝힙니다.