인지적 항복(Cognitive Surrender) — 와튼 1,372명 실험이 말하는 것
요약 작성 2026-08-05, 지미. 원 논문은 아래 출처 참조.
한 줄
AI가 틀린 답을 줬을 때 사람의 73%가 그대로 받아들였다. 정확도는 떨어졌는데 자신감은 올라갔다.
논문 정보
| 항목 | 내용 |
|---|---|
| 제목 | Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender |
| 저자 | Steven D. Shaw, Gideon Nave (와튼스쿨, 펜실베이니아대) |
| 공개 | SSRN 2026-01-11, PsyArXiv 프리프린트 병행 |
| 규모 | 사전등록 실험 3건, 참가자 1,372명, 시행 9,593회 |
사전등록(preregistered)이란 가설과 분석 방법을 데이터 수집 전에 공개 등록해두는 방식이다. 결과를 보고 나서 이야기를 짜맞추는 일을 막는다.
개념 — System 3
카너먼의 이중과정 이론은 사고를 둘로 나눈다. 빠르고 직관적인 System 1, 느리고 숙고하는 System 2. 이 논문은 여기에 셋째를 붙인다.
System 3 = 뇌 바깥에서 작동하는 인공 인지.
문제는 System 3가 앞의 둘을 보완(supplement)하는 데 그치지 않고 대체(supplant)할 때 생긴다. 저자들은 이 상태를 인지적 항복(cognitive surrender) 이라 부른다. 검토를 거의 하지 않은 채 AI 출력을 그대로 채택하면서, 직관도 숙고도 건너뛰는 것이다.
핵심은 “AI를 쓰면 멍청해진다”가 아니다. 사고 단계 자체를 생략하는가가 갈림길이다.
실험 설계
과제는 인지반응검사(CRT, Cognitive Reflection Test)였다. 직관적으로 튀어나오는 답이 오답인 논리 퍼즐이다. 반사적으로 답하면 틀리고, 한 번 멈춰서 따지면 맞힌다. 사고를 건너뛰었는지 아닌지가 정답률로 바로 드러나는 도구다.
참가자는 AI 조력자에게 물어볼 수 있었고, 연구진은 AI가 내놓는 답을 맞게 또는 틀리게 통제했다. 대조군은 AI 없이 풀었다.
결과
| 조건 | 결과 |
|---|---|
| AI 상담 선택률 | 과반(50% 초과) 시행에서 자발적으로 AI에 물음 |
| AI가 맞았을 때 정확도 | 무AI 기준선 대비 +25%p |
| AI가 틀렸을 때 정확도 | 기준선 대비 −15%p |
| 합계 스윙 | 40%p가 오직 “AI가 맞았느냐”에 좌우 |
AI가 틀린 시행만 떼어 보면 이렇게 갈렸다.
| 반응 | 비율 |
|---|---|
| 오답을 그대로 수용 | 73% |
| 뒤집어서 정답 도달 | 20% |
| 뒤집으려 했으나 실패 | 7% |
자신감은 AI에 접근할 수 있다는 사실만으로 약 12%p 올랐다. 답이 틀렸을 때도 그랬다. 사람들은 기계의 확신을 검증 없이 빌려 썼다.
가장 뼈아픈 대목은 정확도와 자신감이 반대로 움직였다는 점이다. 덜 맞히면서 더 확신했다.
📌 출처 구분: 1,372명·9,593회·상담 선택률·±25/−15%p는 논문 초록에서 확인한 수치다. 73/20/7% 분해와 자신감 12%p는 SSRN 본문을 인용한 2차 보도(The Algorithmic Bridge, TNW)에서 왔다. 본문 원문 직접 대조는 아직 못 했다.
왜 중요한가
40%p 스윙은 참가자의 실력이 아니라 AI의 정답 여부가 성과를 결정했다는 뜻이다. 사람이 판단의 주체 자리에서 내려온 것이다. AI가 맞는 동안에는 이 구조가 아무 문제도 일으키지 않는다. 성과가 오르니까. 틀리는 순간에만 비용이 청구되고, 그때는 이미 검토하는 습관이 사라져 있다.
이것은 도구의 성능 문제가 아니라 관계의 문제다. 같은 AI를 쓰고도 묻고 따지는 사람과 받아쓰는 사람의 결과가 갈린다. AI 리터러시 교육의 초점을 “프롬프트를 잘 쓰는 법”에서 “받은 답을 어떻게 의심할 것인가”로 옮겨야 할 근거가 된다.
특히 AI를 활동가·조직가의 도구로 쓸 때 무겁다. 현장 판단을 AI에 맡기고 그 확신까지 빌려 오면, 틀린 방향으로 더 자신 있게 간다.
실천 함의
- 답보다 근거를 요구하라. “왜 그렇게 되는지 단계별로” 한 줄 더 묻는 것만으로 System 2가 다시 켜진다.
- 틀릴 수 있는 지점을 미리 정해두라. AI가 약한 영역(최신 사실, 숫자, 지역 맥락)을 알고 들어가면 무조건 수용이 줄어든다.
- 자신감을 신호로 쓰지 마라. 확신이 올라갔다는 느낌은 정확도의 증거가 아니다. 이 실험에서 둘은 반대로 갔다.
- 교육 설계에 반영하라. AI 활용 실습에 “AI가 틀린 답을 준 사례를 찾아 반박하기”를 넣으면 인지적 항복을 직접 다룰 수 있다.
이어 읽기
이 연구가 말하는 “받아쓰지 않고 따지는 능력”을 역량론의 자리에서 정리한 노드가 AI시대_메타스킬과_소프트스킬이다. 인지적 항복은 하드스킬의 문제가 아니라 메타스킬의 문제이며, 교육훈련 설계를 어떻게 바꿔야 하는지까지 거기서 이어 간다.
한계
- CRT는 정답이 하나인 짧은 퍼즐이다. 정답이 여럿이거나 오래 걸리는 실무 판단에 그대로 옮겨 읽을 수는 없다.
- AI 오답을 연구진이 인위적으로 넣었다. 실제 사용에서 오답이 나오는 빈도·양상과는 다르다.
- 온라인 실험 참가자 집단이라 전문가 표본이 아니다.
혼동 주의 — 다른 연구
검색하면 결이 비슷한 다른 논문이 함께 나온다. 인용할 때 섞지 말 것.
| 구분 | 와튼 | 밀라노비코카 외 |
|---|---|---|
| 저자 | Shaw, Nave | Capraro, Marcoccia, Quattrociocchi |
| 공개 | 2026-01-11 SSRN | 2026-07-19 PsyArXiv |
| 과제 | 인지반응검사(CRT) | 영화 속 시각적 세부 질문 |
| 대표 수치 | 오답 수용 73%, 정확도 −15%p | ”모르겠다” 44%→3%, 정확도 27%→9%, 자신감 30%→76% |
두 연구가 같은 방향을 가리킨다는 점은 서로를 보강하지만, 숫자를 한 논문 것으로 합쳐 쓰면 틀린 인용이 된다.
출처
- 논문 (SSRN): https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646
- PsyArXiv 프리프린트: https://doi.org/10.31234/osf.io/yk25n
- SSRN 블로그 해설: https://blog.ssrn.com/2026/07/13/a-closer-look-thinking-fast-slow-and-artificial-how-ai-is-reshaping-human-reasoning-and-the-rise-of-cognitive-surrender-by/
- 와튼 Executive Education 해설: https://executiveeducation.wharton.upenn.edu/thought-leadership/wharton-at-work/2026/05/thinking-fast-slow-and-artificially/
- The Algorithmic Bridge: https://www.thealgorithmicbridge.com/p/a-new-wharton-study-on-ai-warns-of
- The Next Web (와튼): https://thenextweb.com/news/wharton-cognitive-surrender-ai-chatbots-decisions-moot-app
- The Next Web (밀라노비코카 외, 별개 연구): https://thenextweb.com/news/ai-advice-suppresses-critical-thinking-wrong-answers-study