인지과학 — 4강: AI 인지과학·계산 모델·응용

계산 인지과학

계산적 접근 (Computational Approach):
→ 인지를 정보 처리 과정으로 모델링
→ 마르 (David Marr)의 3수준 분석:
  계산 수준: "무엇을 계산하는가?" (목적)
  알고리즘 수준: "어떻게 계산하는가?" (표현+과정)
  구현 수준: "어디서 실현되는가?" (신경·물리 기반)

베이지안 뇌 (Bayesian Brain):
→ 뇌는 베이즈 추론기로서 작동한다는 가설
→ 베이즈 정리: P(H|D) ∝ P(D|H) · P(H)
  사전 확률 (Prior) × 우도 (Likelihood) → 사후 확률 (Posterior)
→ 지각의 베이즈 해석:
  불완전한 감각 정보 + 내부 사전 지식 → 최적 추정
  착시: 잘못된 사전 확률 적용의 결과
  홀로 보기 (Hollow Mask Illusion): 오목한 것을 볼록하게 인식
→ 베이지안 학습: 경험을 통해 사전 확률 업데이트
→ 불확실성 표현: 뉴런이 확률 분포를 코딩

예측 코딩 (Predictive Coding):
→ 카를 프리스턴 (Karl Friston): 자유 에너지 원리
→ 핵심: 뇌는 세상에 대한 예측 모델을 유지하고 예측 오류만 처리
→ 계층적 구조:
  상위 영역: 예측 (Top-Down)
  하위 영역: 예측 오류 (Bottom-Up)
  피드백: 오류 신호로 모델 업데이트
→ 설명 범위:
  지각·주의·학습·운동·감정·정신증
  망상: 예측 오류 처리 이상으로 설명
→ 자유 에너지 최소화: 놀라움 최소화 = 예측 정확도 최대화

강화 학습과 뇌 (Reinforcement Learning & Brain):
→ 도파민 신호 = 시간차 학습 오류 (Temporal Difference Error)
  예상보다 좋은 결과 → 도파민 급증
  예상보다 나쁜 결과 → 도파민 감소
  예상대로 → 변화 없음
→ 선조체-전두엽 회로: 가치 기반 의사결정
→ 습관 형성 vs 목표 지향 행동:
  배외측 선조체: 습관 (자동)
  전전두피질: 목표 지향 (계획)
→ 중독의 계산적 이해: 과도한 도파민 예측 오류 학습

계산 신경과학 도구:
→ 점화 뉴런 모형 (Spiking Neuron Models):
  하지킨-헉슬리·리크 통합-발화 모형
→ 연결주의 모형 (Connectionism):
  PDP: 병렬 분산 처리
  단층·다층 퍼셉트론 → 딥 러닝의 전신
→ 해면 코딩 (Sparse Coding):
  실제 신경 코드는 소수 뉴런만 활성화
  효율적 표현 원리

AI와 인간 인지의 비교

대형 언어 모델 (LLM)과 인지:
→ GPT-4·Claude 같은 LLM이 인지 능력을 보여주는가?
→ LLM이 잘하는 것:
  패턴 인식·텍스트 생성·지식 검색
  ToM 유사 과제 일부 통과 (논란)
  창의적 추론·유추·코딩
→ LLM의 한계 (인간 인지와 차이):
  실체화 (Embodiment) 없음: 몸·환경 상호작용 없이 학습
  인과 추론 약점: 상관성 → 인과성 착오
  지속 기억 없음: 대화 외 장기 기억 한계
  자기 인식 없음: 자기 상태 모니터링 불가
  체계적 오류: 수학·논리 실수·환각 (Hallucination)

AI와 인간의 지각 비교:
→ 딥 러닝 이미지 분류 vs 인간:
  분류 정확도: AI가 인간 능가 (특정 데이터셋)
  적대적 예시 (Adversarial Examples): AI는 속지만 인간은 안 속함
  일반화: 인간은 소수 예시로 개념 학습 (원샷 학습)
→ 공통점:
  계층적 특징 추출 (딥 러닝 ↔ 시각 피질)
  맥락 효과 (Context Effect)

기계 창의성 vs 인간 창의성:
→ AI 생성 예술·음악·텍스트의 창의성?
→ 마가렛 보든 (Margaret Boden)의 창의성 유형:
  탐색적 창의성: 기존 공간 탐색 (AI 가능)
  조합 창의성: 기존 아이디어 결합 (AI 가능)
  변환적 창의성: 개념 공간 자체 재구성 (AI 한계)
→ 창의성의 의미 문제: 생성 결과의 목적·의미·의도 부재

AGI (인공 일반 지능) 논쟁:
→ 현재 AI: 좁은 인공지능 (Narrow AI)
→ AGI 정의: 모든 인지 과제에서 인간 수준 이상
→ 의식·주관성·일반화의 문제
  중국어 방 (John Searle): 구문 ≠ 의미론
  계산 기능주의: 올바른 기능 실현 = 마음

인지과학의 응용

교육에서의 인지과학:
→ 기억 연구 기반 학습 전략:
  간격 효과 (Spacing Effect): 분산 학습이 집중 학습보다 효과적
  인출 연습 (Retrieval Practice): 테스트가 재학습보다 효과적
  정교화 (Elaborative Interrogation): "왜?"를 묻는 학습
  교차 연습 (Interleaving): 여러 개념 섞어 연습
→ 인지 부하 이론 (CLT, Sweller):
  작업 기억 한계 → 내재적·외재적·생성적 부하 구분
  UX·교육 자료 설계에 활용
→ 성장 마인드셋 (Dweck): 능력은 노력으로 변한다는 믿음
  신경 가소성 이해가 마인드셋 변화에 도움

UX와 인지과학:
→ 인지 편향의 UX 활용:
  기본값 효과: 원하는 선택을 기본값으로 설정
  앵커링: 첫 제시 가격이 판단 기준점
  사회적 증거: "다른 사람들도 선택했습니다"
  희소성 효과: "남은 재고 2개"
→ 색깔·형태·레이아웃의 인지적 효과:
  게슈탈트 원리: 근접성·유사성·완결성
  시선 추적 연구: F형 패턴·시선 고정점
→ 디자인 윤리: 다크 패턴 vs 사용자 복지

정신 건강과 인지과학:
→ 인지 행동 치료 (CBT)의 인지과학 기반:
  자동적 사고·인지 왜곡 수정
  노출 요법: 공포 기억의 소거 학습
→ 마음챙김 (Mindfulness)의 신경과학:
  디폴트 모드 네트워크 활동 변화
  편도체 반응성 감소·전전두피질 활성화
→ 디지털 치료제 (Digital Therapeutics):
  CBT 기반 앱·VR 노출 치료
  AI 상담 챗봇의 윤리·한계

인지 증강 (Cognitive Enhancement):
→ 뇌-컴퓨터 인터페이스 (BCI):
  침습적: 신경 피질 전극 (Neuralink)
  비침습적: EEG 기반 뇌파 제어
  응용: 마비 환자 보조·신경 피드백·기억 보조
→ 약물적 증강:
  각성제 (모다피닐·리탈린): 단기 집중력 향상
  BDNF: 뇌 신경 성장 인자 관련 연구
→ 기억 보조 기술:
  지속적 녹화·라이프로깅
  외부 기억 (Extended Mind Theory, Clark & Chalmers)

의식의 과학:
→ 어려운 문제 (Hard Problem, Chalmers):
  "왜 물리 과정이 주관적 경험을 낳는가?"
  기능적 설명만으로는 설명 불가
→ 통합 정보 이론 (IIT, Tononi):
  Φ (파이): 정보 통합의 정도 = 의식의 정도
  식물 상태·AI 의식 측정 가능성
→ 글로벌 작업 공간 이론 (GWT, Baars):
  의식 = 전 뇌 브로드캐스팅 시스템
→ 신경 상관물 (NCC):
  의식 경험과 함께하는 신경 활동
  fMRI·EEG·MEG로 탐색 중

자주 묻는 질문

Q. LLM(ChatGPT 등)이 진짜 ‘이해’를 하고 있는 건가요? A. 이 질문은 인지과학·철학·AI 연구의 가장 뜨거운 논쟁 중 하나입니다. “이해”가 무엇인지 정의부터 논쟁이 됩니다. 기능주의적 관점에서는 “입력에 적절히 반응하는 시스템”이면 이해하는 것으로 볼 수 있고, 이 기준에서 LLM은 상당한 수준의 이해를 보입니다. 반면 철학자 존 설(John Searle)의 중국어 방 논증은 “구문(문자 조작)은 의미론(이해)이 아니다”라고 주장합니다. LLM은 통계적 패턴을 학습했을 뿐 의미를 ‘이해’한다고 볼 수 없다는 것입니다. 경험적 증거를 보면, LLM은 유사 과제 변형에서 예상치 못한 실패를 보이고(체계적 일반화 실패), 인과 추론에서 일관성 없는 오류를 냅니다. 또한 자기 자신의 오류를 스스로 감지하는 메타인지 능력이 매우 제한적입니다. 현재 연구자들의 대체적 합의는 “LLM은 언어적 이해처럼 보이는 것을 생성하지만, 인간의 개념적 이해·실체화된 이해·인과적 이해와는 다르다”입니다. 그러나 이 경계 자체도 연구가 진행되면서 계속 흐릿해지고 있습니다.

Q. 인지과학을 공부하면 실제로 어디에 쓸 수 있나요? A. 인지과학은 이제 매우 실용적인 학문입니다. UX/프로덕트 디자인 분야에서는 인지 편향·시선 추적·인지 부하 이론을 제품 설계에 직접 적용합니다. 구글·애플·쿠팡의 UI 팀에 인지과학 전공자가 있습니다. AI·자연어처리 분야에서는 인간 언어 처리·기억 모델·주의 메커니즘이 AI 아키텍처 설계에 영감을 줍니다. 트랜스포머 모델의 어텐션 메커니즘 자체가 인지과학의 선택적 주의 이론에서 영감을 받았습니다. 교육 기술(EdTech) 분야에서는 간격 효과·인출 연습·인지 부하 이론을 적용한 학습 앱(Duolingo·Anki) 설계에 활용됩니다. 광고·마케팅에서는 소비자 의사결정 편향을 이해하고 넛지 기반 캠페인을 설계합니다. 정신 건강 서비스에서는 CBT 기반 디지털 치료제, AI 지원 상담 서비스 설계에 필요합니다. 뇌-컴퓨터 인터페이스와 신경 기술 분야는 인지과학의 가장 최전선 응용으로, 스타트업과 투자가 급증 중입니다. 인지과학은 단독 전공보다 심리학·CS·신경과학·철학과 결합할 때 더 강력한 경쟁력이 됩니다.