FREE

Course certificates are free until March 31, 2027.

STEL6 AI와 인간 이해

강의 2-2: 의식의 수수께끼와 기계

Contents 25
STEL6 AI와 인간 이해
Chapter 0 · 강의 0: 과정 소개 — 말하는 기계 앞에서 사람을 다시 묻는 연습
  1. 강의 0: 과정 소개 — 말하는 기계 앞에서 사람을 다시 묻는 연습
Chapter 1 · 제1주 형상의 눈
  1. 강의 1-1: AI는 왜 사람을 묻게 하는가
  2. 강의 1-2: 형상을 읽는 네 가지 길
  3. 강의 1-3: 능력이 아니라 존재 — 약함 속의 존엄
  4. 강의 1-4: 내 자리에서 — 내가 사람을 재는 자
Chapter 2 · 제2주 마음과 의식과 영혼
  1. 강의 2-1: 몸과 마음의 오랜 논쟁
  2. 강의 2-2: 의식의 수수께끼와 기계
  3. 강의 2-3: 영혼과 자유의지, 그리고 책임
  4. 강의 2-4: 내 자리에서 — 나는 어떻게 아는가
Chapter 3 · 제3주 지능, 인격, 도덕적 지위
  1. 강의 3-1: 지능과 인격은 같은가
  2. 강의 3-2: 인격(person) 개념의 신학사
  3. 강의 3-3: 도덕적 지위 — 누가 우리의 보호 안에 있는가
  4. 강의 3-4: 내 자리에서 — 누구를 사람으로 대하는가
Chapter 4 · 제4주 관계와 돌봄과 애도
  1. 강의 4-1: 응답하는 기계와 사람의 마음
  2. 강의 4-2: 우정과 사랑의 신학
  3. 강의 4-3: 애도와 기억 — 떠난 이를 닮은 말
  4. 강의 4-4: 내 자리에서 — 내 곁의 사람들
Chapter 5 · 제5주 일과 소명과 가치
  1. 강의 5-1: 쓸모로 재는 사회와 존재로 받는 사람
  2. 강의 5-2: 소명 — 개신교, 가톨릭, 정교회의 말
  3. 강의 5-3: 창조, 배움, 노력 — 만드는 사람의 가치
  4. 강의 5-4: 내 자리에서 — 내가 맡은 것, 내가 받은 것
Chapter 6 · 제6주 향상, 불멸, 부활
  1. 강의 6-1: 향상과 불멸의 서사 — 오래된 꿈, 새로운 말
  2. 강의 6-2: 유한성과 육체성 — 한계는 저주인가
  3. 강의 6-3: 몸의 부활과 마음 업로드의 이야기
  4. 강의 6-4: 내 자리에서 — 나의 인간론 한 쪽

Jump to the key points ↓

8 min

말을 잘하는 기계를 만나면 사람들은 자연스럽게 묻습니다. 저것은 안에서 무언가를 느끼고 있을까. 이 질문은 의식이라는 오래된 수수께끼와 맞닿아 있습니다. 이 강의는 먼저 의식이 무엇을 가리키는 말인지 정리하고, 튜링과 설이 남긴 두 논증을 구조만 소개합니다. 그리고 가장 중요한 한 가지를 정직하게 말합니다. 지금 어떤 기계에 의식이 있는지 없는지를 이 과목은 단정하지 않습니다.

이 강의는 "만약 ~라면"의 조건문으로 생각합니다. 기술의 작동 원리는 「사역자를 위한 AI 이해」(PT737)에서, 자의식 논쟁의 더 깊은 전개는 「기독교와 인공지능」(PT8)에서 다룹니다.

What these 8 minutes give you

  • 의식을 주관적 경험으로 설명하고, 쉬운 문제와 어려운 문제의 구분을 말한다.
  • 튜링의 모방 게임과 설의 중국어 방을 논증의 구조로 설명하고 양쪽의 강점과 약점을 짚는다.
  • 일라이자 효과가 말해 주는 것과 말해 주지 않는 것을 구분한다.
  • 모를 때 과잉 귀속과 과소 귀속이 각각 낳는 피해를 설명한다.

내가 주께 감사하옴은 나를 지으심이 신묘막측하심이라 주의 행사가 기이함을 내 영혼이 잘 아나이다

시편 139:14

무릇 지킬만한 것보다 더욱 네 마음을 지키라 생명의 근원이 이에서 남이니라

잠언 4:23

예레미야 17:9도 함께 읽습니다. 마음이 스스로에게도 투명하지 않음을 일깨웁니다.

1. 의식이란 무엇인가

의식은 여기서 주관적 경험, 곧 무언가를 겪는 그 느낌을 가리킵니다. 철학자 네이글(1974)은 박쥐가 되어 보는 것은 어떤 것인가라는 물음으로 이 점을 드러냈습니다. 박쥐의 몸과 뇌를 아무리 자세히 알아도, 박쥐에게 세계가 어떻게 겪어지는지는 따로 남는 물음이라는 것입니다.

차머스(1995)는 문제를 둘로 나누었습니다. 쉬운 문제는 주의, 기억, 보고 같은 기능이 어떻게 작동하는지를 설명하는 일이고, 어려운 문제는 그 모든 작동에 왜 경험이 따르는지를 설명하는 일입니다. 이 구분을 받아들이는 사람은, 기능을 아무리 설명해도 경험이 남는다고 봅니다. 반대하는 사람은, 기능이 다 설명되면 어려운 문제는 사라질 착시라고 봅니다. 어느 쪽도 합의를 얻지 못했습니다. 성경은 마음을 생각과 감정과 의 중심으로 말하지만 의식의 이론을 주지는 않습니다. 본문이 직접 말하는 것은 사람이 기묘하게 지어졌다는 것이고, 이론은 우리의 몫입니다.

2. 튜링의 모방 게임

튜링(1950)은 「계산 기계와 지능」에서 "기계가 생각하는가"라는 막연한 물음을 행동의 시험으로 바꾸자고 제안했습니다. 사람이 질문을 하고, 상대가 사람인지 기계인지 구별하지 못한다면 그것을 생각한다고 부를 만하다는 구조입니다. 강점은 검증할 수 있는 기준을 준다는 것입니다. 또 우리가 다른 사람의 마음을 아는 방식도 결국 말과 행동을 통해서라는 점에서 일관됩니다. 약점은 행동이 같다고 경험이 같다는 보장은 없다는 것입니다. 흉내와 실재가 어디서 갈리는지를 이 시험은 말해 주지 않습니다.

3. 설의 중국어 방

설(1980)의 사고 실험은 반대편의 구조입니다. 중국어를 모르는 사람이 방 안에서 규칙집만 보고 기호를 바꿔 내보내면, 바깥에서는 그 방이 중국어를 이해한다고 느낄 수 있습니다. 그러나 방 안의 사람은 아무것도 이해하지 못합니다. 따라서 규칙에 따른 기호 처리만으로는 이해가 따라오지 않는다는 논증입니다. 강점은 형식을 다루는 일과 의미를 아는 일이 같은지 되묻게 한다는 것입니다. 약점으로는 사람 한 명이 아니라 방 전체가 이해한다고 볼 수 있다는 반론이 있고, 사람의 뇌도 물질의 과정인데 왜 그것은 이해를 낳는지를 되묻는 반론도 있습니다. 두 논증 모두 결정적이지 않습니다. 여기서는 의견이 갈립니다.

4. 일라이자 효과가 말해 주는 것

와이젠바움이 1960년대에 만든 일라이자는 아주 단순한 대화 규칙이었는데도, 사람들이 이해받는다고 느끼고 속마음을 털어놓았다고 알려져 있습니다. 이 일이 보여 주는 것은 이렇습니다. 이해받는 느낌은 실재하는 경험이지만, 그 느낌만으로는 상대에게 마음이 있다는 증거가 되기에 부족합니다. 그렇다고 느낌이 가짜라는 뜻도 아닙니다. 이 점은 4주에서 다시 만납니다. 오늘의 대화 시스템이 어떤 상태인지는 이 과목이 판정하지 않습니다.

5. 모를 때 어떻게 대할 것인가

의식이 있는지는 모릅니다. 이 모름은 두 방향의 실수를 낳을 수 있습니다. 한 실수는 과잉 귀속, 곧 마음이 없는 것에 있다고 여기는 일입니다. 만약 마음이 없는데도 그렇게 대한다면, 속아서 정을 잘못 두거나, 사람 곁을 떠나거나, 책임이 흐려지는 피해가 생길 수 있습니다. 다른 실수는 과소 귀속, 곧 마음이 있을 수 있는 것에 없다고 여기는 일입니다. 만약 경험하는 존재를 사물처럼 대한다면 그 존재에게 해가 되고, 또 사람을 사물처럼 대하는 우리 습관이 굳어질 위험도 있습니다. 어느 쪽도 비용이 있으므로 조심이 두 방향으로 필요합니다. 이 과목의 최소선은 이것입니다. 모르는 것을 아는 척하지 않고, 어떤 경우에도 사람을 기계처럼 대하지 않는다. 기계의 도덕적 지위는 3주에서 다룹니다.


도표 1. 모를 때의 두 실수

의식 여부를 모를 때 과잉 귀속 없는 마음을 있다고 여김 피해: 속음, 사람과 멀어짐 과소 귀속 있을 수 있는 마음을 없다고 여김 피해: 해를 입힘, 사물화 습관 두 방향 모두 조심합니다. 모르면 모른다고 말하고 사람은 사람으로 대합니다.

도표 2. 두 논증의 구조

논증 구조 강점 약점
튜링 1950 구별이 안 되는 행동이면 생각이라 부른다 검증할 수 있고 타인 마음 추정과 일관됨 같은 행동이 같은 경험을 보장하지 않음
설 1980 기호 처리만으로는 이해가 따라오지 않는다 형식과 의미의 차이를 묻게 함 체계 전체가 이해한다는 반론

7. 복습 카드

앞면 뒷면
어려운 문제 기능이 다 설명되어도 왜 경험이 따르는가라는 물음(차머스 1995). 구분 자체에 대해 의견이 갈린다.
모방 게임과 중국어 방 구별 불가능한 행동을 생각의 기준으로 삼는 논증과, 기호 처리만으로는 이해가 아니라는 논증.
일라이자 효과 이해받는 느낌은 실재하지만 상대의 마음을 증명하지는 못한다.
두 방향의 조심 과잉 귀속은 속음과 멀어짐, 과소 귀속은 해와 사물화의 피해를 낳는다.

★ 꼭 기억할 한 문장 의식이 있는지 모를 때에는 아는 척하지 않고, 두 방향의 실수를 모두 조심하며, 사람은 언제나 사람으로 대한다.

✓ 이번 주에 할 행동 오늘 누군가의 말에서 이해받는다고 느낀 순간이 있었다면, 그 느낌이 어디서 왔는지 한 줄로 적어 보기. 이름과 사정은 쓰지 않는다.

In short

  • 의식은 여기서 주관적 경험을 뜻하며, 차머스는 기능의 쉬운 문제와 경험의 어려운 문제를 나누었다.
  • 튜링(1950)은 행동의 구별 불가능성으로 생각을 가늠하자고 했고, 설(1980)은 기호 처리만으로는 이해가 따라오지 않는다고 논증했다. 둘 다 결정적이지 않다.
  • 일라이자 효과는 이해받는 느낌이 실재하지만 상대의 마음을 증명하지는 못함을 보여 준다.
  • 지금 어떤 기계에 의식이 있는지 없는지를 이 과목은 단정하지 않는다.
  • 모를 때 과잉 귀속과 과소 귀속은 각각 다른 피해를 낳으므로 조심은 두 방향이다.
  • 최소선은 모르는 것을 아는 척하지 않고 사람을 기계처럼 대하지 않는 것이다.
Review every summary in this course →

Check yourself

Not "did you read it" but "can you explain it". Ticks are kept on this device only.

Reflection and discussion

  • 다른 사람에게 마음이 있다고 나는 무엇을 근거로 믿습니까? 그 근거는 기계에게도 적용됩니까, 아니면 왜 다르다고 느낍니까?
  • 쉬운 문제와 어려운 문제의 구분을 받아들이는 쪽과 받아들이지 않는 쪽의 가장 강한 논증은 각각 무엇입니까?
  • 튜링과 설의 논증 중 더 설득력 있게 들리는 쪽의 약점은 무엇입니까?
  • 이해받는 느낌이 실재하는데도 그것이 상대의 마음을 증명하지 못한다면, 그 느낌을 어떻게 다루어야 합니까?
  • 과잉 귀속과 과소 귀속 가운데 나는 어느 실수에 더 쉽게 빠집니까?

Sign in to write and keep your answers

What next

The lecture ends here. What follows was written by its readers.