FREE

Course certificates are free until March 31, 2027.

PT737 사역자를 위한 AI 이해

강의 2-1: 환각 — 그럴듯하게 지어낸 말

Contents 25
PT737 사역자를 위한 AI 이해
Chapter 0 · 0강: 과정 소개 — 쓸지 말지를 분별하는 눈
  1. 0강: 과정 소개 — 쓸지 말지를 분별하는 눈
Chapter 1 · 제1주 AI란 무엇인가
  1. 강의 1-1: AI라는 말이 가리키는 것
  2. 강의 1-2: 언어 모델은 어떻게 말을 만드는가
  3. 강의 1-3: 아는 것 같지만 아는 것이 아니다
  4. 강의 1-4: 내 자리에서 — 가상 대화 읽기
Chapter 2 · 제2주 한계와 오류
  1. 강의 2-1: 환각 — 그럴듯하게 지어낸 말
  2. 강의 2-2: 낡은 지식, 빠진 자료, 치우침
  3. 강의 2-3: 성경과 신학에서 특히 조심할 곳
  4. 강의 2-4: 내 자리에서 — 오류 찾기
Chapter 3 · 제3주 묻고 확인하고 지키기
  1. 강의 3-1: 좋은 질문하기
  2. 강의 3-2: 확인하는 법
  3. 강의 3-3: 입력해도 되는 것과 안 되는 것
  4. 강의 3-4: 내 자리에서 — 질문 고치기와 입력 점검
Chapter 4 · 제4주 사역 현장 — 행정과 교육
  1. 강의 4-1: 맡길 일, 돕게 할 일, 맡기지 않을 일
  2. 강의 4-2: 행정과 소통
  3. 강의 4-3: 가르침과 연구
  4. 강의 4-4: 내 자리에서 — 맡길까 말까
Chapter 5 · 제5주 설교와 돌봄
  1. 강의 5-1: 설교와 AI — 누구의 말씀을 섬기는가
  2. 강의 5-2: 돌봄과 상담 — 사람이 곁에 앉는 일
  3. 강의 5-3: 교인과 청소년이 AI를 쓸 때 — 대화 상대가 되는 사역자
  4. 강의 5-4: 내 자리에서 — 사역 장면 판단과 한 문단 입장문
Chapter 6 · 제6주 책임 있게 오래
  1. 강의 6-1: 배우는 사람의 정직
  2. 강의 6-2: 교회·기관의 사용 방침 세우기
  3. 강의 6-3: 변하는 기술 앞에서
  4. 강의 6-4: 내 자리에서 — 나의 AI 사용 지침

Jump to the key points ↓

10 min

1주에서 우리는 대화형 AI가 방대한 글에서 다음에 올 말의 가능성을 배워 이어 쓰는 도구라는 것을 보았습니다. 이번 주는 그 원리에서 곧바로 따라 나오는 첫 번째 한계를 다룹니다. 대화형 AI는 실제로 있는 것처럼 보이는 사실, 인용, 책, 성경 구절을 없는데도 만들어 낼 수 있습니다. 이것을 흔히 환각이라고 부릅니다. 눈앞에 없는 것이 보인다는 뜻의 빌려 온 말이며, 도구가 정말로 무언가를 본다는 뜻은 아닙니다.

사역자에게 이 문제가 무거운 까닭은 우리가 말과 글을 다루는 사람들이기 때문입니다. 주보의 한 줄, 공과의 한 문장, 설교의 인용 하나가 틀리면 듣는 사람은 그것을 믿고 갑니다. 이 강의는 환각이 왜 생기는지, 언제 더 위험한지, 자신 있는 말투가 왜 근거가 되지 못하는지를 차분히 살핍니다. 겁을 주려는 것이 아니라 알고 쓰게 하려는 것입니다.

What these 10 minutes give you

  • 환각이 무엇인지 설명하고, 1주에서 배운 원리와 연결하여 왜 생기는지 말한다.
  • 환각이 특히 위험한 경우(구체적 이름, 숫자, 출처, 최근 일)를 알아본다.
  • 자신 있는 말투와 정확함이 별개임을 설명한다.
  • 환각을 없앨 수는 없으므로 확인이 사용하는 사람의 몫임을 이해한다.

사랑하는 자들아 영을 다 믿지 말고 오직 영들이 하나님께 속하였나 시험하라 많은 거짓 선지자가 세상에 나왔음이니라

요한1서 4:1

범사에 헤아려 좋은 것을 취하고

데살로니가전서 5:21

베뢰아 사람은 데살로니가에 있는 사람보다 더 신사적이어서 간절한 마음으로 말씀을 받고 이것이 그러한가 하여 날마다 성경을 상고하므로

사도행전 17:11

참고 구절: 잠언 14:15 (말을 다 믿는 어리석음과 행동을 살피는 슬기를 대비하는 구절입니다.)

1. 환각이란 무엇인가

한 가상의 장면에서 시작해 봅니다. 소그룹 인도자가 대화형 AI에게 "초대교회 교부 가운데 인내에 관해 쓴 사람의 글을 한 구절 알려 주세요"라고 물었습니다. 답은 이렇게 왔습니다. 어느 교부의 이름, 글의 제목, 그리고 따옴표 안의 아름다운 문장이었습니다. 인도자는 그 문장을 공과 첫 줄에 넣었습니다. 몇 주 뒤 을 공부하는 청년이 출처를 찾으려 했지만 그런 제목의 글은 어디에도 없었습니다 (가상 구성입니다).

이것이 환각입니다. 환각은 사실이 아닌 내용을 사실처럼 말하는 일입니다. 틀린 답을 하는 것과 비슷하지만 더 곤란한 점이 있습니다. 틀린 답은 대개 어색하거나 엉성해서 의심할 기회라도 주는데, 환각은 형식이 반듯합니다. 이름, 제목, 연도, 쪽수까지 갖춘 모양으로 오기 때문입니다.

2. 왜 생기는가 — 1주의 원리로 돌아가서

1주에서 우리는 언어 모델이 "다음에 올 말의 가능성"을 배워 이어 쓴다고 했습니다. 거기서 환각의 뿌리가 보입니다.

  • 모델은 말이 그럴듯한지를 따릅니다. "교부의 글을 알려 달라"는 요청 뒤에는 '이름, 제목, 따옴표 안의 문장'이라는 모양이 이어지는 것이 자연스럽습니다. 모양을 채우는 데 맞는 내용이 기억에 없으면, 그 자리를 그럴듯한 말로 채울 수 있습니다.
  • 모델은 "모른다"를 잘 배우지 못했을 수 있습니다. 사람이 쓴 글의 대부분은 아는 사람이 아는 투로 쓴 글입니다. 이어 쓰는 방식으로는 "여기서부터는 제가 모릅니다"라고 멈추기보다 아는 투로 계속 쓰는 쪽으로 기울기 쉽습니다. 도구에 따라 이 정도는 다르며, 줄어드는 추세일 수는 있어도 사라졌다고 믿을 근거는 없습니다.
  • 모델은 자기가 말한 것을 사실 장부와 맞춰 보지 않습니다. 사람은 말하다가 "아, 이건 책에서 본 게 아니라 들은 이야기네"라고 출처를 되짚을 수 있습니다. 대화형 AI는 기본적으로 그렇게 되짚는 장부를 따로 들고 있지 않습니다. 검색 기능을 덧붙인 도구도 있지만, 그 경우에도 찾아온 자료를 잘못 요약할 수 있습니다.

이 비유에는 한계가 있습니다. 도구 안에서 실제로 무슨 일이 벌어지는지는 이 과목이 다루는 범위를 넘으며, 위의 설명은 사역자가 판단하는 데 필요한 정도의 단순화입니다. 요점은 하나입니다. 유창하게 나온 말과 사실인 말은 같은 것이 아닙니다.

3. 어떤 때 더 위험한가

환각이 아무 때나 같은 확률로 나오는 것은 아니라고 알려져 있습니다. 사역자가 특히 경계할 곳은 다음과 같습니다.

  • 구체적인 이름과 숫자. 인물의 이름, 연도, 통계, 쪽수, 인용 문구. 일반적인 설명은 많은 글에서 비슷하게 반복되어 안정적이지만, 한 번만 나오는 구체적 사실은 흔들리기 쉽습니다.
  • 출처와 인용. 책 제목, 저자, 논문, 성경 구절의 정확한 문장. "~라고 한 책이 있습니다"는 가장 만들어 내기 쉬운 형식입니다.
  • 희귀한 주제. 작은 교단의 역사, 의 일, 덜 알려진 인물. 글이 적을수록 모델이 채우는 부분이 커집니다.
  • 최근의 일. 2-2강에서 다루겠지만, 도구가 배운 시점 뒤의 일은 모를 수 있고, 모르는 채로 그럴듯하게 말할 수 있습니다.
  • 내가 원하는 답이 있는 질문. "이 구절은 우리 교회의 입장을 지지하지요?"처럼 정해진 답을 향해 묻는 질문은 맞장구에 가까운 답을 끌어내기 쉽습니다.

반대로 이름과 숫자가 없는 일반적인 요약, 이미 내가 잘 아는 내용의 문장 다듬기는 상대적으로 덜 위험합니다. 그래도 "덜"일 뿐 "없음"은 아닙니다.

4. 자신 있는 말투는 근거가 아니다

환각에서 가장 오해하기 쉬운 점은 말투입니다. 우리는 사람에게서 망설임 없는 말투를 확신과 지식의 신호로 읽는 데 익숙합니다. 그런데 대화형 AI의 어조는 정확함과 거의 상관없이 일정하게 차분하고 단정적일 수 있습니다. 맞는 말도 틀린 말도 같은 목소리로 옵니다.

그러니 이렇게 정리해 둡니다. 어조에서 확신을 읽지 않습니다. "정말 확실합니까?"라고 되물어도 도구가 "확실합니다"라고 답할 수 있고, 반대로 괜히 "죄송합니다, 틀렸습니다"라며 맞는 말을 거둘 수도 있습니다. 되물음의 답도 말일 뿐이며 사실 확인이 아닙니다.

5. 의견이 갈리는 곳은 아니지만, 태도는 갈린다

환각을 어떻게 받아들이는가에는 두 가지 극단이 있습니다. 한쪽은 "그러니 쓰면 안 된다"이고, 다른 쪽은 "사람도 틀리는데 뭐가 문제냐"입니다. 이 과목은 그 중간을 가르칩니다. 사람의 오류는 출처를 되짚을 수 있고 책임질 사람이 있지만, 도구의 오류는 같은 모양으로 반듯하게 와서 알아채기 어렵다는 점이 다릅니다. 그래서 쓸지 말지는 3주와 4주에서 판단 틀로 다루고, 어떤 경우에도 변하지 않는 한 가지만 이번 주에 못 박아 둡니다. 확인하지 않은 것을 사람 앞에 내놓지 않는다.

6. 베뢰아 사람들의 습관

사도행전 17장은 바울의 가르침을 들은 베뢰아 사람들이 "이것이 그러한가 하여 날마다 성경을 상고"했다고 전합니다. 사도의 말을 받는 자리에서도 성경에 비추어 확인하는 일이 칭찬받았습니다. 도구의 말을 받는 우리에게는 더 말할 것이 없습니다. 요한1서가 말하는 "시험하라"와 데살로니가전서가 말하는 "헤아려"는 의심하는 성격의 문제가 아니라 듣는 사람을 지키는 사랑의 습관입니다. 3주에서 이 습관을 구체적인 방법으로 만들 것입니다.


도표 1. 환각이 나오는 길

환각이 나오는 길 (단순화한 그림) 질문 "교부의 글을 한 구절" 이어 쓰기 그럴듯한 모양을 채운다 반듯한 답 이름, 제목, 따옴표 문장 이 길에는 사실을 확인하는 칸이 기본으로 들어 있지 않다 그래서 답이 반듯해 보여도 사실이라는 보증은 아니다 확인하는 칸은 사용하는 사람이 채운다

도표 2. 환각 위험 점검표

내가 받은 답에 있는 것 위험 해야 할 일
책, 저자, 논문 이름 높음 도서관·서점 목록 등 다른 길로 실제 존재 확인
연도, 숫자, 통계 높음 믿을 만한 자료와 대조, 확인 못 하면 쓰지 않음
성경 구절의 문장 높음 내 성경 본문과 한 글자씩 대조
작은 교단·지역의 일 높음 해당 기관의 자료에 직접 확인
일반적 설명, 문장 다듬기 낮음 의미가 바뀌지 않았는지 읽어 보기

7. 복습 카드

앞면 뒷면
환각 없는 사실·인용·책·구절을 사실처럼 반듯하게 말하는 일.
환각의 뿌리 그럴듯한 말을 이어 쓰는 방식, 사실 확인 칸이 기본으로 없음.
더 위험한 것 구체적 이름·숫자·출처·희귀한 주제·최근 일, 정해진 답을 향한 질문.
어조 자신 있는 말투는 근거가 아니다. 되물은 답도 확인이 아니다.

★ 꼭 기억할 한 문장 유창하게 나온 말과 사실인 말은 같지 않으며, 그 사이를 잇는 일은 사용하는 사람의 몫이다.

✓ 이번 주에 할 행동 최근에 받은 AI 답이나 인터넷 글에서 구체적인 이름·숫자·출처 하나를 골라, 다른 길로 실제로 있는지 확인해 보기.

In short

  • 환각은 없는 사실, 인용, 책, 구절을 있는 것처럼 반듯하게 말하는 일이다.
  • 이어 쓰는 방식이므로 그럴듯함이 기준이 되고, 사실 확인 칸은 기본으로 없다.
  • 구체적 이름, 숫자, 출처, 희귀한 주제, 최근의 일에서 특히 위험하다.
  • 도구의 어조는 정확함과 상관없이 일정하게 단정적일 수 있다.
  • "확실합니까?"라고 되물은 답도 사실 확인이 아니다.
  • 환각이 줄었는지는 도구마다 다르며, 없어졌다고 믿을 근거는 없다.
  • 확인은 사용하는 사람의 몫이고, 확인하지 않은 것은 사람 앞에 내놓지 않는다.
  • 베뢰아 사람들처럼 "이것이 그러한가" 묻는 것은 의심이 아니라 듣는 사람을 지키는 사랑이다.
Review every summary in this course →

Check yourself

Not "did you read it" but "can you explain it". Ticks are kept on this device only.

Reflection and discussion

  • 내가 아는 사람이 아는 투로 틀린 말을 하여 곤란했던 적이 있습니까? 그때 무엇이 나를 믿게 만들었습니까?
  • 환각이 "이어 쓰는 방식"에서 나온다는 설명이 나의 기대(도구가 안다고 여기는 마음)를 어떻게 바꿉니까?
  • 내 사역에서 구체적 이름, 숫자, 출처가 오가는 자리는 어디입니까? 거기서 확인은 누가 합니까?
  • 베뢰아 사람들의 습관을 오늘 나의 사역에서 한 가지 실천으로 옮긴다면 무엇이 되겠습니까?
  • 도구가 틀린 말을 하면 누가 책임을 집니까? 그것이 내 확인 습관에 어떤 뜻을 줍니까?

Sign in to write and keep your answers

What next

The lecture ends here. What follows was written by its readers.