강의 2-2: 낡은 지식, 빠진 자료, 치우침
Contents 25
- 강의 1-1: AI라는 말이 가리키는 것
- 강의 1-2: 언어 모델은 어떻게 말을 만드는가
- 강의 1-3: 아는 것 같지만 아는 것이 아니다
- 강의 1-4: 내 자리에서 — 가상 대화 읽기
- 강의 5-1: 설교와 AI — 누구의 말씀을 섬기는가
- 강의 5-2: 돌봄과 상담 — 사람이 곁에 앉는 일
- 강의 5-3: 교인과 청소년이 AI를 쓸 때 — 대화 상대가 되는 사역자
- 강의 5-4: 내 자리에서 — 사역 장면 판단과 한 문단 입장문
환각이 "없는 것을 만들어 내는" 한계라면, 이번 강의의 한계는 "있어도 보지 못하거나, 있는 것이 한쪽으로 쏠려 보이는" 한계입니다. 대화형 AI는 어느 시점까지의 글로 배웠고, 그 글은 세상 모든 글이 아니라 쓰이고 모이고 선택된 글입니다. 그래서 도구의 답에는 배운 시점의 그늘과 자료의 쏠림이 묻어납니다.
사역자에게 이것은 구체적인 문제입니다. 교회 행정의 최근 변화, 지역의 사정, 작은 전통의 예배 방식, 우리말로 쓰인 자료의 수준에서 도구의 답이 어긋날 수 있습니다. 이 강의는 세 가지, 곧 학습 시점, 자료의 쏠림, 소수 전통의 평평해짐을 살핍니다. 편향을 둘러싼 윤리적 논증은 하지 않습니다. 그 논증은 「기독교 AI 윤리」(STEL5)에서 다룹니다. 여기서는 그것이 출력에 어떻게 나타나는지 알아보는 데까지만 갑니다.
What these 10 minutes give you
- 학습 시점이라는 개념을 설명하고, 최근 일에 대한 답을 어떻게 다룰지 안다.
- 자료에 많이 나오는 것이 답에도 많이 나온다는 원리를 설명한다.
- 언어, 문화, 교단의 쏠림이 답에 나타나는 모습을 알아본다.
- 소수 전통이 평평하게 뭉뚱그려지는 일을 알아보고 대처하는 방법을 안다.
범사에 헤아려 좋은 것을 취하고
데살로니가전서 5:21
너희 중에 누구든지 지혜가 부족하거든 모든 사람에게 후히 주시고 꾸짖지 아니하시는 하나님께 구하라 그리하면 주시리라
야고보서 1:5
내 사랑하는 형제들아 너희가 알거니와 사람마다 듣기는 속히 하고 말하기는 더디 하며 성내기도 더디하라
야고보서 1:19
1. 책장에 날짜가 붙어 있다
도서관의 한 책장을 떠올려 봅니다. 그 책장의 책은 어느 날까지 들어온 책입니다. 그날 이후에 나온 책은 아무리 중요해도 꽂혀 있지 않습니다. 대화형 AI가 배운 글에도 그런 날짜가 있습니다. 이것을 흔히 학습 시점이라고 부릅니다.
문제는 책장이 "여기까지입니다"라고 말해 주지 않는다는 점입니다. 사람 사서라면 "그 일은 최근이라 아직 자료가 없습니다"라고 말하겠지만, 도구는 모르는 채로도 이어 쓸 수 있습니다. 한 가상의 장면입니다. 행정을 맡은 가 "올해 바뀐 교회 관련 제도를 정리해 달라"고 부탁하자 도구가 반듯한 목록을 내놓았습니다. 그런데 목록은 몇 해 전 제도의 모습이었고, 집사는 그대로 공지문에 옮겼습니다 (가상 구성입니다).
이런 일을 줄이는 방법은 단순합니다.
- 최근의 일은 도구에 묻지 않습니다. 법과 제도, 행사 일정, 기관의 현재 규정, 지금의 정세는 해당 기관이 공개한 최신 자료를 직접 봅니다.
- "지금"이 들어간 질문은 의심합니다. "현재", "올해", "요즘", "가장 최신"이 들어 있으면 도구의 답이 낡았을 수 있다고 전제합니다.
- 도구에 날짜를 알려 주는 것은 도움이 될 수 있으나 보증은 아닙니다. 내가 날짜를 말해도 도구가 그 날짜의 사실을 아는 것은 아닙니다.
2. 자료에 많은 것이 많이 나온다
1주에서 말했듯 모델은 글에서 가능성을 배웁니다. 그렇다면 글에 많이 나오는 것은 답에도 많이 나오고, 글에 적게 나오는 것은 답에도 적게 나오거나 흐릿하게 나옵니다. 이것은 마음이 있어서가 아니라 수가 만든 결과입니다.
예를 들어 보겠습니다. 인터넷에 쓰인 글의 양은 언어마다 다르고, 같은 언어 안에서도 지역과 집단마다 다릅니다. 신앙 관련 글도 마찬가지로, 어떤 언어권과 어떤 전통의 글은 풍부하고 어떤 것은 적습니다. 그 결과 가상의 이런 일이 생길 수 있습니다.
- 한국 교회의 예배 이야기를 물었는데 답이 다른 나라의 교회 풍경과 섞여 나옵니다.
- "교회는 이렇게 합니다"라는 문장 속의 '교회'가 어느 한 전통의 모습에 가까워 보입니다.
- 우리말 자료가 적은 주제는 번역된 느낌의 답이 나오거나, 영어권의 상식이 은근히 전제됩니다.
이런 쏠림은 도구가 누구를 미워해서가 아니라 자료의 분포를 닮아서 생기는 것으로 설명됩니다. 이것이 공정한지, 누가 책임져야 하는지, 어떻게 고쳐야 하는지는 중요한 문제이지만 윤리적 논증이므로 「기독교 AI 윤리」(STEL5)에서 다룹니다. 이 강의에서 필요한 것은 사용하는 사람의 태도입니다. 답이 한쪽 모습을 "모두의 모습"처럼 말하고 있지 않은지 살핍니다.
3. 소수 전통은 평평해진다
자료의 쏠림이 만드는 가장 눈에 띄는 모습은 소수 전통의 평평해짐입니다. 규모가 작거나 글이 적게 남은 전통, , 오래된 예식의 세부, 소수 언어의 신앙 표현은 답에서 짧고 일반적인 문장으로 뭉뚱그려지기 쉽습니다. 다음은 가상의 질문과 답입니다.
질문: 우리 교단의 성찬 방식에 대해 설명해 주세요. (가상 구성입니다) 답: 대부분의 교회에서는 떡과 잔을 나누며 예수님의 죽으심을 기념합니다.
답이 틀렸다고 하기는 어렵습니다. 그러나 질문한 사람이 알고 싶던 것, 곧 자기 전통이 고유하게 하는 방식과 그 까닭은 사라졌습니다. 이것이 평평해짐입니다. 가톨릭과 정교회와 개신교의 여러 갈래가 다 있는 곳에서, 많이 나오는 설명이 모두에게 해당하는 설명처럼 둔갑하기도 합니다. 2-3강에서 성경과 영역의 사례로 다시 다룹니다.
평평해짐을 알아채는 방법은 다음과 같습니다.
- 답에 "대부분", "일반적으로", "많은 교회에서"가 많으면, 내가 묻는 특정 전통의 이야기가 아닐 수 있습니다.
- 내 전통의 고유한 용어가 답에서 사라졌거나 다른 말로 바뀌어 있으면 확인합니다.
- 답을 내 전통의 공식 자료(교단의 문서, 예식서, 신앙고백)와 나란히 놓고 비교합니다.
4. 의견이 갈립니다 — 어디까지 믿고 쓸 것인가
이런 한계를 안 뒤에도 사역자들의 선택은 갈립니다. 어떤 이들은 "자료를 찾는 용도로도 믿을 수 없으니 신앙 영역에서는 쓰지 않겠다"고 합니다. 다른 이들은 "초안과 아이디어를 얻는 데만 쓰고 모든 내용을 직접 확인하겠다"고 합니다. 또 다른 이들은 "교단 자료를 직접 붙여 넣어 그 안에서만 요약하게 하겠다"고 합니다(이때도 붙여 넣는 자료에 개인 정보가 없는지 3주의 원칙으로 살핍니다). 각 전통과 교회의 방침이 다르고, 이 과목은 어느 쪽이 옳다고 정하지 않습니다.
이 과목이 요구하는 최소한은 같습니다. 한계를 알고 쓰며, 확인하지 않은 것을 내놓지 않으며, 쓴 것에 대해 사람이 책임진다.
5. 하나님께 구하는 지혜와 도구
야고보서 1장 5절은 지혜가 부족한 사람에게 하나님께 구하라고 말합니다. 이 말씀을 읽으며 도구에게 지혜를 구하는 것이 되지 않도록 마음을 지킵니다. 도구는 정보를 정리하는 데 도움이 될 수 있으나 지혜의 근원은 아닙니다. 또한 야고보서 1장 19절의 "듣기는 속히 하고 말하기는 더디 하며"는 도구의 답을 받는 자세에도 맞습니다. 빠르게 나온 답을 빠르게 믿지 않고, 천천히 살핍니다.
도표 1. 세 가지 그늘
도표 2. 평평해짐 점검표
| 점검 | 확인 |
|---|---|
| "대부분", "일반적으로"가 많아 내 전통의 고유한 모습이 사라지지 않았는가 | |
| 내 전통의 고유한 용어가 다른 말로 바뀌지 않았는가 | |
| "현재·올해"가 들어간 내용을 최신 자료로 확인했는가 | |
| 교단의 공식 문서와 나란히 놓고 비교했는가 |
7. 복습 카드
| 앞면 | 뒷면 |
|---|---|
| 학습 시점 | 도구가 배운 글의 끝 날짜. 그 뒤의 일은 모를 수 있고 모른다고 말하지 않을 수 있다. |
| 쏠림 | 자료에 많이 나오는 언어·문화·교단의 모습이 답에도 많이 나오는 현상. |
| 평평해짐 | 소수 전통의 고유한 모습이 "대부분의 교회"라는 일반 문장으로 뭉뚱그려지는 일. |
| 대응 | 최신 자료를 직접 보고, 내 전통의 공식 문서와 나란히 놓고 비교한다. |
★ 꼭 기억할 한 문장 도구의 답에는 배운 시점의 그늘과 자료의 쏠림이 묻어 있으므로, "지금"과 "우리"에 관한 내용은 내가 직접 확인한다.
✓ 이번 주에 할 행동 내 교단이나 모임의 공식 문서 한 쪽을 도구의 설명과 나란히 놓고 달라진 곳을 찾아보기.
In short
- 대화형 AI는 어느 시점까지의 글로 배웠고, 그 뒤의 일은 모를 수 있다.
- 도구는 모르는 것을 "모릅니다"라고 말하지 않고 이어 쓸 수 있다.
- 최근의 일, 현재의 제도와 일정은 해당 기관의 최신 자료를 직접 본다.
- 자료에 많이 나오는 것이 답에도 많이 나오며, 이는 수가 만든 쏠림이다.
- 소수 전통은 "대부분", "일반적으로" 같은 말로 평평하게 뭉뚱그려질 수 있다.
- 쏠림의 윤리적 논증은 「기독교 AI 윤리」(STEL5)에서 다룬다.
- 확인 방법: 최신 자료 직접 보기, 내 전통의 공식 문서와 나란히 놓고 비교하기.
- 쓸지 말지는 전통과 교회마다 다르며, 최소선은 한계를 알고 확인하고 사람이 책임지는 것이다.
Check yourself
Not "did you read it" but "can you explain it". Ticks are kept on this device only.
Reflection and discussion
- 사람 사서와 도구는 "그것은 제가 모릅니다"를 말하는 점에서 어떻게 다릅니까?
- 내 사역에서 "최근 일"이 중요한 자리(행정, 제도, 행사, 지역)는 어디입니까?
- 내 전통의 고유한 모습이 "일반적인 교회"로 설명되어 서운했던 경험이 있습니까?
- 쏠림을 알면서도 도구를 쓰기로 한다면, 나는 어떤 확인을 약속하겠습니까?
- 야고보서 1장 5절과 19절은 도구의 답을 받는 자세에 어떤 도움을 줍니까?