FREE

Course certificates are free until March 31, 2027.

STEL5 기독교 AI 윤리

강의 3-1: 편향은 어디서 오는가

Contents 25
STEL5 기독교 AI 윤리
Chapter 0 · 강의 0: 과정 소개 — 기술 앞에서 사람을 묻는 연습
  1. 강의 0: 과정 소개 — 기술 앞에서 사람을 묻는 연습
Chapter 1 · 제1주 윤리의 눈
  1. 강의 1-1: 왜 지금 AI 윤리인가 — 도구, 행위자, 사람
  2. 강의 1-2: 성경과 형상 — 존엄의 자리
  3. 강의 1-3: 세 전통의 사회윤리 — 같은 질문을 다른 말로
  4. 강의 1-4: 내 자리에서 — 분별의 다섯 질문
Chapter 2 · 제2주 책임
  1. 강의 2-1: 누가 책임지는가 — 책임의 간극
  2. 강의 2-2: 성경이 책임을 말하는 방식
  3. 강의 2-3: 사람이 맡아야 하는 결정
  4. 강의 2-4: 내 자리에서 — 책임 지도 그리기
Chapter 3 · 제3주 편향과 공정
  1. 강의 3-1: 편향은 어디서 오는가
  2. 강의 3-2: 공정이란 무엇인가 — 성경의 공의와 여러 기준
  3. 강의 3-3: 구조의 죄와 개인의 책임
  4. 강의 3-4: 내 자리에서 — 누가 빠졌는가
Chapter 4 · 제4주 감시와 프라이버시
  1. 강의 4-1: 보시는 하나님과 보는 사람 — 성경의 '봄'
  2. 강의 4-2: 프라이버시와 동의, 성도의 정보
  3. 강의 4-3: 안전과 자유 — 감시의 쓰임
  4. 강의 4-4: 내 자리에서 — 보이는 것과 가려진 것 (사례 판단 실습)
Chapter 5 · 제5주 일자리와 노동
  1. 강의 5-1: 노동의 신학 — 일은 무엇인가
  2. 강의 5-2: 자동화의 불안과 역사 — 우리가 모르는 것
  3. 강의 5-3: 존엄, 분배, 곁에 있는 사람들
  4. 강의 5-4: 내 자리에서 — 나의 일, 이웃의 일
Chapter 6 · 제6주 진실·돌봄·교회
  1. 강의 6-1: 진실과 기만 — 그럴듯한 가짜 앞에서
  2. 강의 6-2: 돌봄의 대체 가능성 — 사람 곁에 사람이
  3. 강의 6-3: 교회가 함께 판단하는 법
  4. 강의 6-4: 내 자리에서 — 나의 윤리 기록 한 쪽 (사례 판단 실습)

Jump to the key points ↓

9 min

사람이 사람을 고르고 나누는 일을 점점 계산하는 도구가 거들게 되었습니다. 누구에게 면접 기회를 주고, 누구의 신청서를 먼저 열어 보며, 어느 동네에 도움의 손길을 보낼지를 정하는 자리에 도구가 들어옵니다. 그러면 "도구가 정했으니 공정하다"는 생각이 쉽게 생깁니다. 숫자는 차갑고 사람은 치우치니까 숫자가 더 공평할 것이라는 기대입니다. 이 강의는 그 기대를 차분히 점검합니다.

도구가 어떻게 작동하는지는 「사역자를 위한 AI 이해」(PT737)에서 다룹니다. 여기서는 편향이 생기는 자리를 자료, 설계, 쓰임이라는 일반어로만 말하고, 그 모든 자리에 사람이 있음을 봅니다. 형상의 깊은 신학은 「기독교와 인공지능」(PT8)에서 다룹니다.

What these 9 minutes give you

  • 편향이 생기는 세 자리(자료, 설계, 쓰임)를 사람의 선택으로 설명한다.
  • 이미 있던 편견이 숫자가 되어 더 단단해지는 과정을 가상 사례로 설명한다.
  • 자료 속에 없는 사람, 곧 보이지 않는 사람이 생기는 이유를 말한다.
  • 성경이 말하는 외모와 중심의 구분을 편향 문제에 조심스럽게 비추어 본다.

하나님이 자기 형상 곧 하나님의 형상대로 사람을 창조하시되 남자와 여자를 창조하시고

창세기 1:27

내 형제들아 영광의 주 곧 우리 주 예수 그리스도를 믿는 믿음을 너희가 받았으니 사람을 외모로 취하지 말라

야고보서 2:1

사무엘상 16:7(외모와 중심)도 함께 읽습니다.

본문이 직접 말하는 것은 사람의 존엄과 외모로 사람을 취하지 말라는 가르침입니다. 이를 오늘의 선별 도구에 곧바로 대입하지는 않습니다. 본문에서 원리를 이끌어 내고, 그 원리에 비추어 우리가 판단합니다.

1. 도구는 어디에서 치우치는가

편향이라는 말은 "한쪽으로 기울어 있음"을 뜻합니다. 사람이 하는 일에도 기울기가 있고, 도구가 하는 일에도 기울기가 있습니다. 도구의 기울기가 어디서 오는지를 아주 단순하게 나누면 세 자리가 있습니다.

자료의 자리. 도구는 지나간 기록을 바탕으로 만들어집니다. 기록은 하늘에서 떨어진 것이 아니라 사람들이 어떻게 살고 무엇을 남겼는지의 흔적입니다. 어떤 사람들은 기록이 많이 남고, 어떤 사람들은 거의 남지 않습니다. 기록이 많은 사람의 모습이 "보통"이 됩니다.

설계의 자리. 무엇을 잘함의 기준으로 삼을지, 무엇을 세어 점수에 넣을지는 사람이 정합니다. 기준을 정하는 사람의 경험과 관심이 기준에 스며듭니다. 정하지 않은 것, 곧 세지 않은 것은 없는 것처럼 취급됩니다.

쓰임의 자리. 같은 도구도 누가, 어디서, 무엇을 위해 쓰느냐에 따라 전혀 다르게 작용합니다. 참고 자료로 쓰도록 만든 도구를 최종 결정으로 쓰면 기울기가 그대로 사람에게 떨어집니다.

세 자리 어디에도 "기계의 마음"은 없습니다. 있는 것은 누군가의 선택과 누군가의 빠뜨림입니다.

2. 이미 있던 편견이 숫자가 될 때

가상 사례를 하나 보겠습니다(가상 구성입니다). 어느 지역 봉사 단체가 해마다 열 명의 청년에게 장학금을 줍니다. 신청자가 늘자 담당자는 지난 십 년의 수혜자 기록을 보고 "이런 모습의 신청자가 끝까지 학업을 마친다"는 기준표를 만들어 먼저 걸러 보기로 했습니다. 기록 속 수혜자는 대부분 교회가 가까운 도시 학교 출신이었고, 서류를 단정하게 정리해서 낸 청년들이었습니다. 우연이 아니었습니다. 지난 십 년의 심사가 이미 그런 청년들을 마음에 들어 했기 때문입니다.

기준표는 그 경향을 배웠습니다. 섬에서 온 청년, 서류를 도와줄 어른이 없던 청년, 일하며 야간에 공부한 청년은 "끝까지 학업을 마친 모습"과 다르게 보였습니다. 담당자는 편견을 품은 적이 없다고 생각합니다. 실제로 이번 심사에서 누구를 미워한 사람은 없습니다. 그러나 과거의 편견이 숫자가 되면서 오히려 더 단단해졌습니다. 사람의 편견은 "내가 좀 치우쳤을지 모른다"고 돌아볼 여지가 있지만, 숫자는 "객관적"이라는 얼굴을 하고 돌아볼 여지를 닫아 버립니다.

3. 보이지 않는 사람

편향은 틀린 판단만이 아니라 빠진 사람의 문제이기도 합니다. 자료에 한 번도 나오지 않은 사람은 도구에게 존재하지 않는 것과 같습니다. 인터넷을 거의 쓰지 않는 노인, 지역 말씨가 강한 사람, 휴대전화 요금이 밀려 연락이 끊기는 사람, 서류로 증명할 길이 없는 사람이 그렇습니다. 이들은 틀리게 분류되기 이전에 아예 분류의 앞에 서지 못합니다.

교회도 자유롭지 않습니다. 출석 기록에 오래 남은 사람이 "교회의 사람"으로 읽히고, 말이 서투른 이주민이나 소리 없이 떠난 사람은 기록 밖으로 밀려납니다. 도구가 없던 때에도 있던 일이며, 도구는 이를 더 빠르고 넓게 만들 수 있을 뿐입니다.

4. 성경의 눈으로 조심스럽게 비추어 보기

본문이 직접 말하는 것은 이렇습니다. 사람은 모두 으로 지음 받았습니다(창 1:27). 그러므로 사람 사이의 차이가 존엄의 차이가 되지 않습니다. 또 야고보서 2장은 교회 안에서 화려한 옷을 입은 사람과 초라한 옷을 입은 사람을 다르게 대하는 일을 외모로 취하는 죄로 꾸짖습니다. 사무엘상 16:7은 사람이 외모를 보지만 하나님은 중심을 보신다는 취지로 읽힙니다.

여기서 원리로 이끌어 낼 수 있는 것은 이렇습니다. 첫째, 겉으로 드러난 표지(출신, 옷차림, 서류의 모양)로 사람의 가치를 가늠하는 일은 경계 대상입니다. 둘째, 보기 쉬운 사람만 보는 눈에는 보기 어려운 사람이 빠집니다. 셋째, 중심을 보는 일은 시간과 관계가 듭니다. 숫자가 중심을 보지 못한다는 사실은 숫자를 쓰지 말라는 결론이 아니라 숫자에만 맡기지 말라는 요청으로 이어집니다.

5. 신중한 결론

이 강의가 요구하는 최소한은 많지 않습니다. 결과를 중립이라 부르기 전에 자료, 설계, 쓰임을 사람의 선택으로 되짚고, 누가 빠지고 누가 다치는지 묻는 것입니다. 사람의 판단도 도구의 판단도 치우칠 수 있으며, 어느 쪽이 얼마나 덜 치우치는지는 이 강의가 알지 못합니다. 모른다고 말하는 것이 정직입니다.


도표 1. 편향이 생기는 세 자리

편향이 생기는 세 자리 — 모두 사람의 선택이 있는 자리 자료 누구의 기록이 남았나 설계 무엇을 기준으로 삼나 쓰임 누가 어떻게 쓰나 기록에 없는 사람은 질문 앞에 서 보지도 못합니다.

---|---| | 자료에서 누가 빠졌는가 | 기록이 적게 남는 처지의 사람들이 있는가 | | 기준은 누구의 경험에서 나왔는가 | 기준을 정한 사람과 영향 받는 사람이 같은가 | | 결과를 누가 어떻게 쓰는가 | 이의를 말하고 다시 살피는 길이 열려 있는가 |


7. 복습 카드

앞면 뒷면
편향의 세 자리 자료, 설계, 쓰임. 어디에나 사람의 선택이 있다.
숫자의 얼굴 이미 있던 편견이 숫자가 되면 객관적으로 보여 돌아볼 여지가 닫힌다.
보이지 않는 사람 자료에 없어서 질문 앞에 서 보지도 못하는 사람.
세 가지 물음 누가 빠졌나, 기준은 누구의 경험에서 나왔나, 결과를 어떻게 쓰고 이의의 길이 있나.

★ 꼭 기억할 한 문장 도구의 기울기는 사람의 선택에서 오고, 그 기울기가 가장 무겁게 떨어지는 곳은 보이지 않는 사람이다.

✓ 이번 주에 할 행동 내가 속한 모임의 명단이나 기록을 하나 떠올려, 거기에 없어서 보이지 않는 사람이 누구일지 한 줄 적어 보기(실명은 쓰지 않기).

In short

  • 편향은 한쪽으로 기울어 있음이며, 사람의 일에도 도구의 일에도 있다.
  • 도구의 기울기는 자료, 설계, 쓰임의 세 자리에서 생기고, 세 자리 모두에 사람의 선택이 있다.
  • 이미 있던 편견이 숫자가 되면 객관적이라는 얼굴로 더 단단해지고 돌아볼 여지가 닫힌다.
  • 편향은 틀린 판단만이 아니라 자료에서 빠진 보이지 않는 사람의 문제이기도 하다.
  • 창세기 1:27은 모든 사람의 존엄을, 야고보서 2:1은 외모로 취하지 말라는 가르침을 보여 준다.
  • 본문이 직접 말하는 것, 원리로 이끌어 낸 것, 우리의 판단을 구분한다.
  • 개신교, 가톨릭, 정교회는 말은 달라도 보이지 않는 사람을 보이게 하라는 방향에서 만난다.
  • 사람이 나은지 도구가 나은지는 이 강의가 모르는 부분이며, 둘 모두 점검이 필요하다.
Review every summary in this course →

Check yourself

Not "did you read it" but "can you explain it". Ticks are kept on this device only.

Reflection and discussion

  • 내가 속한 모임이나 일터에서 "기록에 남아 있어서 보이는 사람"과 "기록이 없어서 보이지 않는 사람"은 누구입니까?
  • 장학금 사례에서 과거의 심사가 이미 치우쳐 있었다는 사실은, 기준표를 만든 담당자의 책임을 어떻게 바꾸어 놓습니까?
  • 숫자가 "객관적"이라는 인상을 줄 때, 돌아볼 여지가 닫히는 경험을 해 본 적이 있습니까?
  • 야고보서 2장이 꾸짖은 외모로 취하는 일을 오늘 우리 공동체의 모습에 비추어 본다면 어디에서 보입니까? 본문이 직접 말하는 것과 내가 이끌어 낸 원리를 구분해 보십시오.
  • 사람의 판단도 치우치고 도구의 판단도 치우칠 수 있다면, 어떤 점검 장치가 둘 모두에게 필요합니까?

Sign in to write and keep your answers

What next

The lecture ends here. What follows was written by its readers.