강의 1-1: 왜 지금 AI 윤리인가 — 도구, 행위자, 사람
Contents 25
- 강의 1-1: 왜 지금 AI 윤리인가 — 도구, 행위자, 사람
- 강의 1-2: 성경과 형상 — 존엄의 자리
- 강의 1-3: 세 전통의 사회윤리 — 같은 질문을 다른 말로
- 강의 1-4: 내 자리에서 — 분별의 다섯 질문
- 강의 3-1: 편향은 어디서 오는가
- 강의 3-2: 공정이란 무엇인가 — 성경의 공의와 여러 기준
- 강의 3-3: 구조의 죄와 개인의 책임
- 강의 3-4: 내 자리에서 — 누가 빠졌는가
- 강의 4-1: 보시는 하나님과 보는 사람 — 성경의 '봄'
- 강의 4-2: 프라이버시와 동의, 성도의 정보
- 강의 4-3: 안전과 자유 — 감시의 쓰임
- 강의 4-4: 내 자리에서 — 보이는 것과 가려진 것 (사례 판단 실습)
- 강의 5-1: 노동의 신학 — 일은 무엇인가
- 강의 5-2: 자동화의 불안과 역사 — 우리가 모르는 것
- 강의 5-3: 존엄, 분배, 곁에 있는 사람들
- 강의 5-4: 내 자리에서 — 나의 일, 이웃의 일
인공지능이라는 말을 들으면 많은 사람이 먼저 기계를 떠올립니다. 그런데 일터에서 일정이 바뀌고, 학교에서 과제의 규칙이 달라지고, 교회에서 명단과 영상과 문서를 다루는 방식이 달라질 때 실제로 부딪히는 문제는 기계의 문제가 아니라 사람의 문제입니다. 누가 이것을 맡기로 했는가, 누가 이 일로 이익을 보고 누가 손해를 보는가, 그 자리에 있어야 할 사람이 빠져 있지는 않은가 하는 물음입니다.
이 과목은 기술이 어떻게 돌아가는지를 가르치지 않습니다. 작동 원리와 한계, 사역에서의 쓰임은 「사역자를 위한 AI 이해」(PT737)에서 다룹니다. 하나님의 형상과 기계 지능, 종말론 같은 신학적 성찰은 「기독교와 인공지능」(PT8)에서 깊이 다룹니다. 이 과목은 그 사이에서 한 가지를 합니다. 그리스도인이 윤리 질문을 만났을 때 무엇을 어떤 순서로 묻고 어떻게 함께 판단하는가. 그 판단의 틀을 익히고 사례로 연습합니다. 첫 시간에는 윤리 질문이 왜 사람 이야기인지, 그리고 이 과목이 어디를 걷는지 지도를 그립니다.
What these 10 minutes give you
- 윤리 질문이 기술 자체보다 사람의 맡김, 피해, 보이지 않음의 문제임을 설명한다.
- 도구의 중립성을 둘러싼 두 입장을 각각 가장 강한 논증으로 말한다.
- 이 과목의 여섯 주제와 중심 명제를 말한다.
- 시간이 지나 낡을 사례에 기대지 않고 판단의 틀을 배우는 이유를 설명한다.
어리석은 자는 온갖 말을 믿으나 슬기로운 자는 그 행동을 삼가느니라
잠언 14:15
둘째는 그와 같으니 네 이웃을 네 몸과 같이 사랑하라 하셨으니
마태복음 22:39
사도행전 17:16-34(아테네에서 바울이 그 도시의 신앙과 문화를 살피고 말하는 장면)도 함께 읽습니다.
1. 질문은 어디서 시작되는가
새 기술이 나올 때마다 교회는 비슷한 질문을 받아 왔습니다. 이것을 써도 되는가, 쓰면 안 되는가. 이 질문은 급하고 자연스럽지만, 윤리 질문의 출발점으로는 너무 좁습니다. "써도 되는가"는 사용자 한 사람의 선택만 보게 하기 때문입니다. 윤리의 눈은 한 걸음 물러나 장면 전체를 봅니다.
다음 장면을 보십시오(가상 구성입니다). 한 작은 회사가 일손을 덜려고 직원 평가를 정리해 주는 도구를 들였습니다. 도구는 자료를 모아 순위를 냅니다. 관리자는 순위를 보고 승진 후보를 정합니다. 몇 달 뒤 한 직원이 이유를 알 수 없이 후보에서 빠졌다는 것을 알았습니다. 누구에게 물어야 할지도 알 수 없었습니다.
이 이야기에서 기계가 어떻게 돌아갔는지는 한 줄도 나오지 않았습니다. 그런데도 윤리의 질문은 가득합니다. 이 순위를 쓰기로 정한 사람은 누구인가. 순위가 틀렸을 때 누가 책임을 지는가. 이의를 제기할 길이 있는가. 직원은 자기가 어떻게 평가받는지 알 권리가 있는가. 빠진 직원처럼 이야기에 나오지 않은 사람은 또 누구인가. 이것이 이 과목이 거듭 묻는 세 가지, 누가 무엇을 맡았고, 누가 다치며, 누가 보이지 않는가. 이 셋입니다.
2. 도구인가, 행위자인가
이 장면에서 "도구가 했다"는 말이 쉽게 나옵니다. 그 말을 두고 도구의 중립성 논쟁이 있습니다. 여기서는 의견이 갈립니다.
도구는 중립이라는 입장. 가장 강한 논증은 이렇습니다. 칼은 요리사의 손에서는 음식을 만들고 다른 손에서는 해를 입힌다. 도구에 선악을 돌리면 사람이 져야 할 책임이 도구로 옮겨 가 버린다. 그러므로 도구는 중립이고, 윤리는 쓰는 사람의 마음과 행위에 있다. 이 입장은 사람의 책임을 분명히 붙들어 준다는 강점이 있습니다.
도구는 중립이 아니라는 입장. 가장 강한 논증은 이렇습니다. 도구는 만들어질 때 누구를 위해, 무엇을 쉽게 하고 무엇을 어렵게 할지 이미 정해진 채 나온다. 길 위에 놓인 문턱이 휠체어를 탄 사람에게만 어려운 것처럼, 설계는 쓰는 사람의 선택보다 앞서 일을 한다. 도구를 중립이라 부르면 설계한 사람의 책임이 보이지 않는다. 이 입장은 만든 사람과 설계의 책임을 드러낸다는 강점이 있습니다.
두 논증은 서로를 완전히 지우지 못합니다. 이 과목이 요구하는 최소한은 이것입니다. 어느 쪽을 택하든 책임을 기계에게 넘기지 않는다. 도구가 중립이라고 믿는 사람은 쓰는 사람의 책임을 가볍게 여기지 않고, 중립이 아니라고 믿는 사람은 쓰는 사람의 선택을 지우지 않습니다. 책임의 문제는 2주에 깊이 다룹니다.
3. 이 과목의 지도
여섯 주는 이렇게 이어집니다. 1주는 판단의 틀을 세웁니다. 2주는 책임, 3주는 편향과 공정, 4주는 감시와 프라이버시, 5주는 일자리와 노동, 6주는 진실과 기만, 돌봄의 대체, 교회가 함께 판단하는 법. 이것을 다룹니다. 주제가 달라 보여도 같은 물음이 돌아옵니다. 누가 맡았는가, 누가 다치는가, 누가 보이지 않는가.
이 과목이 다루지 않는 것도 분명히 해 둡니다. 기계가 어떻게 작동하는지, 어떤 제품이 좋은지는 다루지 않습니다. 의료와 생명, 인간 능력의 향상 같은 주제도 이 과목에서 다루지 않습니다. 개인의 화면과 SNS 습관은 「디지털 시대의 신앙생활」(LM304)이, 윤리학의 기초와 방법은 「기독교윤리학」(ST9)이 다룹니다.
4. 낡을 사례에 기대지 않는 이유
이 과목의 사례는 모두 가상 구성이고, 실제 기업이나 제품, 사건, 수치를 쓰지 않습니다. 이유는 둘입니다. 하나는 정직입니다. 실제 사건의 사실관계는 쉽게 틀어지고, 현재의 사람과 기관을 판단하는 일은 이 과목이 할 일이 아닙니다. 다른 하나는 수명입니다. 오늘 화제가 된 사례는 몇 해 뒤에는 낯설어집니다. 판단의 틀은 사례가 바뀌어도 남습니다. 이 과목은 앞으로 만날 문제를 미리 아는 척하지 않습니다. 오히려 "아직 모릅니다"를 정직하게 말하는 것을 판단의 일부로 가르칩니다.
그렇다고 낡은 이야기에서 배울 것이 없는 것은 아닙니다. 인쇄술이나 산업혁명처럼 확실히 아는 역사는 5주에서 짧게 만납니다. 다만 그 역사가 오늘의 답을 대신 주지는 않는다는 한계를 함께 말할 것입니다.
도표 1. 여섯 주제 지도
| 주 | 주제 | 중심에 놓는 물음 |
|---|---|---|
| 1주 | 윤리의 눈 | 어떤 틀로 판단하는가 |
| 2주 | 책임 | 누가 맡았는가 |
| 3주 | 편향과 공정 | 누가 빠졌는가 |
| 4주 | 감시와 프라이버시 | 누가 보고 누가 보이는가 |
| 5주 | 일자리와 노동 | 일의 존엄은 어디에 있는가 |
| 6주 | 진실·돌봄·교회 | 함께 어떻게 분별하는가 |
기술의 작동 원리는 PT737에서, 과 종말의 깊이는 PT8에서 다룹니다.
도표 2. 도구의 중립성 — 두 논증
| 입장 | 가장 강한 논증 | 지켜 주는 것 | 놓치기 쉬운 것 |
|---|---|---|---|
| 도구는 중립이다 | 같은 도구가 선하게도 악하게도 쓰이므로 책임은 쓰는 사람에게 있다 | 사람의 책임 | 설계가 이미 정한 방향 |
| 도구는 중립이 아니다 | 설계가 쓰임보다 앞서 일을 하므로 만든 사람의 책임이 있다 | 설계와 구조의 책임 | 쓰는 사람의 선택 |
7. 복습 카드
| 앞면 | 뒷면 |
|---|---|
| 세 물음 | 누가 무엇을 맡았나, 누가 다치나, 누가 보이지 않나. |
| 중립이다 / 아니다 | 중립이라는 쪽은 사용자의 책임을, 아니라는 쪽은 설계의 책임을 지킨다. 갈리는 쟁점이다. |
| 공통 최소선 | 어느 쪽이든 책임을 기계에게 넘기지 않는다. |
| 사례가 가상인 이유 | 실제 사건은 사실이 틀어지기 쉽고 낡으며, 사람과 기관을 판단하지 않기 위해서다. |
★ 꼭 기억할 한 문장 기술의 윤리 질문은 기술 이야기가 아니라 누가 맡고 누가 다치며 누가 보이지 않는가에 대한 사람 이야기다.
✓ 이번 주에 할 행동 오늘 접한 기술과 관련된 장면 하나를 골라 세 물음(맡은 사람, 다치는 사람, 보이지 않는 사람)을 한 줄씩 적어 보기. 실명과 내부 정보는 쓰지 않는다.
In short
- 윤리 질문은 기술의 내부가 아니라 사람의 맡김, 피해, 보이지 않음에서 나온다.
- 이 과목이 거듭 묻는 세 물음은 누가 무엇을 맡았고, 누가 다치며, 누가 보이지 않는가이다.
- 도구의 중립성에 대해서는 의견이 갈린다. 중립이라는 쪽은 쓰는 사람의 책임을, 아니라는 쪽은 설계의 책임을 지킨다.
- 이 과목의 최소선은 어느 쪽이든 책임을 기계에게 넘기지 않는 것이다.
- 여섯 주제는 판단의 틀, 책임, 편향과 공정, 감시와 프라이버시, 일자리와 노동, 진실과 돌봄과 교회이다.
- 기술의 원리는 PT737이, 형상과 종말의 깊이는 PT8이 다루며, 이 과목은 판단의 틀과 사례 연습을 한다.
- 사례는 모두 가상 구성이고, 시간이 지나 낡을 사건 대신 오래 쓰이는 틀을 배운다.
- 모르는 것을 모른다고 말하는 것이 판단의 정직한 일부이다.
Check yourself
Not "did you read it" but "can you explain it". Ticks are kept on this device only.
Reflection and discussion
- 최근에 "기계가 그렇게 했다"는 말로 사람의 책임이 흐려지는 장면을 본 적이 있습니까? 실명이나 내부 사정은 쓰지 말고 장면만 떠올려 보십시오.
- 도구의 중립성에 대한 두 논증 가운데 내가 더 쉽게 공감하는 쪽은 어디이고, 반대쪽 논증에서 가장 설득력 있는 점은 무엇입니까?
- 직원 평가 사례에서 이야기에 나오지 않은 사람은 누구입니까? 그 사람이 어떻게 보이게 될 수 있을까요?
- "써도 되는가"라는 질문과 "누가 맡았고 누가 다치는가"라는 질문은 어떻게 다릅니까?
- 이 과목에서 가장 알고 싶은 주제는 여섯 가지 가운데 무엇이며, 그 이유는 무엇입니까?