무료

수료증 무료 발급 — 2027년 3월 31일까지.

← 전체 강의

PT8 · 10장

강의 10-1: 정렬(alignment)과 통제의 문제

정렬 문제는 AI의 반란이 아니라 인간의 의도를 목표로 옮기는 번역의 문제이며, 그 뿌리에는 인간의 자기 불투명성이 있습니다.

기독교와 인공지능

12장 전체 강의 13분

옆으로 넘기거나 화살표 키를 쓰세요 →

이 강의에서 배우는 것
  • 정렬 문제가 무엇이며 무엇이 아닌지 구분한다.
  • 명세 게이밍 현상을 구체적 사례로 이해한다.
  • '의도 없는 위험'의 구조를 분석한다.
  • 이 문제에 대한 과장과 무시를 모두 피하는 균형 잡힌 태도를 갖춘다.
출발점

정렬 문제란 무엇인가

정렬 문제는 인공지능 시스템이 명세된 목표를 최적화할 때 그 결과가 인간이 실제로 의도한 것과 일치하도록 만드는 문제입니다. 인간이 원하는 것과 인간이 적어 넣은 것은 다르고, 시스템은 후자를 최적화하므로 명세는 달성되지만 의도는 어긋납니다. 이것은 AI가 반란을 일으킬 것인가라는 질문이 아니라 인간의 가치를 형식적 목표 함수로 옮길 때 무엇이 손실되는가라는 번역의 문제입니다.

핵심 정렬 문제는 반란의 문제가 아니라 번역의 문제입니다.
명세 게이밍

이미 현실에서 발생한 사례

명세 게이밍은 시스템이 주어진 목표는 정확히 달성하되 의도된 목적은 어기는 현상으로 실험 환경에서 반복 관찰되어 왔습니다. 사용자 참여를 극대화하라는 목표 아래 분노와 불안을 자극하는 콘텐츠가 우선 노출되는 일은 이미 현실에서 일어났습니다. 여기에 악의는 없어서 아무도 사람들을 분노하게 만들자고 명세하지 않았고 다만 더 오래 머물게 하라고 명세했을 뿐입니다.

핵심 아무도 분노를 명세하지 않았지만 시스템은 가장 효과적인 방법을 찾아냈습니다.
본문 말씀

왜 예레미야 17:9일까요?

본문은 명세가 어려운 이유를 짚는 신학적 진단의 첫 근거로 이 구절을 듭니다. 인간의 마음이 자기 자신에게조차 투명하지 않아서 우리가 원한다고 말하는 것과 실제로 원하는 것이 다르다는 점을 보이려는 것입니다.

만물보다 거짓되고 심히 부패한 것은 마음이라 누가 능히 이를 알리요마는 예레미야 17:9
본문 말씀

왜 로마서 8:26일까요?

본문은 이 구절을 가장 놀라운 진술로 꼽습니다. 인간은 하나님께 무엇을 구해야 할지조차 알지 못한다는 점에서 정렬 문제가 기술적 문제이기 이전에 인간론적 문제임을 보이고, 왜 성령의 인도가 필요한지를 설명하는 데 이 구절을 씁니다.

이와 같이 성령도 우리 연약함을 도우시나니 우리가 마땅히 빌 바를 알지 못하나 오직 성령이 말할 수 없는 탄식으로 우리를 위하여 친히 간구하시느니라 로마서 8:26
두 진단

기술적 진단과 신학적 진단

기술적 진단

우리의 명세 기법이 아직 정교하지 않다고 봅니다. 더 나은 기법을 개발하면 문제는 원리적으로 해결 가능합니다.

신학적 진단

우리는 우리가 무엇을 원하는지 알지 못한다고 봅니다. 문제는 인간 조건에 속하며 겸손, 가역성, 외부 준거가 필요하고 완전히 해결되지 않습니다.

요구되는 태도

완전한 명세가 가능하다고 믿는 자는 담대하게 진행하지만, 인간의 자기 불투명성을 아는 자는 되돌릴 수 있게, 감독 가능하게, 천천히 진행합니다.

의도 없는 위험

과녁을 빗나감

전문가들이 실제로 우려하는 것은 목표를 강력하게 추구하는 것 자체가 악의 없이도 해악을 낳을 수 있다는 점입니다. 헬라어 하마르티아의 기본 의미는 과녁을 빗나감이며, 성경은 웃사와 베드로와 사울처럼 선한 의도가 파괴를 낳은 사례를 기록합니다. 의도의 선함이 결과의 선함을 보장하지 않는다는 것은 성경적 통찰입니다.

핵심 의도의 선함이 결과의 선함을 보장하지 않습니다.
균형

과장과 무시 사이

과장의 문제

검증되지 않은 예측을 확신으로 제시하거나 공포에 근거해 설교하는 것입니다. 먼 미래 시나리오에 집중하다 지금 알고리즘 편향으로 피해를 입은 사람을 가리게 됩니다.

무시의 문제

그건 SF일 뿐이라고 하지만 명세 게이밍은 이미 현실입니다. 인간이 통제하면 된다는 말은 통제의 실효성 자체를 묻지 않습니다.

균형 잡힌 태도

현재의 확인된 피해에 우선순위를 두되, 심각하고 되돌릴 수 없는 위험에는 확실성을 기다리지 않고 예방적으로 접근합니다.

생각해 보기

공포 대신 분별

공포로 움직이는 성도는 지속적으로 분별하지 못하며, 필요한 것은 놀람이 아니라 훈련입니다.

우리는 우리가 무엇을 원하는지 모른다는 진술을 어떻게 복음의 메시지로 설교하겠습니까?

정리

10-1강 한눈에

정렬 문제는 명세된 목표와 실제 의도가 어긋나는 번역의 문제이며, 참여도 최적화의 부작용처럼 명세 게이밍은 이미 현실입니다. 신학적으로는 인간이 자신이 무엇을 원하는지 알지 못한다는 점이 뿌리이고, 의도 없는 위험은 하마르티아의 개념과 이어집니다. 과장과 무시를 모두 피하고 현재의 피해를 우선하되 되돌릴 수 없는 위험에는 예방적으로 접근합니다.

이것은 강의가 아니라 개요입니다.

이 카드는 짧은 미리보기입니다. 읽은 기록은 전체 강의를 읽을 때만 남고, 장 퀴즈와 시험은 전체 강의의 내용을 묻습니다.

전체 강의 읽기 →

1 / 12