강의 6-1: 알고리즘 편향의 구조
알고리즘 편향은 명시된 차별 규칙이 아니라 학습의 산물이며, 순수한 기술로는 풀 수 없는 가치 판단의 문제입니다.
기독교와 인공지능
옆으로 넘기거나 화살표 키를 쓰세요 →
수료증 무료 발급 — 2027년 3월 31일까지.
알고리즘 편향은 명시된 차별 규칙이 아니라 학습의 산물이며, 순수한 기술로는 풀 수 없는 가치 판단의 문제입니다.
기독교와 인공지능
옆으로 넘기거나 화살표 키를 쓰세요 →
이 강의는 신학적 논의에 앞서 문제의 실제 구조를 정확히 파악합니다. 채용, 대출, 형사 사법, 의료, 얼굴 인식, 콘텐츠 심사에서 편향 문제가 실제로 보고되어 왔습니다. 이 사례들 어디에도 특정 집단을 차별하라는 명령이 프로그램에 들어 있지 않습니다. 편향은 명시적 규칙이 아니라 학습의 산물입니다.
과거 사회의 불의가 기록으로 남고 모델이 그것을 학습합니다. 대응은 데이터 보정과 균형 샘플링이지만 과거를 지울 수는 없습니다.
무엇을 예측할지, 어떤 대리 변수를 쓸지 인간이 정하는 선택에서 편향이 스며듭니다. 공정성 정의가 여럿이고 서로 충돌하는 것이 한계입니다.
시스템을 어디에 누구에게 적용하느냐에 따라 영향이 달라집니다. 대응은 영향 평가와 배치 제한이지만 정치적·경제적 이해관계가 걸려 있습니다.
과거에 특정 집단이 승진에서 배제되었다면, 그 기록으로 학습한 채용 모델은 이 집단이 성공 가능성이 낮다는 패턴을 발견합니다. 모델은 차별하려는 것이 아니라 정확하게 과거를 반영하고 있을 뿐이며, 바로 그것이 문제입니다. 차별이 재생산되고 그 결과가 다시 데이터가 되므로 편향은 한 번 일어나고 끝나지 않고 자기 강화적입니다.
환자가 얼마나 아픈지를 직접 재기 어려워 의료비 지출을 대신 쓰면, 의료 접근성이 낮아 지출이 적었던 집단은 덜 아프다고 판단됩니다. 이것이 대리 변수 문제로, 측정하려는 것과 실제 측정한 것 사이의 간극에 편향이 스며듭니다. 법적으로 인종이나 성별을 쓰지 못하게 해도 거주 지역, 이름, 구매 이력이 높은 상관관계를 가지므로 금지된 변수의 그림자는 남습니다.
공정성에는 여러 정의가 있고 그것들은 수학적으로 동시에 만족될 수 없습니다. 집단별 동일 합격 비율과 동일 능력 개인의 동일 대우는, 집단 간 능력 분포가 다르면 함께 충족되지 않습니다. 이것은 알고리즘을 더 잘 설계하면 풀리는 문제가 아니라 정의란 무엇인가라는 질문이며, 기술은 우리가 답을 정하면 구현할 뿐입니다.
숫자로 표현된 판단은 객관적으로 보이지만, 그 점수는 인간이 선택한 데이터와 목표와 가중치의 산물입니다. 인간은 또 자동화된 판단을 자신의 판단보다 더 신뢰하는 경향이 있어 시스템에 동의하면 책임에서 벗어난 것처럼 느낍니다. 인간의 차별에는 얼굴과 항의할 대상과 회개할 주체가 있지만 자동화된 차별에는 그 셋이 모두 없습니다.
본문은 이 구절이 재판에서 약자를 편드는 것도 강자를 두둔하는 것도 함께 금한다고 짚습니다. 그래서 성경적 공의를 감정적 편들기가 아니라 진실에 따른 판단으로 읽고, 어떤 집단에 대해서도 체계적 왜곡이 없어야 한다는 요구를 알고리즘 공정성 논의에 대응시킵니다.
너희는 재판할 때에 불의를 행치 말며 가난한 자의 편을 들지 말며 세력있는 자라고 두호하지 말고 공의로 사람을 재판할지며 레위기 19:15
본문은 고대의 저울추를 오늘날의 알고리즘에 해당하는 것으로 놓습니다. 저울추는 거래의 판단 기준이며 눈에 잘 띄지 않고 조작 여부를 일반인이 확인하기 어렵다는 점에서 같고, 그 정직성이 투명성과 검증 가능성의 요구에 대응한다고 보기 때문입니다.
너는 주머니에 같지 않은 저울추 곧 큰 것과 작은 것을 넣지 말 것이며 신명기 25:13
대출을 거절당하거나 채용에서 이유 없이 탈락한 성도가 시스템이 그렇게 나왔다며 자책하는 경우를 떠올려 봅니다.
그 시스템이 어떻게 만들어졌는지 함께 물어보는 일을 우리는 목회적 돌봄으로 삼고 있습니까?
알고리즘 편향은 데이터, 설계, 배치의 세 경로로 발생하며 데이터 경로는 자기 강화적 순환을 이룹니다. 대리 변수 때문에 금지된 속성을 제거해도 그림자가 남고, 공정성 정의들이 동시에 만족될 수 없어 순수한 기술적 해결은 불가능합니다. 객관성의 신화와 자동화 편애가 결합하면 불의가 객관적 계산의 외피를 얻고 책임 소재가 흐려집니다.