[AI MEMO] AI 채용 차별은 ‘설계된 결과’이지 ‘우연한 사고’가 아니다

AI 기반 선발 확산 속 구직자 신뢰 급락
설계된 편향이 평가·판단·책임 구조 전반에 침투
교육기관까지 영향, 투명한 검증과 책임 설계 필요

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

AI 활용 채용은 빠르게 확대되고 있지만 구직자의 신뢰는 반대로 낮아지고 있다. 2025년에는 채용 담당자의 65% 이상이 AI를 사용할 것으로 예상되지만, 미국 성인 66%는 AI가 합격 여부를 결정하는 절차에는 지원하지 않겠다고 답했다. 기술 의존도가 높아질수록 채용 과정은 더욱 폐쇄적으로 보이며, 그 영향은 기존에 차별을 경험한 집단에 먼저 나타난다.

최근 한 실험은 이러한 불신의 배경을 분명히 보여준다. 참가자들은 두 지원자 중 한 명을 선택하는 과정에서 AI가 특정 집단을 더 적합하다고 제시하면 그 방향을 90% 이상 따랐다. AI 개입이 없을 때 선택이 거의 비슷하게 나뉜 점을 고려하면, 편향된 설계가 인간 판단까지 이끄는 구조가 드러난 셈이다.

AI 채용 차별은 설계의 문제

AI 채용 차별을 단순한 시스템 오류로 보는 시각은 사실과 다르다. 자동화된 선별 과정의 편향은 어떤 데이터를 학습시키고 어떤 기준을 적용했는지에 따라 발생하는 구조적 결과다. 연구 결과도 이를 일관되게 뒷받침한다. 한 대학 연구에서는 동일한 역량의 지원자임에도 AI가 백인 이름이 포함된 이력서를 85% 비율로 더 높게 평가했다. 또 다른 대규모 실험에서는 언어모델 기반 채용 도구가 여성 후보에게는 우호적이면서, 같은 조건의 유색 인종 남성 후보에게는 불리한 점수를 부여했다. 과거 채용 관행에서 나타나던 위계가 알고리즘 설계를 통해 다시 반영된 것이다.

자율성이라는 표현도 문제를 가린다. 채용 도구가 ‘스스로 판단한다’라고 설명되는 순간 결과를 검증할 주체가 흐려진다. 한 실험에서 연구진은 두 지원자 정보를 제시하면서 AI가 어느 후보를 더 적합하다고 평가했다는 안내를 함께 제공했다. 이때 참가자들은 그 방향을 90% 이상 따랐다. 백인 후보를 우대하면 백인 중심의 명단이, 다른 집단을 우대하면 그 집단 중심의 명단이 만들어진 사례다. AI 편향이 인간 판단까지 그대로 이어지는 구조가 확인된 셈이다.

AI 판단을 명분으로 한 책임 회피

AI가 채용 과정에 개입하면 법적 책임 문제로 직결된다. 미국 차별금지법은 채용시험과 평가도구를 모두 ‘선발 절차’로 규정해 왔고, 2023년에는 미 고용기회평등위원회(EEOC)가 AI 기반 평가에도 동일한 기준을 적용한다고 밝혔다. 특정 집단을 더 많이 탈락시키는 도구를 사용하면서 정당한 사유를 제시하지 못하면 책임은 고용주에게 돌아간다. 실제 첫 AI 채용 차별 합의 사례에서는 한 튜터링 업체가 고령 지원자를 배제한 필터를 사용했다는 이유로 배상과 절차 개선에 나섰다.

그럼에도 기업들은 “알고리즘이 결정했다”라는 표현으로 책임을 축소하려 한다. 이 접근은 구조적 차별을 경험해 온 집단에 특히 불리하다. 자동 영상 면접에서는 특정 억양과 발음을 정확히 인식하지 못해 답변을 잘못 기록하는 사례가 있었다. 이러한 조건을 알고 있는 유색 인종 지원자나 장애가 있는 지원자는 면접 단계에서 불이익을 예상해 지원을 포기할 수 있다.

전형적 이력 경로를 따르지 않은 지원자에게도 위험은 존재한다. 과거 특정 학교·경력을 ‘우수 지원자’로 분류한 데이터를 기반으로 학습된 필터는 저소득층 출신 지원자나 비정형 경력 지원자를 불리하게 평가할 가능성이 높다. 실제 미국 성인의 약 3분의 2가 AI가 개입한 채용 절차를 피한다고 답한 만큼, 이러한 회피는 자기 보호일 수 있지만 사회적 이동성을 저해할 위험이 있다.

교육 현장으로 번지는 AI 채용 차별

AI 채용 차별은 기업을 넘어 교육 현장에서도 확산되고 있다. 대학과 학교는 교직 인력을 선발하는 고용주이자 학생을 노동시장으로 진입시키는 출발점이다. 이미 여러 기관이 AI 기반 지원자 추적 시스템을 교직 선발에 도입하고 있으며, 고등교육 전문 채용업체는 자동 이력서 순위화와 예측 점수를 기본 기능처럼 제공한다. 국제학교 채용에서도 대규모 인력을 빠르게 정리한다는 이유로 비슷한 도구의 사용이 권장된다. 그러나 과거 특정 국적·성별·학력이 우세했던 데이터를 그대로 학습하면 교육기관이 강조해 온 다양성 원칙은 쉽게 훼손될 수 있다.

학생들은 더 이른 단계에서 영향을 받는다. 여러 교육기관과 대학원 과정은 AI 기반 게임형 평가, 자동 화상 면접, AI 필기 평가를 시험적으로 도입하고 있다. 한 호주 연구에서는 일부 비원어민 영어 사용자의 발화를 AI가 정확히 인식하지 못해 오류율이 12~22%까지 나타났고, 같은 답변이라도 점수 차이가 발생하는 사례가 확인됐다. 영국의 교사 양성 프로그램 ‘Teach First’는 지원자가 AI로 작성한 자기소개서를 제출하는 경향이 늘자, 평가 방식을 조정했다. 지원자와 평가 시스템 모두 AI를 사용하는 구조에서는 설계 기준이 불명확할수록 비정형 경로를 가진 학생이나 국제 학생이 불리해질 가능성이 커진다.

교육기관의 책임도 가볍지 않다. 진로 센터는 학생들에게 AI 기반 채용 구조와 대응 전략을 안내하지만, 정작 대학 자체 채용에도 AI 도구가 쓰인다. 한 기관이 시스템을 운영하면서 동시에 학생을 그 시스템에 진입시키는 구조인 만큼, 도구 선택과 검증에 대한 책임은 더욱 무거워진다.

책임 있는 AI 채용 설계 필요

AI 채용 차별이 설계에서 비롯된 만큼 대응도 설계 단계에서 마련돼야 한다. AI를 독립된 판단 주체가 아니라 인력 선발을 보조하는 도구로 규정하는 것이 출발점이다. 미국 여러 주는 알고리즘으로 인한 피해를 규제 대상으로 포함하는 법을 도입하고 있고, 유럽은 차별금지 원칙과 개인정보보호 규정을 기반으로 고위험 채용 시스템에 평가·검증 의무를 적용하는 방향으로 움직인다. 사람을 걸러내는 시스템이라면 작동 방식과 영향 범위를 설명하고, 문제가 확인되면 실제 개선까지 이어져야 한다.

교육기관은 이 변화를 더 빠르게 실행할 수 있다. 대학과 학교 네트워크는 AI 기반 채용·선발 도구에 대해 정기적 공정성 감사를 실시하고, 교직·장학금·학생 조교 선발처럼 영향이 큰 절차에서는 자동 탈락을 금지하며 사람이 재검토하는 절차를 마련할 수 있다. 데이터와 오류율을 공개하지 않는 도구는 조달 단계에서 제외하는 방식도 가능하다. 관련 학과에서는 편향·책임성을 필수 교육 요소로 다뤄야 한다.

반론은 있다. 기업은 규제가 채용 속도를 늦춘다고 주장하고, 공급업체는 시스템 구조 공개가 영업비밀을 위협한다고 말한다. 그러나 연구는 다양한 데이터와 명확한 책임 구조를 갖춘 AI 시스템이 공정성을 높일 수 있음을 보여준다. 주변화된 집단의 신뢰는 감사 가능성과 불복 절차, 실패 시 실질적 조치가 마련될 때 회복된다.

채용 현장은 이미 큰 간극을 드러내고 있다. 채용 담당자의 다수는 AI를 사용하지만, 성인의 다수는 AI가 관여한 절차라면 지원을 포기하겠다고 답했다. 채용 과정에 대한 신뢰가 무너지고 있다는 점이 분명하다. 편향된 추천이 인간 판단을 극단으로 이끌 수 있다는 연구 결과도 설계가 통제되지 않을 경우 기존 불평등이 더 심화될 수 있음을 보여준다.

교육기관은 이 문제의 중심에 있다. 다음 세대의 설계자와 결정권자를 길러내는 동시에 그 학생들이 통과해야 할 시스템을 직접 운영하기 때문이다. 이 구조는 더 높은 책임을 요구한다. 해법은 AI의 배제가 아니라, 이른바 ‘자율적’ 시스템도 결국 인간이 설계하고 선택한 구조임을 분명히 인식하는 데서 출발해야 한다. 정책은 이 연결고리를 투명하게 드러내고 검증과 책임의 원칙을 명확히 적용해야 한다. 그렇게 할 때 AI 채용은 기존 차별을 확대하는 대신 인간의 선택권을 넓히는 방향으로 작동할 수 있다.

본 연구 기사의 원문은 AI Hiring Discrimination Is a Design Choice, Not an Accident을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.