[AI MEMO] 플랫폼 광고 알고리즘의 공정성, 의도 아닌 결과가 기준이 된다
입력
수정
온라인 광고, 특정 집단 편중 막는 공정성 기준 강화 중립적 설계에도 불균형 발생, 제도 개선 필요성 부각 도달 편차 점검과 투명 공개로 공정한 정보 접근 추진
본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.
디지털 광고 시장이 인공지능 중심으로 재편되면서, 광고가 누구에게 어떤 방식으로 도달하는지가 새로운 사회적 쟁점으로 떠오르고 있다. 특히 메타(Meta)와 같은 글로벌 플랫폼의 광고 노출 구조가 특정 집단에 편중되는 현상이 공정성 논의의 중심으로 부상했다. 광고가 단순한 마케팅 수단을 넘어 교육·취업·주거 등 사회적 기회 접근의 통로로 작용하면서, 그 분배 구조의 공정성을 둘러싼 문제 제기가 본격화되고 있다.
미국 규제기관과 법원이 메타에 적용한 ‘10% 분산 한도’는 광고가 성별·인종별로 특정 집단에 편중되지 않도록 하는 장치다. 즉, 실제 광고를 본 사람들과 잠재 고객 집단의 인구 구성 격차가 10%를 넘지 않도록 요구하는 규정이다. 이는 알고리즘이 특정 집단에 편향된 결과를 낳지 않도록 제도적으로 관리하겠다는 의미다.
이번 합의는 알고리즘 자체를 차별적이라고 단정하지 않는다. 다만, 결과가 불균형하게 나타나면 시스템을 개선하도록 하는 ‘결과 중심 접근법’이다. 알고리즘의 복잡한 최적화 과정이 곧 차별로 해석돼서는 안 되며, 불공정한 결과가 나타날 때 이를 제도적으로 교정할 수 있는 체계가 필요하다는 것이다.
알고리즘 광고 집행의 구조와 규제
온라인 광고의 노출 과정은 크게 두 단계로 구성된다. 첫째, 광고주가 나이, 관심사 등 기준을 지정해 목표 집단을 설정한다. 둘째, 플랫폼의 알고리즘이 예산, 이용자 반응, 클릭률 등을 계산해 광고를 자동으로 배분한다. 실제로는 광고주가 지정한 모든 사람에게 광고가 도달하지 않으며, 이 두 번째 단계에서 알고리즘의 작동이 핵심적으로 이루어진다.
미국 법무부와 법원은 이 과정을 구분해 규제하고 있다. 2023년 미국 법무부는 메타의 주택 광고 시스템에 대해, 광고가 특정 인종이나 성별에 과도하게 집중되지 않도록 도달률 격차를 10% 이내로 유지하라는 기준을 적용했다. 이에 따라 메타는 인구 집단 간 편차를 줄이는 방향으로 시스템을 조정하고, 그 이행 과정을 독립 기관의 감사를 받도록 했다. 규제의 목적은 알고리즘의 내부 원리를 제한하는 것이 아니라, 결과에서 차별이 확인될 경우 반드시 개선하도록 하는 데 있다.
주: 항목-성별, 추정 인종·민족(X축), 광고 비율(Y축)
중립적 설계가 불평등을 낳을 때
알고리즘이 중립적으로 설계됐더라도 결과는 불균형하게 나타날 수 있다. 2024년 프린스턴대와 서던캘리포니아대 연구진은 이를 검증하기 위해, 내용과 예산, 타깃 설정이 모두 동일한 두 종류의 대학 광고를 만들어 메타 플랫폼에서 동시에 집행했다. 유일한 변수는 광고를 낸 기관이 주립대학인지 사립대학인지였다.
실험 결과, 사립대학 광고는 주립대학 광고보다 흑인 이용자에게 더 많이 노출됐다. 광고의 설계나 조건은 동일했지만, 플랫폼의 자동 최적화 과정에서 인종별 노출 편차가 발생한 것이다. 연구진은 이를 통해 “의도적 차별이 없어도 알고리즘의 작동 방식이 결과적으로 불평등을 심화시킬 수 있다”라는 점을 입증했다.
이 결과는 정책 논의의 초점을 ‘의도’보다 ‘결과’에 두어야 한다는 점을 보여준다. 시스템이 중립적으로 설계됐다는 이유만으로 공정하다고 볼 수 없으며, 결과적으로 불균형이 발생했다면 그 구조를 개선하도록 제도적 장치를 마련해야 한다는 것이다.
법적 쟁점과 책임의 범위
최근 메타의 대학 광고가 특정 집단에 불리하게 작용했다는 이유로 미국 워싱턴 D.C.에서 소송이 제기됐다. 원고는 메타가 지역별·이용자별로 광고 품질을 다르게 제공했다고 주장했다. 법원은 메타의 위법 여부를 단정하지 않았지만, 사안을 ‘심리할 가치가 있는 문제’로 인정했다. 또한 플랫폼이 광고 배분 원리를 공개하지 않을 경우 ‘기만적 영업 행위’로 간주될 수 있다고 지적했다.
이처럼 미국에서는 인공지능이 결과적으로 불리한 결과를 낳았을 때, 그 책임을 어디까지 물을 수 있는지가 핵심 쟁점으로 논의되고 있다. 결정적 기준은 ‘인종, 성별 등 보호 대상 정보를 의도적으로 활용했는가?’다. 이를 명시적으로 사용했다면 법적 책임이 뒤따르지만, 의도가 없었다면 결과를 개선하고 외부 감사를 받는 방식으로 문제를 해결하는 것이 최근의 규제 방향이다.
반복적으로 제기된 알고리즘 광고의 편향
온라인 광고 시스템이 실질적으로 특정 집단에 광고를 더 많이 보여주는 ‘편향’이 일어난다는 사실은 다양한 연구를 통해 꾸준히 확인되고 있다. 2019년 대표 연구에서는 광고 메시지나 이미지가 똑같아도, 알고리즘 최적화 과정에서 남성 중심, 여성 중심, 또는 인종별 편향이 자동적으로 발생하는 현상이 드러났다. 예컨대, 건설직 광고는 남성 이용자에게, 계산원 일자리는 여성에게 주로 노출됐다. 심지어 일부 신용카드, 채용 광고에서는 실제 여성 참여율이 더 높았음에도 남성에게 광고가 우선 배정되는 사례도 나왔다.
이러한 격차는 단순히 도덕적 논란으로만 볼 문제가 아니다. 광고의 도달 편차를 구체적인 수치로 측정하고, 독립적인 감사를 통해 개선하는 제도적 접근이 필요하다. 대학 광고는 사회적 파급력이 더 크기 때문에 한층 엄격한 관리가 요구된다. 주립대학보다 사립대학 광고가 흑인 이용자에게 더 많이 노출된 현상은 미국 교육부 통계에서 나타나는 등록률 격차와 유사한 흐름을 보이지만, 기존의 차이가 있다고 해서 광고 편향이 정당화될 수는 없다. 공정한 정보 접근권을 보장하기 위해서는 도달률 편차의 허용 기준을 명확히 설정하고, 그 결과를 투명하게 공개하는 제도적 장치가 마련돼야 한다.
주: 학교 종류-스트레이어대vs 콜로라도주립대, 아메리칸인터컨티넨탈대vs 포트헤이스주립대, 먼로칼리지 vs 애리조나주립대(X축), 도달 격차(Y축)/중립형 광고 소재(진한 빨강), 현실형 광고 소재(연한 빨강)
공정성과 합리성을 겸비한 규제 모델
이상적인 알고리즘 광고 규제는 세 가지 원칙에 기반한다. 우선, 인종이나 성별 등 보호 대상 정보를 시스템의 의사결정 과정에 직접 활용하는 행위를 금지해야 한다. 동시에 광고 결과에서 집단 간 격차가 일정 기준을 넘지 않도록 편차 한도를 명확히 설정하고, 이를 정기적인 독립 감사로 점검해야 한다. 또한 광고주가 자체적으로 공정성 검사를 수행하고, 기준에서 벗어날 경우 자동으로 광고 배분 방식을 조정할 수 있는 기술적 장치가 필요하다.
이러한 절차는 알고리즘 기반 광고 배분을 곧바로 ‘차별 행위’로 단정하지 않으면서도, 실제로 발생할 수 있는 불평등을 완화하는 현실적 방안이다. 뉴욕시는 이미 ‘지방법 제144호(NYC 144)’를 제정해 자동화된 채용 시스템에 대한 편향 감사를 의무화했으며, 여러 주 정부도 인공지능 기반 채용 시스템을 감독하고 있다.
이들 규제의 목적은 알고리즘의 작동 원리를 제한하는 것이 아니라, 시스템이 공정하게 기능하고 있다는 증거를 확보하는 데 있다. 대학 광고 또한 정기 감사와 표준화된 분산 지표를 도입하고, 기준을 충족하는 시스템에는 면책 구역을 부여함으로써 결과 중심의 집행 체계를 구축할 수 있다.
측정 가능한 기준이 만드는 공정성
알고리즘 광고의 공정성 논의는 더 이상 도덕적 가치판단의 영역에 머물지 않는다. 이제 핵심은 구체적인 기준과 검증 가능한 결과다. 사회가 요구하는 것은 추상적 논쟁이 아니라, 객관적인 수치와 독립된 감사, 그리고 투명한 공개 절차다.
법원과 행정당국이 이러한 원칙을 일관되게 유지한다면, 플랫폼은 그 기준에 맞춰 시스템을 개선하고 감독 기관이나 전문가 집단은 개선 효과를 검증하며, 이용자는 보다 공정한 정보 접근을 보장받을 수 있다. 결국 중요한 것은 의도가 아니라 결과다. 차별을 낙인으로 규정하기보다, 측정 가능한 공정성 기준을 통해 시스템이 스스로 투명하게 작동하도록 만드는 것, 그것이 알고리즘 시대의 실질적 공정성이다.
본 연구 기사의 원문은 Algorithmic Targeting Is Not Segregation: Fix Outcomes Without Breaking the Math을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.
