[AI MEMO] 챗GPT 광고 첫 독립 조사서 저소득층 쏠림 현상, 규제보다 검증이 우선

노출 계정 지역 수입 6만 달러대에 집중
공정 배분 제약 걸면 플랫폼 수익 감소
차별 판단엔 구매 전환율 자료 필요

본 연구 기사는 유럽 경제 연구소 The Economy의 연구위원(Fellow)들이 작성한 The Economy Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술-경제-정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적인 의견이며, The Economy 또는 집필자의 소속 기관의 견해와 일치하지 않을 수 있습니다.

생성형 인공지능(AI) 서비스에 광고가 도입되면서 이용자에 따른 광고 노출 차이가 새로운 쟁점으로 떠오르고 있다. 미국 오픈AI가 챗GPT에 광고를 도입한 지 8개월 만에 나온 첫 독립 조사에서는 소득이 낮은 지역일수록 광고가 더 자주 노출되는 경향이 나타났다. 미국 싱크탱크 브루킹스연구소가 공개한 연구에 따르면 가상 계정 91개에서 수집한 광고 3,600여 건을 분석한 결과, 광고가 노출된 계정은 지역 소득이 6만 달러(약 8,070만원) 안팎인 곳에 집중된 반면 광고가 나타나지 않은 계정은 8만 달러(약 1억760만원) 수준인 지역에 많았다.

가상 사용자 91명 실험, 표본 한계 뚜렷

연구진은 챗GPT 광고가 어떤 이용자에게 노출되는지 확인하기 위해 실제 사용자처럼 활동하는 가상 계정인 '삭퍼핏(sock puppet)'을 활용했다. 올해 1~3월 흑인·히스패닉·백인 등 인종과 소득 수준을 각각 세 집단으로 나눠 조합별로 최소 9개 계정을 만들고, 실제 이용자의 인종이나 소득을 입력하는 대신 해당 특성을 가진 주민이 많은 우편번호 지역에서 접속하는 방식을 썼다. 각 계정이 매일 던진 질문에는 상품 추천과 음식 조리법 등의 주제가 포함됐다. 광고는 주로 상품과 건강·운동, 음식 관련 질문에서 나타났는데, 스포츠 중계를 볼 수 있는 서비스를 묻자 스트리밍 광고가 나왔고, 팟타이 조리법을 질문하면 미국 배달업체 도어대시 광고가 붙는 식이었다.

그러나 이번 조사에서 확인된 소득별 광고 노출 차이를 일반적인 현상으로 보기는 이르다. 전체 91개 계정 가운데 광고가 나타난 계정은 53개에 불과했고, 연구진도 표본이 적어 조사 결과가 달라질 가능성을 인정했다. 실험 시작 약 한 달 뒤 모든 계정에서 광고가 사라진 점도 분석에 제약이 됐다. 연구진은 오픈AI가 가상 계정을 탐지했을 가능성이 있다는 입장이다. 더욱이 실험에 사용된 계정은 모두 새로 만든 것이라 과거 대화나 이용 기록이 없었다. 광고 노출에 활용할 만한 정보가 접속 지역에 집중돼 있었던 만큼, 지역별 소득에 따라 차이가 나타났다고 해서 실제 이용자에게도 같은 결과가 적용된다고 단정하기는 어렵다. 그럼에도 챗GPT 광고의 노출 방식을 외부에서 실험으로 검증했다는 점에서 의미가 있다.

대화 기억하는 챗봇, 답변 분리 여부가 관건

연구진은 AI 챗봇 광고가 기존 온라인 광고보다 이용자에게 더 큰 영향을 미칠 수 있다고 우려했다. 챗봇은 이용자와 자연스럽게 대화하고 과거 대화 내용까지 기억해 개인의 관심사에 맞는 광고를 제공할 수 있다. 이용자가 고민이나 개인 정보를 챗봇에 털어놓다 보면 광고에 대한 경계심도 낮아지기 쉽다. 과거 페이스북에서도 차별적인 광고 노출이 여러 차례 발견됐지만, 법적 합의에 따라 외부 감독이 의무화된 뒤에야 개선이 이뤄졌다. 이처럼 AI 챗봇에도 초기부터 독립적인 감시 체계를 마련하고 이용자를 속이는 광고를 제한해야 한다는 것이 연구진의 주장이다.

챗봇 광고의 위험성을 판단할 때는 광고가 AI 답변에 영향을 미치는지 살펴봐야 한다. 검색 서비스와 달리 챗봇은 하나의 답변을 제시하는 경우가 많아 이용자가 다른 정보와 비교할 기회가 적다. 광고주의 이해관계가 답변에 반영된다면 이용자의 판단에도 영향을 줄 수 있다. 그러나 챗GPT 광고는 답변과 분리돼 하단에 따로 표시된다. 오픈AI도 광고주가 답변 내용이나 순위에 관여할 수 없다고 밝혔다. 이와 같이 답변과 광고를 분리하는 원칙이 유지된다면 챗GPT 광고를 기존 검색광고와 본질적으로 다른 문제로 보기도 힘들다. 따라서 광고와 AI 답변의 분리 원칙이 실제로 지켜지는지, 외부 기관이 이를 지속적으로 검증할 수 있는지가 핵심 과제로 꼽힌다.

알고리즘 효율 추구에 성별·인종 편중

광고가 특정 계층에 집중되는 현상은 광고 배분 시스템의 수익 극대화 방식과 관련이 있다. 광고주는 단순히 많은 사람보다 클릭이나 구매로 이어질 가능성이 높은 이용자에게 광고가 노출되기를 원하고, 광고비 대비 매출을 나타내는 광고수익률(ROAS)을 성과 기준으로 삼는다. 광고주가 하루 광고 예산을 정해 두면 플랫폼은 예산이 하루 동안 나눠 쓰이도록 광고를 언제, 누구에게 노출할지도 함께 결정하게 된다. 남은 예산으로 앞으로 얻을 수 있는 수익을 계산해 지금 광고를 내보낼지, 더 나은 이용자가 나타날 때까지 기다릴지를 판단한다. 노출 대상을 고르는 기준이 수익인 만큼, 광고가 특정 성별이나 인종에 치우쳐도 시스템은 이를 따로 걸러내지 않는다.

문제는 수익성을 높이려는 광고 배분 방식이 의도하지 않은 차별로 이어질 수 있다는 점이다. 특정 집단에 광고를 고르게 노출하도록 제한하면 광고 효율이 떨어질 수 있어 플랫폼이 자발적으로 이를 적용할 유인은 크지 않다. 실제 과학·기술·공학·수학(STEM) 분야 채용 광고 실험에서는 남성에게 광고가 여성보다 약 20% 더 많이 노출됐다. 미국 노스이스턴대와 서던캘리포니아대(USC), 비영리단체 업턴(Upturn)의 공동 연구도 광고주가 대상을 특정하지 않은 채용·주택 광고가 페이스북의 자동 배분 과정에서 성별과 인종에 따라 불균등하게 노출된다는 사실을 밝혀냈다. 일부 영리 대학 광고가 유사한 공립대 광고보다 흑인 이용자에게 더 자주 노출된 사례도 있다.

강제 할당 대신 외부 학계 접근 허용

광고 노출의 불균형을 바로잡는 방법에는 각각 다른 비용이 따른다. 특정 계층에 광고를 고르게 노출하도록 의무화하면 광고주는 구매 가능성이 높은 고객에게 접근하기 어려워지고 플랫폼의 광고 수익도 줄어들 수밖에 없다. 이로 인해 광고 수입으로 무료 서비스를 운영하는 챗GPT 입장에서는 광고 수익 감소에 따른 부담이 무료 이용자에게까지 이어질 가능성이 있다. 하지만 공정한 기회가 중요한 분야에서는 광고 노출을 규제할 필요성이 인정된다. 실제 메타는 미국 법무부와 합의한 뒤 주택 광고의 목표 고객층과 실제 광고를 본 이용자의 인구 구성 차이를 10% 이내로 제한하는 시스템을 구축했다. 이행 여부를 확인할 독립적인 감독도 받아들였다. 미국 공정주택법이 주택 광고에 대한 차별 없는 접근을 보장하고 있어 규제 근거도 명확하다. 그러나 음식 배달처럼 일반 소비재 광고까지 같은 기준을 적용해야 하는지는 별개의 문제다.

보다 현실적인 대안으로는 광고 운영의 투명성을 높이고 외부 연구진의 검증을 허용하는 방안이 거론된다. 이는 광고 노출을 직접 제한하지 않고도 특정 계층에 불리한 결과가 나타나는지 확인할 수 있어 기업의 부담이 상대적으로 적다. 챗봇이 이용자의 신뢰를 악용해 허위·기만 광고를 노출하지 못하도록 하는 조치도 필요하다. 물론 투명성만으로 차별을 막을 수는 없지만, 페이스북의 광고 편중 문제 역시 외부 연구를 통해 드러났다.

수요 반영인지 단가 효과인지, 원인 규명 과제

다만 외부 검증에서 저소득 지역에 광고가 몰린 것으로 확인되더라도, 그 사실만으로 광고 노출 방식에 문제가 있다고 단정할 수는 없다. 판단 기준은 광고를 본 이용자의 실제 반응이다. 이 지역 이용자들이 광고를 클릭하고 실제로 상품을 사는 비율이 높다면, 관심 있는 이용자에게 광고가 제대로 전달된 결과에 가깝다. 반면 구매로 이어지는 비율이 낮은데도 광고가 몰렸다면, 광고 단가가 싸다는 이유로 알고리즘이 저소득 지역 이용자를 고른 것일 가능성이 크다. 이를 구분하려면 광고 내용은 같게 유지하고 노출 조건만 달리하는 비교 실험을 거쳐야 한다. 광고주가 특정 소득 계층을 겨냥했는지, 플랫폼의 자동 배분 과정에서 차이가 발생했는지를 가려내는 것도 비교 실험으로 가능하다. 광고 종류에 따라 영향도 달라진다. 패스트푸드 광고가 저소득 지역에 더 많이 노출되는 것은 큰 문제가 아니지만, 금리가 높은 대출처럼 이용자에게 비용 부담이 큰 금융 상품 광고라면 소비자 피해로 이어질 우려가 있다.

규제 역시 노출 차이의 원인과 실제 피해를 확인한 뒤 마련해도 늦지 않다. 특정 계층에 불리한 광고가 집중되는 것으로 드러나면 피해 유형에 맞춰 규제하되, 광고 효율에 미치는 영향도 함께 따져야 한다. 소득별 노출 차이가 이용자의 수요를 반영한 것인지, 광고비 절감을 위한 알고리즘의 선택인지는 아직 밝혀지지 않았다. 향후 챗GPT 광고 규제의 방향도 이를 얼마나 명확히 규명하느냐에 따라 달라질 전망이다.

본 연구 기사의 원문은 AI Advertising and the Economic Cost of Algorithmic Fairness를 참고해 주시기 바랍니다. 본 기사의 저작권은 The Economy에 있습니다.