[딥테크] 창작의 진정성, AI 활용 비율로 판단해야

AI 활용은 단순 사용 여부가 아닌 비율 기준으로 평가 필요
인간 주도성을 입증하는 공개와 출처 확인이 핵심 요소
개입 정도에 따라 단계적으로 평가하고 관리하는 체계 요구

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

응답자의 62%는 자신이 선호하는 예술 작품이 인간의 개입 없이 전적으로 인공지능(AI)에 의해 제작됐다는 사실을 알게 되면 호감이 낮아진다고 답했다. 81%는 인간이 만든 예술과 AI가 생성한 결과물은 감정적 가치에서 분명히 차이가 있다고 인식했다. 그러나 다수는 창작자가 작품의 방향과 핵심 결정을 주도한다면 AI를 활용했더라도 예술가로 인정할 수 있다고 밝혔다. 대중은 AI 자체를 거부하는 것이 아니라 인간 개입의 정도를 기준으로 진정성을 평가하는 것이다. 결과적으로 쟁점은 ‘AI 사용 여부’가 아니라 ‘얼마나 인간이 관여했는가?’에 있으며, 이는 예술을 넘어 산업과 문화 전반에서 신뢰와 저작권의 기준을 새롭게 정립해야 할 과제로 부상하고 있다.

이분법을 넘어서는 평가

현행 논의의 가장 큰 문제는 작업물을 단순히 ‘AI 사용’과 ‘비사용’으로만 구분하는 이분법적 접근이다. 간단한 문장 생성은 표절로, 일부 수정은 순수 창작으로 간주되지만, 이는 이미 현실을 설명하지 못한다. AI 텍스트 탐지기의 신뢰도는 낮아 실제 창작물을 AI 작성물로 잘못 판정하는 사례가 많으며, 특히 영어를 제2 언어로 쓰는 이들의 글이 자주 오탐되는 문제가 보고됐다. 이 때문에 일부 기관은 탐지기 사용을 중단하거나 제한했다.

동시에 실제 활용은 빠르게 확산되고 있다. 2024년 조사에 따르면 응답자의 60%가 정기적으로 AI를 활용한다고 답했으며, 전문가 집단 내에서도 사용 비율은 꾸준히 증가하고 있다. 현실이 이처럼 변하고 있음에도 불구하고, 지금의 기준은 여전히 ‘사용 여부’에 머물러 있다. 이런 상황에서는 사용 여부만 따지는 이분법 대신 ‘활용 비율’을 기준으로 평가하는 접근이 요구된다.

활용 비율을 가늠하는 지표

AI 개입 정도는 다양한 증거를 통해 추정할 수 있다. 문서와 코드의 버전 기록이나 수정 내역을 살펴보면 어느 부분이 붙여넣기, 삭제, 수정됐는지 확인할 수 있고, 입력·출력 로그를 통해 언제 어떤 프롬프트가 사용됐는지 기록을 남길 수 있다. 메타데이터가 삽입된 경우에는 결과물이 생성됐는지, 편집됐는지, 단순 불러오기인지 구체적으로 파악할 수 있다.

이 과정은 완벽한 판별이 아니라 합리적이고 방어 가능한 추정을 목표로 한다. 예컨대 1,800단어 분량의 결과물에서 AI가 생성한 문장이 450단어, 편집된 문장이 150단어라면 전체의 약 33~35%가 AI에 의해 만들어진 것으로 볼 수 있다. 이후 평가자는 해당 부분이 단순 교정인지, 구조와 논지를 좌우하는 핵심인지에 따라 비율을 조정한다. 중요한 것은 법정 수준의 절대적 확실성이 아니라, 일관된 기준과 공정한 절차다.

이 접근은 AI의 실제 능력도 반영한다. AI는 학습 데이터 안에서 패턴을 조합하는 데는 능숙하지만, 의도적 참신성을 창출하지는 않는다. 최근 연구에서는 합성 데이터가 과도하게 반복 학습되면 흔치 않은 사례가 제대로 반영되지 못하고, 획일적이며 비논리적인 결과로 치닫는 ‘모델 붕괴’ 현상이 나타날 수 있다고 경고한다. 따라서 인간이 만든 맥락과 독창적 작업물이 데이터 생태계에 계속 포함돼야 한다. 비율 기준은 평가의 공정성을 지킬 뿐 아니라, 모델의 장기적 품질을 보호하는 안전장치이기도 하다.

수용성을 결정하는 조건

여론은 인간이 주도권을 잡을 때 AI 활용을 더 긍정적으로 받아들인다. 2025년 조사에서도 응답자 다수는 전적으로 자동화된 예술을 거부했지만, 색채 팔레트 선택이나 구도 결정, 최종 판단처럼 핵심 결정을 창작자가 내린 경우에는 예술가로 인정했다. 언론 소비에서도 같은 흐름이 확인됐다. 독자들은 기사 전면이 AI로 작성되는 것보다 보조적 활용을 선호했고, 자동화가 개입했다면 명확히 표시되기를 원했다. 또 절반 이상은 생성형 시스템이 반드시 출처를 공개해야 한다고 답했다. 결국 정당성을 좌우하는 것은 도구의 유무가 아니라 인간의 의도와 출처 확인이다.

이 원칙은 비율 기준으로 구체화할 수 있다. AI 개입이 20% 이하라면 초안 작성이나 문법 보조 수준으로 간주해 간단한 공개만으로 충분하다. 20~50% 범위에서는 저자가 직접 내린 창작 결정을 설명하는 저작 성명서를 제출하도록 하고, 공동 창작으로 평가한다. 50%를 초과할 경우에는 ‘합성 우선’ 표시를 붙이고, 독창성보다는 편집과 판단 능력에 초점을 맞춰 평가한다. 이 기준은 법적 규제가 아니라 지침이며, 분야별 특성에 따라 조정 가능하다. 다만 전면 금지와 무제한 허용 사이에서 합리적 균형점을 제시한다는 점에서 의미가 크다.

투명성을 위한 제도적 장치

비율 기준이 핵심이라면, 과정 포트폴리오는 이를 입증하는 수단이 된다. 최종 결과물뿐 아니라 초안, 수정 내역, 프롬프트 기록, 저작 성명서, 이미지·음원·영상의 경우 콘텐츠 크리덴셜을 함께 제시하는 방식이다. 이는 사용 여부를 단속하기 위한 절차가 아니라, 창작 과정을 투명하게 드러내는 장치다. 창작자는 자신이 내린 결정을 설명하고, 평가자는 사고 과정을 검토하며, 심사자는 AI의 기여 정도를 명확히 확인할 수 있다.

제도적 기반도 필요하다. 모든 결과물에 저작 성명서를 첨부하도록 표준화하고, C2PA와 같은 메타데이터 추적 시스템을 활성화하며, EU AI 법과 미국 저작권 지침에서 규정한 합성물 표기와 인간 저작 보호 기준을 반영하는 것이다. 여기에 더해 오픈소스 추적 도구 개발을 지원하고, 공통 라벨을 도입한다면 신뢰 체계는 더 강화될 수 있다.

이 변화는 노동시장에도 직접 연결된다. 2025년 기업 조사에 따르면 자동화로 줄어드는 업무가 있는 반면, AI 활용 역량을 바탕으로 새로운 일자리는 증가하고 있다. 실제 사례에서도 대규모 고용 감소보다는 재교육과 전환이 중심이 됐다. 결과적으로 인간 주도 창의성과 도구 활용 능력을 결합한 인재가 경쟁에서 앞서게 될 가능성이 높다.

장기적 안정성을 위한 기준

출처 없는 합성물이 대량으로 쏟아지면 모델은 자기 산출물을 다시 학습하면서 품질이 급격히 저하될 수 있다. 학계와 산업계 연구는 합성 데이터의 과도한 활용이 모델 붕괴를 초래할 수 있다고 경고한다. 반대로 인간이 만든 데이터와 적절히 섞이면 위험은 완화된다. 따라서 독창성이 담긴 인간 창작물을 유지하는 것은 예술적·학문적 가치뿐 아니라 기술 발전의 안정성을 위해서도 필수적이다.

정당성을 확보하려면 비율 기준이 뒷받침돼야 한다. AI 활용 정도를 공개하고, 인간이 주도한 의사결정을 평가하며, 과정 포트폴리오와 출처 라벨링, 합리적인 임계치를 마련하면 창작 과정의 투명성이 보장된다. 핵심은 AI 사용 여부가 아니라 얼마나, 그리고 얼마나 투명하게 사용됐는가다. 비율 기준은 그 답을 제시하며, 지금 정책 논의에 포함돼야 한다.

본 연구 기사의 원문은 How Much Is Too Much? A Proportion-Based Standard for Genuine Work in the Age of AI을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.