성능보다 구조, 예측보다 내부 모델
세계 모델이 재편하는 평가·인증 기준
조달·안전 규범으로 확장되는 AI 설계 논의

본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Business Review 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.

인공지능(AI)을 둘러싼 경쟁의 초점이 빠르게 이동하고 있다. 관심은 이제 성능 지표를 얼마나 끌어올렸는지에서, 시스템이 현실을 어떤 구조로 내부에 담고 이를 어떻게 유지·관리하는지로 옮겨가고 있다. 단기적인 정확도나 출력의 그럴듯함만으로는 복잡한 환경에서의 신뢰성과 일관성을 설명하기 어려운 국면에 접어든 것이다. 이러한 문제의식 속에서 ‘세계 모델(World Model)’이 핵심 개념으로 부상하고 있다.

세계 모델은 인공지능이 외부 환경을 내부 지도 형태로 구성하고, 그 안에서 공간·객체·시간의 관계를 지속적으로 관리하는 구조를 의미한다. 이 구조에서는 입력에 대한 즉각적인 반응보다 내부 상태를 점검하고 결과를 시뮬레이션하는 과정이 우선된다. 시스템은 여러 가능성을 내부적으로 검토한 뒤 행동을 선택한다. 이때 중요한 기준은 예측의 정확도 그 자체가 아니라, AI가 환경을 어떤 방식으로 이해하고 있다고 전제하는지에 있다.

이러한 전환은 AI를 바라보는 정책적 기준에도 영향을 미치고 있다. 세계 모델은 설계 단계부터 내부 구조의 안정성과 업데이트 방식, 오류 관리 체계를 함께 요구한다. 그 결과 AI의 신뢰성은 단순한 성능 수치가 아닌 구조의 관리 가능성과 설명 가능성에 의해 평가되는 흐름으로 바뀌고 있다. 이는 향후 AI 설계 원칙을 넘어 교육 내용과 공공 조달 기준, 규제 체계 전반을 재정렬하는 출발점으로 작용하고 있다.

예측에서 구조로 이동한 AI 작동 원리

세계 모델의 도입은 인공지능의 작동 방식을 구조적으로 바꿨다. 기존 시스템은 입력이 주어졌을 때 어떤 출력을 내놓는지가 핵심이었지만, 세계 모델 기반 시스템은 환경을 내부 상태로 저장하고 관리하는 데 초점을 둔다. 공간의 배치, 객체 간 관계, 시간에 따른 변화가 하나의 지속적인 구조로 유지된다.

이 내부 구조는 계획 능력을 전제로 작동한다. 시스템은 매 순간 반응을 반복하기보다, 내부에서 여러 가능성을 시뮬레이션한 뒤 행동을 선택한다. 상태의 흐름을 기준으로 판단이 이어지면서 단기 결과에 흔들리지 않는 대응이 가능해졌다. 그만큼 장기 목표를 관리하는 능력이 강화됐다.

이 같은 변화는 연구 결과로도 확인된다. 2025년 4월 과학 학술지 네이처(Nature)에 게재된 다니야르 하프너(Danijar Hafner)연구팀의 논문은 세계 모델을 활용한 에이전트가 하나의 통합 구조로 다양한 제어 과제를 수행할 수 있음을 제시했다. 개별 과제마다 다른 구조를 설계하지 않아도 공통된 내부 모델을 기반으로 대응이 가능하다는 점이 확인됐다.

이 결과는 AI 경쟁의 기준 변화를 보여준다. 성능 수치의 차이보다, 내부 구조가 상태를 얼마나 안정적으로 유지하고 계획을 뒷받침하는지가 시스템의 성격을 좌우한다. 세계 모델은 AI를 반응형 도구에서 구조를 관리하는 시스템으로 이동시키는 분기점으로 작동하고 있다.

설계 변화가 재편하는 교육・인력 기준

세계 모델을 둘러싼 구조적 전환은 연구 설계를 넘어 교육 체계로 확산되고 있다. 시스템이 현실을 내부 상태로 관리하는 방식을 전제로 하면서, AI 설계에서 요구되는 기본 역량이 달라졌기 때문이다. 명시적 상태 표현, 시간적 일관성 유지, 점진적 업데이트 구조가 핵심 설계 요소로 자리 잡았다.

이 변화는 연구 현장에서 먼저 나타났다. 3차원·4차원(3D·4D) 장면 표현이 시각적 일관성을 높이는 수단으로 활용되고, 궤적 시뮬레이션 기반 계획이 에이전트 훈련의 기본 도구로 채택됐다. 여기에 세션 간 정보를 유지하는 장기 메모리 구조까지 더해지면서, 시스템은 단발적 학습보다 상태의 누적 관리에 무게를 두게 됐다. 이러한 흐름은 2025년 글로벌 AI 연구 조직 구글 딥마인드(Google DeepMind)가 공개한 지니 3(Genie 3)에서도 확인됐다.

설계 기준의 변화는 교육 내용에도 직접적인 영향을 주고 있다. 대규모 데이터 처리 능력만으로는 세계 모델 기반 시스템을 다루기 어렵기 때문이다. 이에 따라 AI 교육의 초점은 표현을 설계하고, 내부 상태를 점검하며, 시뮬레이션 결과를 해석하는 역량으로 이동하고 있다. 단순한 모델 학습 기술보다 구조를 이해하고 유지하는 능력이 인력 평가의 기준으로 부상했다. 이는 향후 AI 인력 양성과 교육 커리큘럼이 성능 경쟁보다 구조 이해를 중심으로 재편될 가능성을 시사한다.

평가·인증의 기준 전환

세계 모델의 확산은 기존 AI 평가와 인증 체계의 한계를 분명히 드러냈다. 단기 예측 정확도만으로는 시스템의 실제 위험과 신뢰성을 충분히 가늠하기 어렵기 때문이다. 평가의 초점은 출력의 맞고 틀림에서, 내부 구조가 장기간 목표 지향적 행동을 안정적으로 뒷받침하는지로 이동하고 있다.

핵심 지표도 달라졌다. 내부 시뮬레이션을 통해 계획을 세우고, 환경 변화 속에서도 판단을 일관되게 유지하는 능력이 중요해졌다. 가상 환경에서 학습한 지식을 최소한의 재훈련으로 실제 환경에 이전할 수 있는지 여부가 대표적이다. 이는 데이터 분포가 바뀌는 상황에서의 복원력과 직결된다.

이 변화는 인증 절차의 재구성을 요구한다. 출력 결과만 점검하는 방식으로는 내부 판단의 근거와 오류 경로를 확인하기 어렵다. 내부 상태의 정확성, 업데이트 절차의 일관성, 시뮬레이션 기록의 보존과 재현 가능성이 함께 검토돼야 한다는 요구가 커지고 있다.

정책 당국의 과제도 분명해졌다. 세계 모델을 사용하는 시스템에 대해서는 성능 시험을 넘어 구조 감사가 가능한 기준을 마련해야 한다. 평가·인증은 일회성 통과 절차가 아니라, 내부 모델의 변화 과정을 추적하는 관리 체계로 확장되는 흐름을 보이고 있다.

조달·안전 규범으로 확장되는 세계 모델

세계 모델은 공공 조달과 안전 규범에서도 실질적인 기준으로 작동할 가능성이 커지고 있다. 내부 상태를 점검할 수 있는 구조는 오류 발생 시 원인을 추적할 수 있게 하고, 사후 검증의 범위를 넓힌다. 이러한 특성은 시스템의 감사 가능성을 높이는 요소로 평가된다.

구조적 투명성은 조달 기준에도 직접적인 영향을 미친다. 세계 모델을 적용한 시스템은 어떤 근거로 판단이 이뤄졌는지를 내부 상태를 통해 확인할 수 있다. 이는 출력만으로는 판단 과정을 파악하기 어려운 예측 중심 시스템과 구분되는 지점이다. 조달 과정에서 내부 상태에 대한 접근과 기록 관리가 요구되는 이유다.

안전 관리 측면에서도 변화가 나타나고 있다. 세계 모델은 위험하거나 비용이 큰 상황을 실제 환경에 적용하기 전에 오프라인 시뮬레이션으로 점검할 수 있게 한다. 극단적 상황이나 비정상 조건을 사전에 검증할 수 있어, 반복적인 현장 실험에 따른 비용과 안전 부담을 줄일 수 있다. 이러한 접근은 로봇, 물류, 산업 자동화 분야에서 특히 활용도가 높다.

일부에서는 계산 비용 증가를 우려하지만, 최근 연구들은 시뮬레이션 기반 학습이 대규모 데이터 수집과 반복 실험에 대한 의존도를 낮출 수 있음을 보여준다. 실제 운용 단계에서의 비용과 위험을 함께 고려하면, 세계 모델은 조달과 안전 규범에서 효율성과 관리 가능성을 동시에 높이는 선택지로 부상하고 있다.

본 연구 기사의 원문은 The Case for World Models: The Necessity of a Stable, Shared Map of Reality in Artificial Intelligence을 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.