파이는 무리수이면서 초월수이기 때문에 단순 계산으로 알기 어려워 
초월수 자체에 대한 이해가 부족해 추상 수학으로도 답을 구할 수 없어
아직 증명되지 않았지만, 섀뉴얼의 추측에 따르면 결과는 초월수 

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 저희 데이터 사이언스 경영 연구소 (GIAI R&D Korea)에서 콘텐츠 제휴가 진행 중입니다.

파이(π)는 아마도 수학에서 가장 유명한 수일 것이다. 많은 전문가들이 파이를 광범위하게 연구했을 뿐만 아니라 아마추어들에게도 매혹적인 숫자로 파이와 관련된 책, 영화, 노래들을 어렵지 않게 찾을 수 있다. 파이의 매력 중 하나는 가장 단순하고 대칭적인 원을 설명하는 데 사용되지만, 십진수로 표현한 파이엔 대칭성이 전혀 없다는 점이다. 파이의 소수점 값은 끝이 없고 반복되지 않는다는 특징이 있기 때문이다.

사람들은 수천 년 동안 파이라는 숫자를 연구해 왔다. 따라서 파이에 대해 이미 거의 모든 것이 알려져 있다고 생각할 수 있다. 하지만 파이엔 여전히 많은 미스터리가 남았다. 그중 하나는 파이를 반복적으로 곱하면 어떻게 되는지에 대한 질문과 관련이 있다. π^(π^(π^π)))는 자연수가 될 수 있을까?

무리수를 거듭하여 곱해서 소수점 이하가 없는 숫자를 구하겠다는 생각이 언뜻 터무니없어 보일 수 있다. 하지만 √2로 예로 들면, (√2^√2)^√2는 √2^{√2 x √2}로 단순화할 수 있으므로 √2² = 2가 된다. π도 무리수니까 정수를 금방 구할 수 있을 것 같지만, 무리수이면서 초월수인 π에서는 계산이 어떻게 작동하는지를 알기란 쉽지 않다.

수학 커뮤니티를 달군 '⁴π'

2013년 5월 3일, 현재 에픽게임즈의 수석 수학자인 댄 피포니(Dan Piponi)는 트위터(현재는 X)에 π^(π^(π^π))) 정수가 아님을 증명해 달라는 내용의 글을 올렸다. 몇 개의 댓글이 달렸지만 당시엔 큰 관심을 끌지는 못했다. 컴퓨터 과학자 다니엘 스피왁(Daniel Spiewak)은 피포니의 의도를 꿰뚫어 보고 "팔로워들에게 (테트레이션과 관련하여) 아직 풀리지 않은 중요한 질문 중 하나를 해결해 달라고 요청하고 있는 건가요?"라고 답변을 달았다. 테트레이션은 반복적으로 수행되는 지수를 뜻하며 피포니의 질문을 ⁴π로 바꿔 표현할 수 있다. 실제로 수학자조차도 ⁴π의 결과가 어떤 숫자인지 알지 못한다.

믿기 어렵겠지만 그다지 어려워 보이지 않은 이 문제를 수학자들조차도 풀지 못했다. 옥스퍼드대학교의 수학자 토마스 블룸(Thomas Bloom)은 2021년에 트위터에서 이 문제를 다시 제기했는데, 이번엔 90회 공유되고 500회 이상 '좋아요'를 받았을 정도로 많은 관심을 불러일으켰다. 수학자이자 필즈 메달리스트인 티모시 가우어스(Timothy Gowers)는 "와! '소수점 이하 한두 자리까지만 풀면 되지 않을까'라는 생각이 먼저 들었는데, 이내 왜 불가능한지 깨달았다. (π^π^π에서는 가능하다)"고 트윗을 남겼다.

π는 상수인데 직접 계산해 보지 않고 왜 열띤 논의를 펼치는지 의아해할 수도 있다. 비록 π^(π^(π^π)))가 단순해보일지라도, 상상할 수 없을 정도로 거대한 숫자기 때문이다.

π^(π^(π^π))), "직접 계산하는 게 정말 어려울까?"

먼저 다중 지수가 오른쪽에서 왼쪽으로 수행된다는 것을 알아야 한다. 가장 오른쪽에 있는 π^π를 먼저 계산하면 대략 36.46이 나온다. 그런 다음 π^36.46을 구하면 1.34… x 10¹⁸이라는 18자리 숫자를 얻는다. 아직 버거워하기엔 이르다. ³π의 결과일 뿐이다. 마지막으로 π^{1.34… x 1018}를 계산하면 정말 거대한 숫자가 튀어나온다. 거의 10¹⁸ 자릿수를 가진 숫자가 계산된다. 참고로 파이는 2022년 기준으로 62x10¹²번째 자리까지 밝혀졌는데, ⁴π를 계산하려면 백만 배 더 많은 자릿수를 계산해야 한다. 2022년의 기록을 세우기 위해 약 5개월이 소요된 점을 감안하면, 100만 배 더 많은 자릿수를 계산하기 위해선 상상 이상의 시간과 자원을 동원해야 한다. 게다가 아직 소수점 이후의 숫자는 고려하지 못했다.

수학자들이 실제로 관심을 두는 것은 소수점 이후의 숫자다. 왜냐하면 ⁴π가 정수냐는 물음은, 소수점 뒤에 숫자가 있느냐와 같은 질문이기 때문이다. 따라서 소수점 앞의 10¹⁸여 자리 숫자는 무시해도 된다. 문제가 간단해진 것 같지만 파이의 소수점 이후의 자릿수는 무한대다. 무한대의 수를 생각하기 전에 더 간단한 예부터 살펴보자. ³4를 계산하려고 하는데 마지막 두 자리에만 관심이 있다고 가정한다. 4²⁵⁶을 바로 계산해도 되지만, 시간이 오래 걸리며, 결과의 마지막 두 자리에만 관심이 있기 때문에 정직한 계산을 고집할 필요가 없다. 지름길은 의외로 단순하다. 거듭제곱을 이어나가는 중 백의 자리를 넘을 땐, 마지막 두 자릿수만 남기고 계속 계산하는 방식이다.

먼저 4¹ = 4를 계산하고 여기에 4를 곱하면 4² = 16이 된다. 여기에 다시 4를 곱하면 4³ = 64다. 이 과정을 반복하면 4⁴ = 256이 나오는데, 다음 단계에서는 3자리 결과 전체에 4를 곱하는 대신 마지막 두 자리(즉, 56)만 계산에 사용한다. 궁극적으로 결과의 마지막 두 자리 숫자에만 관심이 있기 때문이다. 4⁵ = …56 x 4 = …224가 계산되고, 다음 단계에서는 다시 백의 자리를 무시하고 4를 곱해주는 패턴으로 계속 진행한다. 이 과정을 256번 반복하면 원하던 마지막 두 자릿수를 알 수 있으며 4가 정수라는 사실도 함께 증명할 수 있다.

하지만 앞서 말했듯이 π에서는 위와 같은 방식이 작동하지 않는다. 파이는 소수점 이하 자릿수가 무한해서, 지수화할 때 고려할 수 있는 '가장 작은 자릿수'란 개념이 없다. 물론 지수화 후 가능한 가장 정확한 결과를 얻기 위해 계산에 π의 소수점 이하 몇 자리까지 포함해야 하는지를 조사할 수는 있다. 이렇게 하면 ⁴π가 정숫값을 가질 수 있는지를 대략 파악할 수 있을지도 모른다.

추상 수학으로도 알기 어려운 초월수의 확장 형태

호주의 수학자 매트 파커(Matt Parker)는 실제로 가장 작은 자릿수를 찾기 위해 일반화를 시도했다. 하지만 그가 영상에서 밝힌 계산에 따르면 소수점 이하 몇 자리까지 정확하게 구하려면 파이의 몇 자리까지 고려해야 하는지 정확히 계산할 수 없다. 소수점 이하 다섯 자리만 고려한 3.14159⁶과 같은 간단한 예시에선 소수점 이하 두 자리까지만 정확하다는 결과를 쉽게 구할 수 있지만, 고려해야 하는 소수점 자릿수와 정확도 사이의 닫힌 공식은 찾을 수 없다. 다만 소수점 이하에서 적어도 한 자리 이상 정확한 숫자를 얻으려면 소수점 이하 자릿수의 최소 두 배(즉, 2 x 1.34…x10¹⁸)의 지수가 필요하다는 것이 그의 생각이다.

수학은 숫자가 정수인지, 무리수인지, 아니면 초월수인지 식별할 수 있는 다른 추상적 도구를 제공하지만, 안타깝게도 초월수에 대한 이해는 부족하다. 왜냐하면 초월수는 간단한 방정식의 해로 표현할 수 없는 숫자기 때문이다. 무리수인 √2처럼 x² = 2의 해를 가질 수 없다는 의미다. 그 결과 π^π 조차도 초월수인지 알 방법이 없다. 1960년대에 미국의 수학자 스티븐 호엘 섀뉴얼(Stephen Hoel Schanuel)은 어떤 값이 초월적인지(따라서 무리수인지) 평가하는 데 사용할 수 있는 추측을 제시했다.

일부 전문가들은 섀뉴얼의 추측을 이용해 π^(π^(π^π)))를 조사한 결과, ⁴π는 초월적이어야 하므로 정수가 될 수 없었다. 그러나 섀뉴얼의 추측은 여전히 추측에 불과하며 아직 아무도 이를 증명하지 못했다. 따라서 숫자가 초월적이라는 결론은 여전히 논쟁의 여지가 있다.

결국 ⁴π의 퍼즐을 푸는 방법은 두 가지뿐이다. 파커는 동영상 말미에 "수학이 발전해서 섀뉴얼의 추측을 증명하거나, 아니면 계산을 훨씬 더 잘해야 한다"라며, "그때까지 우리는 ⁴π가 정수인지 아닌지 알 수 없다"라고 말했다.

영어 원문 기사는 사시언티픽 아메리칸에 게재되었습니다.