원주율 $\pi$가 무리수라는 것은 여러 가지 증명법이 있습니다. 여기에서 소개하는 증명은 1945년에 수학자 Mary Cartwright이 Cambridge University에서 수학예비시험문제(일종의 입학 자격시험 같은 것인데, 시험대상 학생이 어느 정도 수준인지는 확인이 안되네요.)의 예제로 제시했던 것인데, 원작자는 알려져있지 않고, Harold Jeffreys가 쓴 Scientific Inference 3판(1973)의 마지막 페이지에 한 페이지 분량으로 실려서 알려진 증명입니다. 증명을 위해서 필요한 지식은 부분적분법, 수학적 귀납법, 그리고 $b$가 자연수일 때 수열 $\left\{ b^n /n! \right\}$의 극한값이 $0$이라는 것 정도입니다. $\pi$가 무리수라는 여러 가지 증명은 대부분 여기서 제시하는 증명의 초반에 나오는 $I_n(x)$와 비슷한 식을 직, 간접적으로 사용합니다.
여기서의 증명은 무리수임을 증명하기 위해 필요한 등식 및 성질을 증명하는 두 개의 정리가 먼저 나오고, 핵심정리는 맨마지막에 있으므로 앞 두 증명은 읽지 않아도 무방합니다.
이제 시작하죠.
정리 1 $n=0, 1, 2, \cdots$에 대해 $$I_n (x) = \int_{-1}^1 (1-t^2 )^n \cos (xt) \mathrm dt$$ 이라 하고 $J_n (x) = x^{2n+1} I_n(x)$이라 하면 다음 관계식이 성립한다. \begin{equation} \label{Jn} J_n(x) = 2n(2n-1)J_{n-1}(x) -4n(n-1) x^2 J_{n-2}(x) \quad (n=2, 3, 4, \cdots) \end{equation} \begin{equation} J_0(x)= 2 \sin x, \quad J_1 (x) = -4x \cos x + 4 \sin x \end{equation}
증명 부분적분을 이용하면 $n$이 $2$ 이상의 자연수일 때 \begin{align*} I_n (x) &= \int_{-1}^1 (1-t^2 )^n \cos (xt) \mathrm dt \\ & = {\left[ \frac 1 x (1-t^2 )^n \sin(xt) \right]_{-1}^1} + \frac {2n} x \int_{-1}^1 t(1-t^2 )^{n-1} \sin (xt) \mathrm d t \\ &= \frac {2n} x \left\{ {\left[ - \frac t x (1-t^2)^{n-1} \cos(xt) \right]_{-1}^1} + \frac 1 x \int_{-1}^1 (1-t^2)^{n-2} \left\{ 1-(2n-1)t^2 \right\} \cos(xt)\mathrm dt\right\} \\ &= \frac{2n}{x^2} \int_{-1}^1 \left\{ -2(n-1)(1-t^2)^{n-2} + (2n-1)(1-t^2)^{n-1} \right\} \cos(xt) \mathrm dt \\ &= \frac{-4n(n-1)}{x^2} I_{n-2} (x) + \frac{2n(2n-1)}{x^2} I_{n-1}(x) \end{align*} 즉, $n=2,3,4, \cdots$에 대해 $$x^2 I_n (x) = 2n(2n-1)I_{n-1}(x) -4n(n-1)I_{n-2}(x)$$ 임을 얻을 수 있습니다. 그리고, 초기값 $$I_0(x) = \frac {2 \sin x} x, \quad I_1(x) = - \frac 4 {x^2} \cos x + \frac 4 {x^3} \sin x $$ 도 적절한 적분법을 활용하면 얻을 수 있습니다. 이제, $J_n(x)$의 정의에 따라 $$J_n(x) = 2n(2n-1)J_{n-1}(x) -4n(n-1) x^2 J_{n-2}(x) $$ $$J_0(x)= 2 \sin x, \quad J_1 (x) = -4x \cos x + 4 \sin x$$ 임을 알 수 있습니다.
정리 2 $n=0, 1, 2, \cdots$에 대해 앞의 정리 1의 $J_n(x)$는 정수를 계수로 가지는 적당한 $n$차 이하의 다항식 $P_n(x)$, $Q_n(x)$를 사용하여 다음과 같이 정리할 수 있다. \begin{equation} \label{JnPnQn} J_n(x) = n! \left\{ P_n(x) \sin x + Q_n(x) \cos x \right\} \end{equation}
증명 우선은 앞의 증명에서
$$J_0(x) = 2 \sin x, \quad J_1 (x) = -4 x \cos x + 4 \sin x$$
이었으므로 정리 2가 $n=0, 1$일 때 성립함을 알 수 있습니다. 이제, $n=0,1,2, \cdots, m-1$에 대해 위 식이 성립한다고 하면,
\begin{align*}
J_m(x) &= 2m(2m-1) J_{m-1}(x) -4m(m-1)x^2 J_{m-2}(x) \\
&=2m(2m-1)(m-1)! \left\{ P_{m-1}(x) \sin x +Q_{m-1}(x) \cos x \right\} \\
&\phantom{=2m(2m-1)}-4m(m-1)x^2(m-2)! \left\{ P_{m-2}(x) \sin x +Q_{m-2}(x) \cos x \right\} \\
&= m! \left\{ \left( (4m-2)P_{m-1}(x) -4x^2 P_{m-2}(x) \right) \sin x \right. \\
&\phantom{=2m(2m-1)} \left. + \left( (4m-2)Q_{m-1}(x) -4x^2 Q_{m-2}(x) \right) \cos x \right\}
\end{align*}
가 되어 식의 모양이 정리 2의 식과 일치하고 $P_m(x)$, $Q_m(x)$가 가져야 할 차수조건도 잘 맞는다는 것을 알 수 있습니다. 따라서, 강한 수학적 귀납법에 의해 위 식은 0이상의 모든 정수 $n$에 대해 성립합니다.
정리 3 원주율 $\pi$는 유리수가 아니다.
증명. $\pi$를 유리수라고 하면 $\pi / 2$도 유리수이므로 적당한 자연수 $a$, $b$에 대해 $\frac \pi 2 = \frac b a$라고 할 수 있습니다. 이제, 정리 2에서 증명한 등식의 양변에 $x$ 대신 $\frac \pi 2$를 대입하면 $$J_n \left( \frac \pi 2 \right) = n! P_n \left( \frac \pi 2 \right)$$ 즉, $$ \left( \frac b a \right)^{2n+1} I_n \left( \frac b a \right) = n! P_n \left( \frac b a \right)$$ 이 식을 정리하면 다음과 같이 쓸 수 있는데요, \begin{equation} \frac{ b^{2n+1}} {n!} I_n \left( \frac b a \right) = a^{2n+1} P_n \left( \frac b a \right) \end{equation} 위 등식의 오른쪽은 다항식 $P_n(x)$의 계수가 모두 정수이고 차수가 $n$ 이하이므로 정숫값을 가짐을 알 수 있습니다. 한편, $t \in [-1,1]$에 대해 $0 \leqslant (1-t^2)^n \leqslant 1$, $0 \leqslant \cos \left( \frac \pi 2 t \right) \leqslant 1$이고 이 두 식의 곱이 항상 0은 아닌 연속함수이므로 $I_n \left( \frac b a \right) = I_n \left( \frac \pi 2 \right)$이 다음 관계를 만족한다는 것도 알 수 있습니다. $$ 0 < I_n \left( \frac b a \right) = \int_{-1}^1 (1-t^2)^n \cos \left( \frac \pi 2 t \right) \mathrm dt \leqslant \int_{-1}^1 1 \mathrm dt = 2$$ 그런데 $\displaystyle{\lim_{n \to \infty} \frac{b^{2n+1}}{n!} =0}$이므로 $n$이 충분히 크면 \begin{equation} 0 \lt \frac{ b^{2n+1}} {n!} I_n \left( \frac b a \right) \lt 1 \end{equation} 일 수 있게 되는데, 이 부등식의 중앙에 있는 값은 앞서 정수라고 입증되어 있으므로 모순이 됩니다. 이 모순으로 $\pi$가 유리수가 될 수 없음이 설명됩니다.
추가노트
$\pi$가 무리수라는 것을 증명하려면 $\pi$가 실수라는 것이 설명이 되어야 하는데, 이것은 여러 가지 방법이 있겠네요. 아무래도 원주율의 정의가 가장 자연스럽겠습니다.