이 글에서는 5차 (이상의) 방정식의 해를 사칙연산과 거듭제곱근의 조합으로 나타낼 수 없다는 갈루아의 증명을 이해하는 데 중요한 역할을 하는 «대칭다항식의 기본정리»(Fundamental Theorem of Symmetric Polynomials; 이후 FTSP로 언급하겠음)에 대해 다룬다. 인수분해와 곱셈공식을 배우는 중3, 고1 학생들 수준에서 작성했으므로 학부 고학년들에게는 재미가 없을 수도 있다. 갈루아의 증명에 대해서는 다음 기회에 이 글을 사용해서 설명하기로 한다.
1. FTSP의 이해
1.1 대칭다항식과 기본대칭다항식
다항식 $P$가 대칭다항식이라는 것은 $P$를 구성하는 문자를 임의로 서로 교환해서 식을 써도 그 식이 변하지 않는 다항식을 말한다. 예를 들면 $P(a,b) = a^2 b + ab^2$과 같은 경우 $$ P(b,a) = b^2 a + ba^2 = a^2 b + ab^2 = P(a,b)$$ 와 같이 주어진 식에서 $a$를 $b$로, $b$를 $a$로 바꿔서 식을 작성해도 원래 식과 같은 식이 되므로 이 식은 대칭다항식이다. 고등학교 교과과정까지 다루는 많은 곱셈공식이 대칭다항식이다.
대칭 다항식 중에 다음과 같이 특별한 다항식은 문자 개수에 관계없이 기본대칭다항식이라 하고, 이 글에서는 편의상 차수를 뜻하는 첨자 $i$와 함께 $\sigma_i$로 쓰기로 한다.[1] \begin{align*} \sigma_1 &= x_1 + x_2 + \cdots + x_n \\ \sigma_2 &= x_1 x_2 + x_1 x_3 + \cdots x_{n-1} x_n \\ \sigma_3 &= \sum_{1 \leq i<j<k \leq n} x_i x_j x_k \\ & \vdots \end{align*} 특히, 문자가 $a$, $b$, $c$, $d$인 경우에 위 식을 다시 써보면 \begin{align*} \sigma_1 &= a+b+c+d \\ \sigma_2 &= ab+ac+ad+bc+bd+cd \\ \sigma_3 &= abc+abd+acd+bcd \\ \sigma_4 &= abcd \end{align*} 라고 해석이 된다.
[1] 학교에서는 다른 말로 «서로 다른 $i$개 문자 곱의 합»이라고도 언급하는 식이다.
1.2 대칭다항식의 기본정리(FTSP)
대칭다항식의 아주 간단한 예로 제곱수의 합을 생각해 보자. 이미 우리는 다음 두 식을 알고 있다. \begin{align*} a^2 + b^2 &= (a+b)^2 - 2ab \\ a^2 + b^2 +c^2 & (a+b+c)^2 - 2(ab+bc+ca) \end{align*}
이보다 문자가 많아도 다음 식이 성립한다는 것을 확인할 수 있다. $$a^2 + b^2 +c^2 + d^2 = (a+b+c+d)^2 - 2(ab+ac+ad+bc+bd+cd)$$ 여기까지의 사실을 일반화 하면 \begin{equation} \label{eqSq} x_1^2 + x_2^2 + x_3^2 +\cdots + x_n^2 = \sigma_1^2 - 2 \sigma_2 \end{equation} 라는 식이 항상 성립한다는 것을 알 수 있다. 특이한 점을 발견했는가? 좌변을 표현하는데 필요한 문자 개수에 관계없이 우변을 표현하는 방법이 일정하다는 사실을 관찰할 수 있다. 이것을 일반화한 정리가 FTSP다. 구체적으로 FTSP를 기술하면 다음과 같다.[2]
각각의 대칭다항식은 그 다항식보다 많은 문자로 이루어진 대칭다항식에서 몇 개의 문자에 0을 대입해서도 얻어지기 때문에 위 정리는 같은 방식으로 만들어진 대칭다항식을 $\sigma_i$에 대한 다항식으로 쓰는 방법은 식 (\ref{eqSq})에서 처럼 유일하다는 것을 알 수 있다. 유일성이 신기해 보일 수 있지만, 사실 유일성은 당연하다. $\sigma_i$의 값들이 $x_i$들에 의해 결정되기 때문에 대칭다항식을 표현할 수 있는 다항식 $g_1$, $g_2$가 있다면 방정식 $g_1 - g_2 =0$은 무한히 많은 해를 가져야 하고, $g_1-g_2$가 다항식이기 때문에 식 $g_1 - g_2 =0$은 $\sigma_i$에 대한 항등식이 돼야 한다. 그래서, 이 정리의 증명은 존재성만 하면 된다.
[2] 학부 추상대수학에서는 계수의 범위를 좀 더 넓게 잡는다.
2. 증명
기호에 대해 정리하고 시작하자. 식 (\ref{eqSq})와 같은 식을 증명에서 다룰 것인데, 이 식의 좌변과 $\sigma_1$, $\sigma_2$는 모두 $x_1$, $x_2$, $\cdots$, $x_n$에 대한 다항식이다. 필요한 경우, 식이 너무 복잡해지지 않도록 $x_1$, $x_2$, $\cdots$, $x_n$을 생략하고 $f=g(\sigma_1, \sigma_2)$와 같이 식을 쓰기로 한다. 변수를 언급해야 할 필요가 있을 때는 다음과 같이 쓰겠다. $$f(x_1 , x_2 )= g(\sigma_1, \sigma_2)(x_1, x_2)$$
이제, 증명을 시작해보자. 증명은 $x_i$들의 개수에 대한 수학적 귀납법을 이용해서 이루어진다.
$n=1$이면 $\sigma_1 = x_1$이므로 대칭다항식 $f$ 자신이 $\sigma_1$에 대한 다항식이다. 이제, $n$개의 변수 $x_1$, $x_2$, $\cdots$, $x_n$에 대한 대칭다항식 $f$가 무엇이 되든 다음과 같은 다항식 $g_f$를 항상 정할 수 있다고 가정하자. $$f = g_f(\sigma_1 , \sigma_2, \cdots, \sigma_n)$$ $(n+1)$개의 변수 $x_1$, $x_2$, $\cdots$, $x_n$, $x_{n+1}$로 이루어진 대칭다항식 $p_0$는 $x_{n+1}=0$이라 하면 $n$개의 변수로 이루어진 대칭다항식이다. 따라서, 수학적 귀납법의 가정에 의해 $$p_0(x_1, \cdots, x_n , 0) = g_{p_0} (\sigma_1, \cdots, \sigma_n )(x_1, \cdots, x_n, 0)$$ 이 성립하는 다항식 $g_{p_0}$를 잡을 수 있다.
이 말은 $x_{n+1}=0$일 때 다항식 $p_0 - g_{p_0}(\sigma_1, \cdots, \sigma_n)$이 0이 된다는 말이므로 $x_{n+1}$은 다항식 $p_0-g_{p_0}(\sigma_1, \cdots, \sigma_n)$의 인수다. 다항식 $p_0-g_{p_0}(\sigma_1, \cdots, \sigma_n)$이 대칭다항식이므로 이 사실은 $p_0-g_{p_0}(\sigma_1, \cdots, \sigma_n)$이 다항식 $x_1 x_2 \cdots x_n x_{n+1}$로 나누어 떨어진다는 것을 의미하게 된다. 따라서, $$ p_1 = \frac{ p_0-g_{p_0}(\sigma_1, \cdots, \sigma_n)}{x_1 x_2 \cdots x_n x_{n+1}} = \frac{ p_0-g_{p_0}(\sigma_1, \cdots, \sigma_n)}{\sigma_{n+1}}$$ 은 상수이거나 원래 다항식 $p_0$보다 차수가 낮은 대칭다항식이 된다. $p_1$이 상수인 경우에는 여기서 중지하고, 상수가 아니면 $p_1$을 좀전의 $p_0$와 같이 생각하고 과정을 반복해서 상수가 나올때까지 차례대로 $p_2$, $p_3$, $\cdots$, $p_c$를 구한다. ($p_c$는 상수)
그러면 ($\boldsymbol \sigma = (\sigma_1, \cdots, \sigma_n)$) \begin{align*} p_0 &= g_{p_0}(\boldsymbol \sigma) + p_1 \sigma_{n+1} \\ &= g_{p_0}(\boldsymbol \sigma) + g_{p_1}(\boldsymbol \sigma) \sigma_{n+1} + p_2 (\sigma_{n+1})^2 \\ &\dots \\ &= g_{p_0}(\boldsymbol \sigma) + g_{p_1}(\boldsymbol \sigma) \sigma_{n+1} + g_{p_2}(\boldsymbol \sigma) (\sigma_{n+1})^2 + \cdots + p_c (\sigma_{n+1})^c \end{align*} 이 되어 변수가 $(n+1)$개인 대칭다항식도 $\sigma_i$의 다항식으로 표현할 수 있다.
그러므로, 수학적 귀납법에 의해 모든 대칭다항식은 $\sigma_i$의 다항식으로 표현할 수 있다.
3. Example
FTSP를 증명하는 여러 방법 중 위 방법을 택한 이유는 난이도도 높지 않으면서 다항식을 찾는 방법도 증명과정에 포함되어 있기 때문이다. 혹시 위 증명이 기호 때문에 이해가 어려웠다면 아래 예제를 보고나서 증명을 다시 보면 이해가 쉬울 것이다.
1. 세제곱의 합
$x_1^3 +x_2^3 + \cdots +x_n^3$을 표현하는 다항식은 3차식이기 때문에 $\sigma_1$, $\sigma_2$, $\sigma_3$만을 포함하게 된다. 한편, \begin{align*} x_1^3 + x_2^3 +x_3^3 &= (x_1 + x_2 +x_3)(x_1^2+x_2^2+x_3^2 - x_1 x_2 -x_2x_3 -x_3x_1) + 3x_1x_2x_3 \\ &= \sigma_1 (\sigma_1^2 -3 \sigma_2)+3 \sigma_3 \\ &= \sigma_1^3 -3 \sigma_1 \sigma_2 +3 \sigma_3 \end{align*} 이므로 위 증명과정에 따라 다음 식은 대칭다항식이다. $$\frac{x_1^3+x_2^3 +x_3^3+x_4^3 - (\sigma_1^3 -3 \sigma_1 \sigma_2 +3 \sigma_3)}{x_1x_2x_3x_4}$$ 만약 위 다항식이 0이 되지 않는다면 세제곱의 합은 4차항을 포함하게 되는 모순이 생긴다. 따라서, $$x_1^3 + x_2^3 +x_3^3 +x_4^3= \sigma_1^3 -3 \sigma_1 \sigma_2 +3 \sigma_3$$ 지금의 논리와 수학적 귀납법을 적용하면 다음 식이 얻어진다. $$x_1^3 + x_2^3 +\cdots +x_n^3= \sigma_1^3 -3 \sigma_1 \sigma_2 +3 \sigma_3$$
2. 네제곱의 합
네제곱의 합도 이미 알고있는 곱셈공식을 적용할 수 있지만, 순서대로 계산해보기로 한다. 우선, $x^4 = \sigma_1^4$이므로 변수가 두 개가 되면 \begin{align} \frac{x^4 +y^4 - \sigma_1^4}{xy} = -4x^2 -6xy-4y^2 \end{align} 우변은 2차식으로 추가로 복잡한 작업을 하지 않아도 $\sigma_1$, $\sigma_2$로 쓸 수 있다. 결과는 다음과 같다. \begin{align} \frac{x^4 +y^4 - \sigma_1^4}{xy} = -4 \sigma_1^2 +2 \sigma_2 \end{align} 이 식을 정리하면 \begin{equation} \label{step1} x^4 + y^4 = \sigma_1^4 -4 \sigma_1^2 \sigma_2 + 2 \sigma_2^2 \end{equation}
변수 개수에 관계없이 사용할 수 있는 식은 4차식을 표현할 수 있는 $\sigma_4$까지를 포함할 것이기 때문에 좀 더 계산을 하자. 변수가 3개일 때는 \begin{align} \frac{x^4 +y^4+z^4 - (\sigma_1^4 -4 \sigma_1^2 \sigma_2 + 2 \sigma_2^2) }{xyz} = 4(x+y+z) = 4 \sigma_1 \end{align} 따라서, $$x^4 +y^4 +z^4 = \sigma_1^4 -4 \sigma_1^2 \sigma_2 + 2 \sigma_2^2 +4 \sigma_1 \sigma_3$$
마지막으로, 다음 식을 계산해야 한다. $$\frac{x^4 +y^4+z^4+w^4 - (\sigma_1^4 -4 \sigma_1^2 \sigma_2 + 2 \sigma_2^2 +4 \sigma_1 \sigma_3) }{xyzw}$$ 분모의 $xyzw$가 이미 4차식이므로 위 식은 상수가 된다. 값을 구하기 위해 $x=y=1$, $z=w=-1$을 대입하면 $\sigma_1 =0$, $\sigma_2 = -2$이므로 구하는 상수는 $-4$라는 것을 알 수 있다. 따라서, $$x^4 +y^4 +z^4 +w^4 = \sigma_1^4 -4 \sigma_1^2 \sigma_2 + 2 \sigma_2^2 +4 \sigma_1 \sigma_3 -4\sigma_4$$ 이고, 이 이후로는 앞서 세제곱의 합에서 했던 논리로 모두 같은 식이 나온다. 즉, $$x_1^4 +x_2^4 + \cdots + x_n^4 = \sigma_1^4 -4 \sigma_1^2 \sigma_2 + 2 \sigma_2^2 +4 \sigma_1 \sigma_3 -4\sigma_4$$ 이다.