3차방정식의 여러 가지 해법

이 글은 3차방정식의 해를 구하는 여러 가지 방법을 소개한다.

1. 역사적 배경

3차방정식의 해법을 처음 발견한 사람은 Scipione dal Ferro이다. (1500년경) 당시는 이런 새로운 발견을 한 후 바로 논문을 발표하던 시기가 아니라서 그 결과는 한동안 알려지지 않았다. 이 결과는 후에 타르탈리아(Tartaglia; 말더듬는 사람^[1])라고도 불리는 Niccolò Fontana of Brescia가 해법을 재발견한 후(1539) 카르다노에게 그 방법이 전해졌고, 카르다노는 제자와 여행중 페로와 타르탈리아의 방법이 동일한 방법이라는 것을 발견하게 된다.

[1] 타르탈리아는 어렸을 때 프랑스 병사의 칼을 맞아 얼굴에 심한 부상을 입었는데, 이 후유증으로 말을 더듬게 되었다. 이후, 말더듬이라는 뜻의 타르탈리아라는 별명을 얻었다. 카르다노는 타르탈리아에게서 비공개를 조건으로 방정식의 해법을 받았으나, 그의 해법이 기존에 페로가 만든 방법과 동일하다는 것을 알게 된 후 자신의 책 Ars Magna에 3차방정식의 해법을 공개한다. 책 안에서 페로와 카르다노에 대한 자신의 사연을 소개해 놓았다.

카르다노는 페로와 타르탈리아의 해법을 자신의 스타일로 설명해 놓았는데, 카르다노의 설명은 수체계가 정립되지 않았던 시기에 만들어진 것이라 상당히 난해하다. 본인도 어려웠다고 책에 써뒀다. 이 해법의 깔끔한 정리는 1732년에 오일러에 의해 이루어진다.^[2]

[2] Morris Kline, Mathematical Thought: From Ancient to Modern Times, Vol 1. (1972).

또다른 해법은 Vieta에 의해 이루어졌다. 1591년에 탈고하고 1615년에 출판된 De Aequationum Recognitione et Emendatione에서 카르다노의 해법을 이용하지 않고 근을 구하는 방법을 소개한다. 이 방법은 제한된 조건 아래에서만 사용할 수 있었는데, 지금도 사용되는 방법이다.

2. 카르다노의 해법

꼭 필요한 조건은 아니지만 편의상 3차방정식의 계수가 모두 실수라고 하자. 카르다노의 해법의 핵심은 다음 두 가지다.

• 모든 삼차방정식 $ax^3 +bx^2 +cx +d =0$은 $x^3 + px +q =0$으로 고쳐쓸 수 있다.
• $(a+b)^3 -3ab(a+b) = a^3 + b^3$

두 번째 등식은 잘 알고있는 곱셈공식이다. 첫 번째 사실도 양변을 $a$로 나눈 다음 2차함수의 표준형을 변형할때 배운 방식대로 3차, 2차항을 기준으로 $(p+q)^3$꼴의 식이 되게 추가 항을 더하고 빼면 원하는 결과식이 나온다는 것을 확인할 수 있다.

$(a+b)^3 -3ab(a+b) = a^3 +b^3$이라는 식은 $x=a+b$가 3차방정식 $x^3 -3abx = a^3 +b^3$의 해라는 것을 설명하는 식으로 해석할 수 있다. 따라서, $x^3 +px+q=0$을 푼다는 것은 $$p=-3ab, \quad q=-a^3 -b^3$$ 을 만족하는 $a$, $b$를 구하는 것으로 해석할 수 있다. 이 연립방정식은 다음과 같이 가공이 된다. $$a^3 + b^3 = -q, \quad a^3 b^3 = - \frac {p^3}{27}$$ 이 문제는 $a^3$, $b^3$을 두 근으로 가지는 이차방정식 $$X^2 +qX - \frac {p^3}{27} =0$$ 을 풀면 된다. 결과를 편의상 $a^3 = \alpha$, $b^3 = \beta$라 하자. ($a^3 = \beta$, $b^3 = \alpha$인 경우에도 우리가 구하려는 3차방정식의 해인 $a+b$의 값은 같은 결과가 나오므로 이 경우만 한다.) $\alpha$, $\beta$가 허수일 때는 좀 설명이 필요하지만 편의상 세제곱근 기호를 일괄적으로 사용하면 최종적으로 다음과 같은 식이 얻어진다. $$a = \sqrt[3]{\alpha}, \sqrt[3]{\alpha} \omega, \sqrt[3]{\alpha} \omega^2, \quad b = \sqrt[3]{\beta}, \sqrt[3]{\beta} \omega, \sqrt[3]{\beta} \omega^2 $$ 위 식에서 $\omega$는 $x^3 =1$을 만족하는 허수근을 뜻한다. 이제, 가능한 $a$, $b$값에서 처음 식 $p=-3ab$를 만족하는 $a$, $b$의 짝, 즉, 곱이 실수가 되는 짝을 찾아주면 된다. 따라서, 3차방정식의 해는 $$x= \sqrt[3]{\alpha} + \sqrt[3]{\beta}, \sqrt[3]{\alpha} \omega + \sqrt[3]{\beta}\omega^2 , \sqrt[3]{\alpha} \omega^2 + \sqrt[3]{\beta}\omega$$ 이다.

3. Vieta의 방법

Vieta의 방법은 삼각함수를 사용하는 것으로, 삼차방정식의 근 중 실근을 구하는 것을 목표로 한다. (복소수 지수 개념을 안다면 복소수 범위에서도 변형해서 사용할 수 있다.) 이 방법의 핵심은 다음과 같다.

• 모든 삼차방정식 $ax^3 +bx^2 +cx +d =0$은 $x^3 + px +q =0$으로 고쳐쓸 수 있다.
• $\cos 3 \theta = 4 \cos^3 \theta - 3 \cos \theta$

첫 번째 내용은 카르다노의 방법에 있던 것과 동일한 것이고, 두 번째는 코사인의 삼배각공식이다. 코사인의 삼배각공식을 정리하면 다음과 같은 식을 얻는다. $$ \cos^3 \theta - \frac 3 4 \cos \theta - \frac 1 4 \cos 3 \theta = 0$$ 이 식은 삼차방정식 $$ x^3 - \frac 3 4 x - \frac 1 4 \cos 3 \theta = 0$$ 의 해가 $x= \cos \theta$라는 것인데, 동경이 $\theta + 120^\circ$, $\theta - 120^\circ$에서도 코사인의 주기성 때문에 위와 동일한 방정식이 만들어지므로 위 방정식은 다음과 같은 세 실근을 가진다고 할 수 있다. $$ x= \cos \theta, \cos(\theta + 120^\circ), \cos(\theta - 120^\circ)$$ 따라서, 삼차방정식 $x^3 +px+q =0$을 위와 같은 식으로 표현할 수 있는 경우, 위 결과로 세 실근을 얻어낼 수 있다. 일차항의 계수를 $-3/4$로 만들기 위해 $x= ny$라 하자. 그러면 방정식 $x^3 +px+q=0$은 다음과 같이 고쳐쓸 수 있다. $$ y^3 + \frac p {n^2} y + \frac q {n^3} = 0$$ 이제, $\dfrac p {n^2} = - \dfrac 3 4$인 $n$을 찾고(실수 범위에서는 없을 수도 있다.), 다음 식을 만족하는 각 $\theta$를 구한다. $$ -\frac 1 4 \cos 3 \theta = \frac q {n^3}$$ 역삼각함수를 이용해서 해를 표현할 수도 있다. 그러면 앞서 말한대로 세 실근이 얻어진다.

이렇게만 보면 $\cos 3\theta$의 범위 때문에 $q$의 범위에도 제한이 있을 것 같지만, 쌍곡함수 $\cosh \theta$, $\sinh \theta$도 동일한 삼배각공식을 만족하기 때문에 범위를 벗어나는 경우에는 쌍곡함수를 사용하면 된다. 단, 이 경우에는 주기성이 없으므로 실근이 하나만 얻어진다.