이 글은 극한의 정의를 고등학생을 대상으로 설명해 보았다. 비슷한 내용을 다른 문서들에서도 다루지만, 나름대로의 방식으로 설명을 해 보았다. 사람마다 어떤 내용을 이해하는 방식은 다르기 마련이므로 이 설명방식을 통해 극한을 이해하는 데 도움이 되는 사람이 있다면 이 글의 목적을 달성한 것이라 본다. 단, 이 글은 좀 길다.
$x$가 $a$에 가까워질 때 $f(x)$가 $L$에 가까워진다는 말은 수학적으로 잘 정의되지 않은 ‘가깝다’라는 단어를 남발해 놓았기 때문에 이것만으로는 극한의 성질에 대한 엄밀한 증명을 하기가 곤란하다. 하지만, 엄밀한 정의는 고등학교 학생들이 감당하기에는 많이 어려운 논리를 포함하고 있다. 그래서 고등학교 과정에서는 이 말을 무정의 용어로 취급하고 극한의 성질을 일종의 공리처럼 받아들여서 극한 공부를 시작하게 된다. 현재 고등학교에서 배우는 미적분은 오일러가 한참 활동하던 시기의 수학적 접근법과 비슷하다. 당시의 수학자들도 지금의 고등학생들처럼 극한의 이해가 부족했었고, 그때문에 유명한 수학자들도 종종 잘못된 사실을 주장하곤 했다.
극한을 수학적으로 엄밀하게 정의한 때는 1800년대 중반이다. 그 시작을 1823년 코시가 했으며, 1861년 바이어슈트라스가 마무리했다. 여기서는 그 정의를 이해해 보기로 하자.
1. ‘가깝다’의 표현
고등학교 과정까지 배운 내용 중 수와 수 사이의 거리를 나타내는 기능을 맡을 수학적 장치로는 절댓값이 가장 자연스럽다. 그리고, $x$가 $a$에 막연히 가깝다고 하지 말고 숫자를 사용해서 “$x$와 $a$의 거리가 $d$보다 작다”라고 표현하면 수학적으로 참, 거짓을 판단하기 좋은 조건명제가 된다. 즉, 다음과 같은 형태로 가깝다는 개념을 표현해 보기로 하자. \begin{equation} x \text{가 }a \text{에 가깝다} \quad \Longleftrightarrow \quad \text{적당한 양수 } d \text{에 대해 }|x-a|< d \end{equation} 여기서, 한없이 가깝다는 의미로 ‘임의의 양수’라는 말을 붙여야 할 것 같다고 생각할 수도 있는데, 다음 결과는 ‘임의의 양수’라는 말을 붙이는 것이 부적절하다는 것을 설명한다.
실수 $a$가 주어져 있다. 실수 $x$가 \begin{equation} \label{alld} \text{임의의 양수 $d$에 대해 }|x-a | < d \end{equation} 를 만족하기 위한 필요충분조건은 $x=a$이다.
증명: $x=a$일 때 (\ref{alld})가 성립한다는 것은 자명하므로 위 정리의 역방향이 성립한다. 이제, 정방향을 증명해 보자. $a$가 아닌 임의의 실수 $b$를 생각하자. 그러면 $|b-a| > 0$이고 $$|b - a | > \frac 1 2 |b-a|$$ 이므로 $b$는 $d= \dfrac 1 2 |b-a|$일 때 부등식 $$ |x - a | < d $$ 를 만족하지 않는다. 즉, $b$는 (\ref{alld})를 만족하는 실수가 아니다. $b$가 임의로 선택되었던 실수이므로 이 결과는 $a$가 아닌 실수 $x$는 (\ref{alld})를 만족하지 않음을 설명한다.
위 정리에 따라, 우리는 `가깝다'라는 말을 `거리가 $d(>0)$보다 작다'로 고쳐서 생각하기로 한다.
2. 극한의 정의
앞 절에서는 ‘가깝다’는 말을 약간 구체화 시켜 보았다. 그러면 \begin{equation} \label{limDefV0} \text{$x$가 $a$에 가까워질 때 $f(x)$가 $L$에 가까워진다.} \end{equation} 라는 말은 다음과 같이 수정해 볼 수 있다.[1]
[1] 극한의 정의에 들어있는 $x \neq a$라는 조건은 지금은 거추장스러우니 나중에 넣기로 하자.
\begin{equation} \label{limDefV0.5} \text{$x$와 $a$의 거리가 $\delta>0$보다 작으면 $f(x)$와 $L$의 거리도 $\epsilon>0$보다 작다.} \end{equation} 위 문장은 다음과 같이 수식기호를 사용해서 표현할 수 있다. \begin{equation} \label{limdefV1} |x-a| < \delta \quad \Longrightarrow \quad |f(x) - L | < \epsilon \end{equation} 위 문장의 $x$는 정의역의 임의의 수를 나타내는 변수, $f(x)$는 그에 따른 함숫값, $a$, $L$은 미리 정해진 상수이지만, $\delta$, $\epsilon$은 아직 어떻게 해석해야 하는지 불분명한 실수다. 앞 절에서처럼 가깝다는 개념을 나타내는 상수는 ‘어떤’이라는 존재성의 제약을 줘야 하므로 간편하게 (\ref{limdefV1})을 만족하는 $\delta$, $\epsilon$이 있다고 생각해보면 어떨까? 즉, 다음과 같은 문장은 어떨까? \begin{equation} \label{limdefV1.5} \text{어떤 $\delta>0$와 어떤 $\epsilon>0$에 대해 }\quad |x-a| < \delta \quad \Longrightarrow \quad |f(x) - L | < \epsilon \end{equation} 이렇게 하면 $x \to a$일 때 $f(x) \to L$이 됨을 설명할 수 있게 될까?
위 문장은 마지막 조건문이 참이 되게 하는 $\delta$, $\epsilon$이 있기만 하면 되므로 다음 그림과 같은 함수 $f(x) = [x]$[2]도 (\ref{limdefV1.5})를 만족하게 된다.
[2] $[x]$는 $x$이하의 정수 중 가장 큰 수를 뜻하는 기호다.
더 구체적으로 설명한다면, $a=0$, $L=0$이라고 정해놓았을 때, 즉 $x=0$ 근처에서 그래프를 보았을 때, $\delta = 0.5$, $\epsilon = 2$라고 하면 (\ref{limdefV1.5})가 성립하게 된다. 하지만, 위 그래프는 $x=0$근처에서 함수값이 어떤 한 실수에 가까워지지 않기 때문에 우리가 직관적으로 이해하고 있는 극한에서는 $x=0$에서 발산하는 타입의 함수를 그린 것이다. (\ref{limdefV1.5})가 우리가 아는 극한을 표현하지 못하는 이유는 결론 부분의 문장이 $f(x)$가 $x=0$ 근처에서 제한된 값을 가지기만 하면 성립하기 때문이다. 그런 경우 단 하나의 $\epsilon$값만 주면 충분히 넓은 $x$의 범위에서 $L-\epsilon < f(x) < L+ \epsilon$이 성립할 수 있게 되고, 이때 사용할 수 있는 $L$값도 다양해지게 된다. 정말 엉망진창이 되어 버린다.
극한값이 $L$이 되려면 함수 $f(x)$의 값은 $L$에 그냥 가까운 것이 아니라(어떤 $\epsilon >0$), 아주 가까워야 한다(임의의 $\epsilon >0$). 하지만, 그냥 $$\text{임의의 $\epsilon >0$에 대해 } |f(x)-L| < \epsilon$$ 과 같은 문장이 만들어져 버리면 앞에서 본 정리와 같이 $f(x) = L$이 되어버린다. 이쯤에서 우리가 극한을 정의하기 위해 꼭 사용해야 할 문장을 체크해 보자.
- $|x-a| < \delta \quad \Longrightarrow \quad |f(x) - L | < \epsilon$
이 문장은 $\delta$, $\epsilon$ 모두에 `어떤'이라는 제약을 붙이면 안된다는 것을 확인했다. - 임의의 $\epsilon >0$에 대해 $|f(x) - L | < \epsilon$
이 문장은 $f(x)$와 $L$이 가깝다는 것을 표현해주는 듯 하지만, 이 형태로는 $f(x)=L$이라는 말과 동일한 말이 된다.
$f(x)$와 $L$의 거리는 임의로 가까울 수 있도록 해야 하기 때문에 두 번째 문장도 필요하고, $x \to a$일 때 $f(x) \to L$을 표현하기 위해서 위 목록의 첫 번째 형태의 문장도 꼭 필요하다. 그럼 $f(x)$와 $L$의 거리가 가장 문제이므로 $\epsilon$에 특정한 값을 부여해서 그때마다 꼭 성립해야 하는 문장을 상상해 보자.
\begin{align*} \text{어떤 $\delta_1>0$에 대해 }|x-a | < \delta_1 \quad & \Longrightarrow \quad |f(x)-L| < 1 \\ \text{어떤 $\delta_{0.1}>0$에 대해 }|x-a | < \delta_{0.1} \quad & \Longrightarrow \quad |f(x)-L| < 0.1 \\ \text{어떤 $\delta_{0.01}>0$에 대해 }|x-a | < \delta_{0.01} \quad & \Longrightarrow \quad |f(x)-L| < 0.01 \\ &\vdots \end{align*}
위 목록에서 $\epsilon$의 값이 바뀜에 따라 $\delta$의 값도 바꿔줘야 $$|x-a| < \delta \quad \Longrightarrow \quad |f(x) - L | < \epsilon$$ 형태의 문장이 항상 참이 될 수 있으므로 $\delta$에 $\epsilon$에 관련된 라벨을 붙여 두었다. 그리고, $\delta$값은 ‘모든’이라는 조건을 붙이면 $x=a$가 되므로 ‘어떤’을 유지해 놓았다. 위 목록에서처럼 하면 $x$가 꼭 $a$일 필요도 없고, $f(x)$가 꼭 $L$과 같을 필요도 없으며, $f(x)$는 $L$과 얼마든지 가까운 값을 가질 수 있다. 따라서, \begin{eqnarray*} \text{$\epsilon >0$의 값이 얼마가 되든} &\\ \text{어떤 $\delta_{\epsilon} >0$에 대해 } &|x-a| < \delta_{\epsilon} \quad \Longrightarrow \quad |f(x) - L | < \epsilon \end{eqnarray*} 와 같이 문장을 구성하면 극한을 표현할 수 있다는 것을 알 수 있다. 한편, 우리가 이 절을 시작하면서 $x$가 $a$와 다르다는 조건을 생략해서 극한을 구성하는 법에 대해 설명했다. 이 조건도 집어넣어서 $\displaystyle{\lim_{x \to a} f(x) = L}$의 정의를 적어보면 다음과 같다.
$\displaystyle{\lim_{x \to a} f(x) = L}$이라는 말은 $\epsilon >0$의 값이 얼마가 되든 그에 대응하는 어떤 $\delta_{\epsilon} >0$를 정해서 다음이 성립하게 할 수 있다는 말이다. $$0 < |x-a| < \delta_{\epsilon} \quad \Longrightarrow \quad |f(x) - L | < \epsilon$$
$x$가 정의역의 원소라는 것은 연속성을 따지기 전에 이미 설정하고 시작해서 위에서처럼 생략하는 경우도 많지만 이 조건이 꼭 필요할 때가 있다. $f$의 정의역을 $\mathrm{Dom}(f)$라 쓰기로 하고 위 정의를 더 꼼꼼하게 쓴다면 다음과 같이 쓸 수 있다.
$\displaystyle{\lim_{x \to a} f(x) = L}$이라는 말은 $\epsilon >0$의 값이 얼마가 되든 그에 대응하는 어떤 $\delta_{\epsilon} >0$를 정해서 다음이 성립하게 할 수 있다는 말이다. $$ \text{$x \in \mathrm{Dom}(f)$이고 }0 < |x-a| < \delta_{\epsilon} \quad \Longrightarrow \quad |f(x) - L | < \epsilon$$
이 극한의 정의를 통해 극한의 기본 성질들을 증명할 수 있다.
P.S. 꼼꼼하게 생각해보면 이것이 이야기의 끝은 아니라는 것을 눈치챌 분도 있겠지만, 이 정도만 해도 구간에서 정의된 함수의 극한은 충분히 설명할 수 있다.