미분의 일반화

1800년대에는 1700년대에 구축해 놓은 미적분학에 비약적인 발전이 이루어집니다. 그 발전과정에서 지금도 수학, 응용수학, 물리학에 중요한 역할을 하는 Green's function, Laplace transformation, Fourier transformation등의 성과가 나옵니다.

하지만, 이 발전의 이면에 좀 찜찜함이 남아있었는데요, 이 당시 해법으로 제시되던 많은 수학적 계산에 논리적 결함이 있었습니다. 응용수학, 물리학 분야에서 사용하던 계산에는 미분 불가능한 지점을 별로 고려하지 않고 있었습니다. 때문에, 당시의 수학에서는 임시방편으로 symbolic method 또는 operational calculus라는 말을 사용하기도 했습니다. 순수수학 입장에서는 그야말로 악몽이었죠. 하지만, 어쩌겠습니까. 그들이 이룬 것이 훨씬 많았기 때문에 수학자들이 불평만 늘어놓을 수 있는 상황이 아니었습니다. 실제로 잘 되는 것을 안된다고 할 수는 없었죠. Operational calculus는 Heaviside function으로도 유명한 Oliver Heaviside의 Electromagnetic Theory(1899)에서 체계화의 정점을 찍습니다.

수학자들이 이 이론을 체계화하기 위해서는 우선 적분 개념의 일반화가 필요했습니다. 우선은 리만(1826-1866)의 리만적분으로 적분론의 단단한 기초가 완성됩니다. 이 적분의 등장으로 리만적분 등장 전의 결과에 대한 깔끔한 설명이 가능해졌습니다. 그리고, 이후에 나오는 많은 계산에 논리적 근거를 제공했습니다.

하지만, 리만적분은 다음과 같은 계산을 검증하기 너무 어렵다는 단점이 있었습니다.

$$\lim_{n \to \infty} \int f_n (x) \mathrm d x =(?)= \int \lim_{n \to \infty} f_n (x) \mathrm d x $$

즉, 극한과 잘 어울리지 않았습니다.

1904년, Henri Lebesgue가 Lebesgue Integral을 발표하면서 리만적분으로 처리하기 어려운 여러 복잡한 함수를 적분하는 것이 비약적으로 쉬워졌습니다. Lebesgue measure 덕이었죠. 극한 처리를 위한 이론적인 뒷처리는 강력한 Motone Convergence Theorem과 Dominated Convergence Theorem이 맡았습니다. 그리고, 미분의 일반화를 위해 필요했던 중요한 개념이 발견되었습니다. 적분론에서는 거의 모든 곳(almost everywhere: [주] 이것은 수학용어입니다.)에서 같은 함수는 같은 함수로 봐도 무방하다는 개념이 나오면서 함수를 보는 방식에 변화가 옵니다.

1926년 Paul Dirac은 한 점에서 정의되는 물리량을 모델링하기 위해 Dirac Delta Function \(\delta(x)\)을 과감하게 정의합니다. 

과감하다고 할 수밖에 없는 것이, \(\delta(x)\)는 \(x=0\)를 제외한 모든 곳에서 함수값이 \(0\)이고

$$\int_{-\infty}^\infty \delta(x) \mathrm d x=1$$

이라고 정의를 했거든요. 발표 당시의 수학자들은 말도 안된다며 반발했고, 응용수학, 물리학에서는 환영했습니다. 많은 수식이 단순화 되면서 가독성도 높아지고, 수식의 개념적 해석도 쉬워졌습니다. 미분방정식의 해들도 쉽게 표현이 되어가기 시작했습니다. 수학자들은 delta measure를 정의해주는 정도로 한 발 물러섰습니다.

1930년대에 들어 S. L. Sobolev는 hyperbolic partial differential equation을 연구하던 도중 generalized function 개념을 발견하게 되고, 이것은 Theory of distribution이라는 영역의 발판을 마련합니다. 여기서 적분가능한 함수가 모두 미분가능해지고 사기성이 많아보이던 미분방정식의 계산기법은 모두 정당화가 됩니다. 어떻게 된 일일까요?

완성된 이론의 기본 아이디어를 설명하는 것은 쉽습니다. 그것을 생각해내는 것이 어려울 뿐이죠. 우선은 등호의 개념을 바꿉니다. 1800년대에 주목을 받던 모든 함수는 단독으로 사용된 것이 아니라 다른 함수와 곱한 다음 적분해서 사용이 되었습니다. 곱하지 않고 사용된 경우는 모두 제한된 영역을 적분하는데 사용이 되었으므로, 이것 또한 제한된 영역에서 정의된 함수를 곱한 것으로 볼 수 있습니다. 그래서 등장하는 것이 함수의 비교를 위한 테스트 함수 개념입니다.

테스트함수는 compact support를 가지는 무한번 미분가능한 함수라 하는데, 익숙하지 않은 분들은 한계가 있는 영역에서 0이 아닌 값을 가지는 무한번 미분가능한 함수라고 해석해도 무방합니다. 이 테스트 함수를 \(\phi(x)\)라고 합시다. 그러면 두 함수 \(f\), \(g\)가 같다는 것을 모든 테스트 함수 \(\phi(x) \)에 대해 다음 식이 성립하는 것으로 정의하는 것을 생각해볼 수 있습니다. (편의상 실수에서 적분한다고 봅니다.)

$$\int_{-\infty}^\infty f(x) \phi(x) \mathrm d x = \int_{-\infty}^\infty g(x) \phi(x) \mathrm d x $$

한편, 함수 \(f\)가 미분가능한 경우 테스트함수 \(\phi(x)\)가 일정 범위를 넘어가면 0이 된다는 사실과 부분적분법에 의해 다음 식이 성립하는데,

$$\int_{-\infty}^\infty f'(x) \phi(x) \mathrm d x = - \int_{-\infty}^\infty f(x) \phi'(x) \mathrm d x$$

'미분가능한 경우'를 '적분가능한 경우'로 교체하고 위 등식을 \(f'\)을 정의하는 식으로 받아들이면 기존 정의에 따른 계산 결과를 해치지 않으면서 기존에는 미분불가능했던 것이 여기서는 미분이 가능해집니다. 물론, 그 바탕에는 구조적인 복잡성이 엄청나게 추가되었죠.

하나 예를 들어봅시다. \(f(x) = |x|\)의 경우,

$$\begin{eqnarray} - \int_{-\infty}^\infty &&|x| \phi'(x) \mathrm dx \\ &&\quad = - \int_{-\infty}^0 -x \phi'(x) \mathrm dx - \int_0^\infty x \phi'(x) \mathrm dx \\ &&\quad = - \int_{-\infty}^0 \phi(x) \mathrm dx + \int_0^\infty \phi(x) \mathrm dx \\ &&\quad = \int_{-\infty}^\infty \frac {|x|} x \phi(x) \mathrm d x \end{eqnarray}$$

가 성립하므로 위 두 정의에 따르면

$$  \frac {\mathrm d}{\mathrm d x}  |x| = \frac{|x|} x$$

라고 할 수 있습니다.

[주] Dirac delta function은 임의의 테스트함수 \(\phi(x) \)에 대해 다음과 같은 등식을 만족하는 함수(정확히는 distribution)입니다.

$$\int_{-\infty}^\infty \delta(x) \phi(x) \mathrm dx = \phi(0) $$

미분해서 \(\delta(x)\)가 되는 함수를 예로 들고싶었지만, 그렇잖아도 비약이 심한 이 글을 더 망칠 것 같아서 예제를 교체했습니다. delta function을 엄밀히 다루려면 Linear functional의 정의와 representation theorem이 필요합니다.