유율법

fluxions · 流率法

영국의 수학자 아이작 뉴턴 (Isaac Newton, 1643~1727)이 고안한 미분법. 뉴턴이 그래프 위를 움직이는 점의 속도를 '흐르는 양(量)'이라는 뜻의 '유량(fluxio, 流量)'이라고 불렀기 때문에 이러한 명칭이 붙었다. 뉴턴이 유율법의 아이디어를 처음 고안한 것은 1665년, 뉴턴이 수학을 연구한 지 1년밖에 되지 않은 23세 시절이었다. 이 유율법의 아이디어 때문에 수학사에서는 뉴턴이 세계 최초로 미분을 발견한 인물로 인정받는다.

뉴턴이 유율법을 발견하기 이전에는 모든 그래프의 모든 점에 대하여 접선의 기울기를 구하는 방법은 없었다. 르네 데카르트, 피에르 드 페르마 등 많은 수학자들이 포물선 등 특정 개형의 곡선에서 성립하는 방법론을 고안했지만, 결코 보편적인 방법이 되지 못했다.[1] 그러나 유율법은 처음으로 모든 그래프에 적용할 수 있는 방법이었다. 비록 뉴턴의 논리에는 후술할 약간의 허점이 있긴 하였지만, 유율법을 사용하면 접선의 기울기를 제대로 구할 수 있는 것만은 확실하였다. 뉴턴은 적분까지 발견하고 미분과 적분의 관계까지 밝혀내어 미적분을 창시했다. 현재까지도 미적분의 응용 범위는 실로 방대하며, 수학뿐만 아니라 다른 학문에도 긴요하게 사용되고 있다. 자세한 내용은 미적분학 문서를 참고하라.

한 점이 곡선 $y=f(x)$ 위를 무한히 짧은 시간 동안 오른쪽으로 움직인다. 뉴턴은 이 '무한히 짧은 시간'을 그리스 문자 $\omicron$(오미크론)이라는 기호로 나타냈는데, $\omicron$은 더 자세히 말해서 0은 아니지만 0에 한없이 가까운, 극히 짧은 시간이다. 구체적으로 '몇 초' 식으로 정해져 있지는 않다.

한편, 점은 곡선 위를 따라 움직이므로, 점이 움직인 자취는 곡선의 일부이며, 그 역시 곡선이다. 그러나, 점이 무한히 짧은 시간 동안 움직인다면, 그 점이 움직인 자취는 극히 짧은 직선으로 간주할 수 있다.[2] 이 극히 짧은 직선이란 곧 점의 진행 방향이며, 점의 출발 지점에 대한 접선과도 같다.

유율법에서, 접선의 기울기는 $\omicron$ 동안 움직인 점이 $y$축으로 운동한 속력 $q$에서 $x$축으로 운동한 속력 $p$로 나눈 값, 즉 $q/p$이다. 출발 지점 $(a, \, b)$에서 $\omicron$ 동안 점은 $x$축 방향으로 $p$의 속력으로, $y$축 방향으로 $q$의 속력으로 움직인 것이므로, 점이 움직인 거리는 $x$축 방향 $\omicron{p}$, $y$축 방향 $\omicron{q}$이다. 따라서 움직여 도착한 점의 좌표는 $(a+\omicron{p},\, b+\omicron{q})$이며, 출발 지점 $(a, b)$의 접선에 해당하는 '극히 짧은 직선'은 $(a, \, b)$와 $(a+\omicron{p},\, b+\omicron{q})$를 지난다. 그래서 접선의 기울기는

가 되는 것이다.

그렇다면 접선의 기울기를 구하기 위해서는 $p$와 $q$의 값을 알아야 할까? 그렇다면 그 값은 또 어떻게 알 수 있을까? 사실 유율법에 따르면 $p$와 $q$의 값을 몰라도 접선의 기울기, 곧 $q/p$ 자체의 값은 구할 수 있다. 점이 곡선 위에서만 움직이므로, $\omicron$ 후 도착한 점의 좌표 $(a+\omicron{p}, \, b+\omicron{q})$ 역시 접선을 구하고자 하는 그 곡선 위에 있다는 사실을 이용하면 된다.

예를 들어 $y=x^{2}$ 위의 점 $(2,\,4)$의 접선의 기울기를 구해 보자.

점은 $(2, \, 4)$에서 $\omicron$ 동안 $x$축 방향으로 $p$, $y$축 방향으로 $q$의 속력으로 움직여 $(2+\omicron{p}, \, 4+\omicron{q})$에 도달한다. 따라서 $\omicron$ 동안 점이 지난 자취로서의 '극히 짧은 직선'은 $(2,\, 4)$와 $(2+\omicron{p}, \, 4+\omicron{q})$를 지나는데, 점은 항상 곡선 위를 움직이므로 $(2,\, 4)$뿐만 아니라 $(2+\omicron{p},\, 4+\omicron{q})$도 곡선 $y=x^2$ 위에 있다. 따라서, $(2+\omicron{p})^2=4+\omicron{q}$이다. 이 식을 조작하면 다음과 같다.

마지막에 양변을 $p$로 나눈 이유는, 우변을 접선의 기울기를 뜻하는 ${q}/{p}$의 꼴로 만들기 위해서이다. 여기에서, $\omicron$은 무한소의 시간이므로, $\boldsymbol\omicron$이 곱해진 모든 항은 0으로 간주하여 무시할 수 있다는 것이 뉴턴의 사고방식이다. 따라서 접선의 기울기는 ${q}/{p}=4$이다. 이와 같이 유율법에서는 $p$와 $q$의 값을 직접 구하지 않고도 $\displaystyle {q}/{p}$의 값을 알 수 있다.

유율법의 아이디어는 세계 최초로 고안된 모든 곡선의 접선의 기울기를 구하는 방법론이었던 만큼 분명히 획기적이었으나, 사실 유율법은 완전하지 않다. 사실 앞서 설명한 유율법의 메커니즘은 넉넉하게 잡아 중학교 3학년만 되어도 이해할 수 있다. 그러나 유율법은 수학적으로 엄밀하지 않기 때문에 고등학교 2학년에 극한과 미적분을 배울 때 유율법을 배우지 않는 것이다. 고등학교 시절에 배우는 극한은 뉴턴이 살던 시기에는 없던 개념이며, 후세 수학자들의 연구로 탄생한 것이다.

영국의 철학자이자 성직자 조지 버클리(George Berkeley, 1685-1753)의 비판이 대표적이다. 버클리는 합리주의를 표방하는 자들이 연구한다는 미적분의 방법론에 대해서도 그들 스스로 엄밀함을 확보하지 못하는 주제에 자신이 몸담고 있는 교회의 비합리성만을 비판하는 행태를 공격했다. 버클리는 '무한소'의 개념을 엄밀히 확립하지도 않은 채 아무렇게나 무한소라는 단어를 남발하는 수학계의 행태를 비판했는데, 그중에서 유율법에 등장하는 $\omicron$도 여지없이 비판의 대상이 되었다.[3]

요컨대 비(比)는 모름지기 유한한 값 두 개로 결정되거나[4] 부정(不定) $\displaystyle 0/0$의 꼴이 되지, 아예 0은 아니긴 아닌데 0으로 간주되기도 하며 어쨌든 한없이 작은 무한소 두 개의 비를 논할 수는 없다는 것이었다. 앞서 살펴 보았듯이, 유율법에서는 한없이 짧은 시간 $\boldsymbol\omicron$ 동안 점이 이동한 한없이 짧은 거리의 비[5]를 접선의 기울기로 간주하므로, 유율법은 버클리의 이러한 비판을 모면할 수가 없다.

버클리의 또 다른 비판점은, 유율법에서 무한소 $\omicron$을 처리하는 방식이 비논리적이라는 것이다. 위 예시의 계산 과정을 보면, $4\omicron{p}+{\omicron}^2{p^2}=\omicron{q}$의 양변을 $\boldsymbol\omicron$으로 나누어 $4p+\omicron{p^2}=q$를 얻었는데, 마지막 식 $4+\omicron{p}=q/p$에서는 $\omicron$이 한없이 작다면서 0으로 간주하여 무시해 버렸다! 다시 말해, 0으로 나누기가 금지되어 있는 이상 양변에서 $\omicron$을 나누는 동시에 $\omicron$이 곱해진 모든 항을 0으로 간주하여 무시할 수는 없다는 것이다. 버클리는 이처럼 애매모호하기 짝이 없는 무한소의 개념을 대차게 깠다.

조지 버클리가 촉발한 미적분의 엄밀함을 둘러싼 논쟁은 프랑스의 수학자 오귀스탱 루이 코시(Augustin Louis Cauchy, 1789~1857)에 의해 비로소 해결되었다. 그는 〈해석 교정〉에서 극한의 개념을 정의했으며 1823년 출판된 〈왕립 에콜 폴리테크니크의 무한소 계산 강의 요록〉에서 그 유명한 엡실론-델타 논법을 고안하여 미적분의 엄밀함을 확보했다. 그는 '한없이' 따위의 엄밀하지 않은 표현을 의식적으로 배제하면서 엄밀함을 추구했다. 엡실론-델타 논법 참고.

이외에, 초실수체를 이용한 비표준 해석학에서는 위와 같은 허점이 없는, '논리적으로 참인' 유율법을 다룬다.

유율법에서 쓰이는 기호 $\omicron$은 기호로서의 주요한 용례가 유율법 말고는 없다. 숫자 0과 모양이 닮아서 헷갈리기 때문이다. 게오르크 시몬 옴(Georg Simon Ohm, 1789~1854)도 자신의 이름 Ohm의 첫 글자를 따서 전기 저항의 단위를 $\rm O$(옴)으로 명명하려 했으나, 같은 이유로 $\rm O$를 쓰지 못하고 발음이 비슷한 그리스 문자 $\Omega$(오메가)를 썼을 정도이다.