검색
검색 팝업 닫기

Ex) Article Title, Author, Keywords

Article

Split Viewer

전자저널 논문

2020; 30(4): 575-599

Published online November 30, 2020 https://doi.org/10.29275/jerm.2020.11.30.4.575

Copyright © Korea Society of Education Studies in Mathematics.

A Historical and Mathematical Study on Continuum - Focusing on the Composition and Infinite Division -

연속체의 역사적, 수학적 분석 - 연속체의 구성과 무한분할을 중심으로-

Seungju Baek1, Younggi Choi2

*Teacher, Sejong Science High School, South Korea, seung07@snu.ac.kr
**Professor, Seoul National University, South Korea, yochoi@snu.ac.kr

*세종과학고등학교 교사, **서울대학교 교수

Correspondence to:corresponding author

Received: September 1, 2020; Revised: November 6, 2020; Accepted: November 13, 2020

This study conducted historical and mathematical analyses of the composition of continuum and infinite division. Regarding the results of the historical analysis, first, it can be seen that mathematicians struggled with the problems related to Zeno’s “paradox of plurality” in the composition and infinite division of the continuum. Second, historically, infinite small appeared frequently. Third, the problem of continuum, which was a geometric problem, was not explained by geometry alone, and mathematical answers to this problem became possible after the straight line became homomorphic with the real set, following the arithmetization of mathematics. Through mathematical analysis, Zeno’s “paradox of plurality”, which includes questions about the composition and infinite division of a continuum, could be explained depending on the uncountability of real numbers and the countable additivity of Lebesgue measure. In addition, it was confirmed that it is inappropriate to divide a straight line to a point. The historical and mathematical analyses of this study suggest that students may have cognitive difficulties when dealing with the composition and infinite division of a continuum in relation to area, volume, and integral in school mathematics. The continuum is a concept closely related to the limit and calculus of school mathematics, and the historical · mathematical analysis of this study could serve as a foundation for teaching and learning plans of limits and calculus.

KeywordsContinuum, Zeno, Paradox of Plurality, Infinitely Divisible, Uncountability of Real Number Set, Lebesgue Measure

2015개정 수학과 교육과정의 중학교 1학년 교과서는 다음과 같이 “선은 무수히 많은 점으로, 면은 무수히 많은 선으로” 이루어져 있다고 표현하고 있다(Ju, Kang, Kang, Lee, Kang, Oh, et al., 2018, p. 154).

학교수학에서 선과 면은 연속체1)로 간주되며, Figure 1은 그러한 연속체의 구성을 나타낸 것이다. 그리고 이러한 선과 면은 각각 실수 직선과좌표평면에 대응된다. 과거 그리스 시대부터 수는 이산적인 양으로, 직선은 연속적인 기하학적대상으로 여겨졌다. 수학의 발달과정을 거쳐 현대에는 수들의 모임인 실수 전체의 집합이 연속적인 직선과 동형을 이루에 되었고, 따라서 실수전체의 집합도 연속성을 갖게 되었다. 이러한 실수의 연속성은 중학교 교육과정에서 무리수를 도입할 때 중요한 역할을 한다. 피타고라스 정리에 의해 유리수가 아닌 수 2가 존재하고, 그수가 수직선 위에 Figure 2와 같이 표현될 수 있음을 보이는 것은 무리수의 존재성을 보이는 대표적인 방식이다.

Figure 1.The relation of point, line and plane(Ju et al., 2018, p. 154)
Figure 2.Continuity of real numbers (Ju, Kang, Kang, Kang, Kim, Oh, et al., 2020, p. 24)

선행 연구들은 연속체로서의 실수의 교육적 중요성을 인식하고 이의 교육 방안에 대해 연구하였다. Byun & Park(2002)는 연속적인 양들의 측정에서 실수 개념이 발생하였고 여기에서 무한소수가 주요한 역할을 했음에 주목하여, 연속성과 이산성을 연결하는 공통측도 관점을 통해 무리수를 교육하는 방안을 연구하였다. Lee (2014)은 무한소수 기호가 실수 연속체를 나타내는데 중요한 역할을 할 수 있음을 밝혔다. Lee, Yoo, & Park(2020)은 실무한과 잠재적 무한의 입장에서 연속체 개념의 역사적 발달 과정을 분석함으로써, 산술적이고 대수적인 수를 연속적으로받아들이기 위해서는 실무한적인 관점이 필요함을 보였다. 또한, 실수를 구성하는 다양한 방식들과 완비성 공리가 동치라는 것을 보일 때 귀류법이 전제가 되기 때문에, 실수를 연속체로서받아들이는데 있어서 귀류법이 핵심 요소임을 밝혔다.

실수와 직선의 대응관계에서 직선이 연속적이라는 것은 직관적으로 받아들여지는 경향이 있다. 따라서 위 연구들은 실수 집합의 연속적 성질에 초점을 맞춰서 분석하였다. 그러나 역사적으로 연속체로서의 직선에 대한 관점이 명백하고 논란이 없었던 것은 아니었으며, 직선 혹은평면도형과 같은 기하학적 연속체가 무엇으로 구성되는지, 연속체의 성질로서 여겨지는 무한분할은 연속체의 구성과 어떤 관련이 있는지에 대해 수학자들은 오랫동안 고민하였다.

Hanckel이 재현의 원리를 주장한 이래 수학교육에서는 수학사의 교육적 중요성이 강조되어 왔다. Steinbring은 수학의 역사는 학교수학을 이해하도록 돕고, 정적이고 형식적인 수학이 아닌 학교수학에 맞는 더 적절한 지식의 모델을 제공한다고 하였다(Woo, 2018, p. 5 재인용). 또한 Friedelmeyer은 수학의 발달 과정을 학생들이 수업에서 그대로 반복하는 것보다, 수학사를 통해교사들이 수학학습에서 학생들이 가질 수 있는 어려움을 파악하고 그것을 벗어나도록 학습-지도 계획을 세우는 것이 중요하다고 하였다(Woo, 2018, p. 20 재인용). 즉, 교사들은 수학의 역사를 통해 수학적 개념과 정리의 형성 과정 및 그 과정 동안 수학자들이 어떤 어려움을 겪었는지 파악할 수 있으며 이를 통해 학생들이 학습과정에서 겪을 수 있는 문제를 예상하여 더 효과적인 지도 계획을 세울 수 있다.

본 연구는 연속체의 구성과 무한분할의 관점을 중심으로 수학의 역사를 분석한다. 연속체의구성과 무한분할의 성질은 학교수학의 곳곳에 등장하는 주제이다. 학교수학에서 ‘직선은 점들의 모임으로’, ‘원은 한 점으로부터 같은 거리에있는 점들의 모임’으로 정의된다. 그리고 연속체의 무한분할은 초등학교 6학년에서 원의 넓이공식을 유도할 때, 고등학교의 정적분 영역에서 곡선과 x축 사이의 넓이를 구할 때 나타난다. 선행 연구들은 연속체의 무한분할과 관련한 학생들의 인지적인 어려움을 보고하고 있다(Jung & Kang, 2008; Shin, 2009; Czarnocha, Dubinsky, Koch, Prabhu, & Vidakovic, 2001). 본 연구는 이산적인 개체들의 모임으로서, 그리고 무한분할가능한 대상으로서 연속체에 대해 수학의 역사를 분석함으로써, 수학자들이 과거에는 연속체를 어떻게 설명했으며 그 과정에서 어떤 어려움을 겪었는지를 알아본다. 이를 통해 학생들이 수학학습에서 겪을 수 있는 인지적 어려움과 그것의 기원이 무엇인지 파악하고, 수학교실에서 연속체의 구성과 분할의 지도를 위한 교육적 함의 점을 도출하고자 한다.

다음으로 본 연구는 연속체의 구성과 무한분할에 대한 수학적 분석을 하고자 한다. Park (2018)은 “연속체의 구성성분은 무한히 분할되는 성질을 지녀야 하고, 어떤 구성성분은 다른 구성성분과 연결되어 있어야 한다”는 생각이 수학의역사에서 인식론적 장애로서 역할을 하였으며(p. 89), “선분의 무한분할과 선분의 점에 의한 구성의 양립을 인정하게 되는 경험”이 해석학의 산술화에서 중요한 역할을 했음을 밝혔다(p. 88). 그러면서 Park(2018)은 축소선분열과 관련된 사고실험으로 예비교사들이 점이 직선의 구성성분이라는 확신을 갖도록 교육할 필요가 있음을 강조하였다(p. 89). 본 연구는 점들이 직선을 구성한다는 것과 연속체가 무한분할 가능하다는 사실이 수학적으로 정당화된 방식을 분석할 것이다. 교사들의 수학에 깊은 이해는 학생들의 수학적 이해를 위한 수업설계에 영향을 끼치므로 중요하다. 교사들은 그들의 수학적 소양을 통해서 학생들이 학습해야할 개념과 관련하여 겪을 수 있는 인지적 장애를 예측할 수 있을 뿐만 아니라 그것을 극복하거나 우회할 수 있는 교수학습방안을 고안할 수 있기 때문이다.

1. 고대의 연속체

가. 피타고라스, 원자론, 제논의 연속체

피타고라스학파는 공간과 시간을 연속적인 것으로 여기면서 공간은 점들로 시간은 순간들로 구성되어 있다고 생각하였다(Boyer & Merzbach, 1991, pp. 120-122). 또한 피타고라스학파는 만물은 수라는 관점을 갖고 있었으며, 이에 따라 수와 기하학적 양의 연결을 시도하였다. 피타고라스 정리에 의한 통약불가능한 양의 발견은 이들의 연결을 위한 기초를 제공하였다.

이후 그리스의 원자론자인 데모크리토스는 “모든 현상을 빈 공간을 끝없이 운동하고, 한없이 작으면서, 수없이 많은, 그리고 쪼갤 수 없을만큼 딱딱한 원자로써 설명할 수 있다”고 주장하였다(Boyer & Merzbach, 1991, p. 129). 또한 데모크리토스는 연속체는 무한히 나누어질 수 없으며, 이어지는 분할의 결과 원자에 도달하고, 연속체는 다시 그 원자들로 구성될 수 있다고 생각하였다(Bell, 2019, p. ix).

그리스 시대 제논은 연속체의 본성과 관련하여 ‘다수의 역설’2)을 제시하였다. ‘다수의 역설’ 은 운동의 역설(이분법, 아킬레스, 화살, 운동장)보다는 덜 유명하지만 논리적으로는 더 근본적인 것으로 간주되는 것으로(Salmon, 2001; Hagar, 2014, p. 9)3), Simplicius에 의해 현대에 전해져오는데, Salmon은 그 논의를 다음과 같이 요약하였다.

만약 연장4)이 존재한다면 그것은 부분들로 구성되어야 한다. 따라서 부분들의 다수가 있다.게다가 이 부분들은 부분들을 가진다. 부분 분할의 과정이 무한히 반복 가능하기 때문에 부분들이 무한개 있어야만 한다. 이때 두 가지 어려움이 제기된다. 첫째 궁극적 부분은 크기를 갖지 않아야 한다. 만약 그들이 크기를 가지면 그들은 더 나누어질 수 있기 때문이다. 그런데 만약 연장된 대상이 크기가 없는 부분들로 이루어질 수 있다면, 그들이 얼마나 많은지에 상관없이 그들이 모인 결과는 여전히 크기를 갖지 않는다. 0을 아무리 많이 더해도 우리는 0밖에 얻을 수가 없다. 따라서 두 번째 어려움이 제기된다. 부분들은 크기를 가져야만 한다. 그러나 0보다 큰 크기들이 무한개가 있으면 결국 무한한크기를 산출할 것이다. 따라서 연장은 만약 그들이 존재한다면, “크기를 갖지 않을 만큼 작거나, 무한할 만큼 크다”(Salmon, 2001, pp. 13-14,강조는 연구자가 한 것임).

제논의 ‘다수의 역설’은 두 가지 가정, ‘연속체는 무한분할의 성질을 갖고 있으며’ ‘무한분할의결과 어떤 궁극적 부분을 갖게 된다’는 것을 전제로 한다. ‘다수의 역설’을 양의 길이를 갖는, 그리고 무한분할 가능한 선분 연속체에 대응하면 제논이 제기한 문제는 다음과 같이 정리할 수 있다. 첫째, 선분을 분할하는 과정을 무한히반복하면 ‘궁극적인 부분’들을 얻을 수 있는가? 둘째, 만약 ‘궁극적 부분’의 크기가 0이라면 0을무한히 많이 더해도 0이므로 선분의 길이는 양수가 될 수 없다. 셋째, 만약 ‘궁극적 부분’의 크기가 양수라고 하면, 선분의 길이는 양수가 무한히 많이 더해져야 하기 때문에 무한대가 되어 모순이다. 이처럼 제논의 ‘다수의 역설’은 연속체의 무한분할과 그 구성에 대해 의문을 제기하고 있다. 뿐만 아니라 제논은 비록 무한소에 반대하는 언급을 하였지만(Boyer, 1949, p. 28), 제논의 이 역설은 ‘무한소 관념’과도 관련이 있다. 0은 아무리 많이 더해도 0이 되며, 양수를 무한히 많이 더하면 무한대가 되기 때문에, 어떤 크기를 무한히 많이 더해서 유한한 양수가 되기 위해 ‘0보다 크지만 임의의 양의 실수보다 작은수’가 존재하는가의 질문이 발생하기 때문이다.

이상에서 피타고라스학파부터 원자론자들 그리고 제논까지 학자들이 연속체가 무엇으로 구성되어 있는지, 연속체는 무한분할 가능한지, 무한 분할한 결과는 다시 연속체의 구성요소가 되는지에 대해 고심한 흔적을 볼 수 있다. 또 피타고라스학파가 발견한 통약불가능한 수는 실수의 연속성을 위한 단초를 마련하였지만 아직 수들의 집합과 기하학적인 직선의 대응은 이루어지지 않았으며 제논이 제시한 연속체에 대한 질문은 해결되지 못한 채 남아 있었다.

나. 아리스토텔레스와 유클리드의 연속체

본 절에서는 연속의 개념을 철학적으로 정리한 아리스토텔레스와 기하학의 기초를 정립한 유클리드의 연속체 개념을 살펴본다.

아리스토텔레스는(384-322 B. C.) 연속을 두 가지 관점으로 정리하였다. 하나는 “형상적이고 목적론적인 연속”이고 다른 하나는 “기하학적 연속”이다. 형상적인 연속은 “접촉해 있는 복수의대상이 하나의 경계를 가지게 될 때”를 의미하며, 기하학적인 연속은 “무한하게 분할될 수 있는 것”이다(You, 2014, pp. 205-206). 본 연구는 연속체의 구성과 무한분할에 대한 연구이며 특히 점, 선, 면의 관계와 관련이 있으므로 아리스토텔레스의 기하학적 연속에 한정하여 분석한다. 아리스토텔레스에게 기하학적으로 연속인 선, 면, 입체는 크기를 가진 것으로 무한하게 분할가능한 성질을 가진다. 이때, 선분은 한 방향으로만 분할될 수 있는 반면 평면은 두 방향으로 분할되고 입체는 세 방향으로 분할이 가능하다(You, 2014, p. 205).

아리스토텔레스는 연속체의 분할이 제한 없이 이루어질 수 있지만 그 분할의 결과가 점이 될 수는 없다고 하였다. 또한 점들은 크기가 없으므로 아무리 많은 점들을 결합하여도 크기를 가진 선이 될 수 없다고 생각하였다. 양수의 크기를가진 선분이 되기 위해서는 아무리 짧더라도 크기를 가진 작은 선분들을 결합해야 하며, 점들의결합으로서는 불가능하다는 것이다. 유사한 관점에서 선분은 폭이 없기 때문에 아무리 많은 선분들을 결합해도 면을 만들 수는 없으며, 면을만들기 위해서는 아무리 작더라도 폭이 있는 면이 있어야 한다고 하였다. 입체를 구성하기 위해서는 작은 입체들이 결합해야 함은 물론이다. 아리스토텔레스의 입장에서 기하학적 연속체를 구성하는 부분은 그 연속체와 닮은 작은 부분인것이다. 이러한 관점에서 아리스토텔레스의 기하학적 설명 양식은 “전체는 부분들의 합”이라는것을 전제하고 있는 것으로 여겨진다(You, 2014, p. 207).

아리스토텔레스의 연속 이론에서 연속체의 분할과 구성에 대한 제논의 ‘다수의 역설’과 관련한 고민을 볼 수 있다. 아리스토텔레스는 연속체를 무한분할하면 결코 점이 될 수 없는데, 그 이유는 점들은 크기가 없으므로 이들이 모여서 다시 연속체를 구성할 수 없기 때문이라고 하였다.

기하학의 기초를 마련한 유클리드(325-265 B. C.)도 원론의 첫 부분 정의에서 점, 선, 면의 관계를 다음과 같이 밝히고 있다.

1. 점은 부분이 없는 것이다.

2. 선은 폭이 없이 길이만 있는 것이다

3. 직선은 점들이 쭉 곧게 있는 것이다.

7. 평면은 직선들이 쭉 곧게 있는 것이다.

(Heath, 1908/1997a, p. 3)

그러나 이 정의를 통해서는 유클리드의 의도가 “선이 점들로 구성된 것인지, 선들이 점들을단지 포함하는 것인지” 알기 어렵다. 또한 “선위에 점들이 얼마나 많이 있는지”에 대해서도명확하게 알 수는 없다(Tubbs, 2009, p. 207). 그럼에도 불구하고 이 정의는 ‘점들이 모여서 선이 되고, 선들이 모여 면이 되는’ 학교수학의 정의와 유사한 형태를 보이며 현대적인 점, 선, 면관계의 전신으로 생각된다.

유클리드는 원론 Ⅹ권에서 에우독소스의 소진법의 방법을 제시하고 있는데, Bell(2019)은 이구문에서 유클리드가 임의의 양은 무한히 나누어질 수 있다는 것을 가정한 것으로 보았다.

두 개의 크기가 다른 양들을 주었다고 하자. 큰 것에서 자신의 절반보다 더 큰 양을 빼고, 남은 것에서 자신의 절반보다 더 큰 양을 빼고, 이렇게 계속 되풀이 해라. 그러면 처음 주어진 작은 양보다 더 작은 양이 남게 된다(Heath, 1908/1997b, p. 4)

양으로부터 반보다 작지 않은 양을 빼고, 거기서 또 반보다 작지 않은 양을 빼는 과정을 반복할 수 있다는 것은 양을 반으로 나누고, 거기서또 반으로 나누는 것으로서 분할을 반복할 수 있다는 의미이기 때문이다.

또한, 유클리드 원론 Ⅴ의 정의 4는 “두 양이서로 어떤 비율을 가진다(비율이 있다)는 말은, 어느 것이든 곱을 하면 다른 것보다 더 커지게 할 수 있다는 뜻이다(Heath, 1908/1998, p. 11)”라고 진술하고 있다. 이를 통해 유클리드가 그의수학이론에서 무한소 양을 배제한 것을 확인할 수 있다.

따라서 종합하면, 유클리드는 점, 선, 면의 관계에 대해 정의를 통해 제시했지만, 이를 통해점들이 선을 구성하는지, 선들이 면을 구성하는지에 대해서는 알기는 어렵다. 또한, 유클리드는양들은 무한히 나누어질 수 있는 것으로 보면서, 무한히 작은 양은 그의 수학 이론에서 배제하였다.

2. 16~17세기의 연속체

16~17세기는 미적분학이 발달된 시기로서, 연속체에 대한 형이상학적 질문인 “불가분량5)은무엇인가, 또는 그들은 양들로 구성되는가”로 부터 기술적인 문제인 “불가분량이 달성할 수 있는 새로운 경이로움”으로 관심의 이동이 나타났다. 이 시대 수학에서 눈에 띄는 것은 과거 연속으로 여겨졌던 기하학과 이산적으로 여겨졌던 수의 결합으로, 이 과정에서 무한소가 중요한 역할을 하였다(Bell, 2019, p. 41).

가. 케플러

케플러(1571-1630)는 무한소를 자유롭게 사용한 것으로 알려졌다. 그는 곡선을 무한소 다각형으로 생각하였으며, 입체를 무한소 원뿔 혹은 무한히 얇은 원들로 구성된 것으로 생각하였다 (Bell, 2019, p. 42).

케플러는 원을 중심을 기준으로 무한히 분할하여 나온 무한히 작은 삼각형들의 합으로 보았다. 이때, 각 삼각형의 높이는 원의 반지름과 같아지므로, 무한히 작은 삼각형들의 밑변의 길이를 각각 b1, b2, ?, bn, ?이라 하고 원의 반지름의 길이를 r이라 하면 삼각형의 넓이의 합은 12b1r+12b2r+?+12bnr+?=12rb1+b2+?+bn+?이 된다. 여기에서 b1+b2+?+bn+?은 원의 둘레의 길이 2πr이 되어 원의 넓이는 πr2이 된다(Boyer & Merzbach, 1991, p. 528).

케플러는 또한 구를 무한소 원뿔로 구성된 것으로 생각하였는데, 원뿔의 밑면은 구의 표면에있고, 원뿔의 꼭짓점은 구의 중심에 있는 것으로Figure 3과 같이 생각하였다. 원뿔의 부피는 1/3×(높이)×(밑면의 넓이) 이므로, 구의 부피는 1/3×(구의 반지름의 길이)×(구의 겉넓이)가 된다(Bell, 2019, p. 43).

Figure 3.Volume of sphere (Bell, 2019, p. 43)

케플러는 연속체를 구성하는 불가분량의 차원에 대해서는 다양한 관점을 보였다. 구의 구성에서는 구와 동일한 차원의 무한소를 사용한 반면, 원뿔은 원뿔보다 한 차원 낮은 원들로 구성된 것으로 표현하기도 하였다.

나. 갈릴레오와 카발리에리

케플러와 동시대의 과학자인 갈릴레오(1564- 1642)는 1638년에 출판된 서적 ‘새로운 두 과학에 대한 대화’의 첫째 날 살비아티와 심플리치오의 대화에서 연속체의 구성과 무한분할에 대해 논의하였다. 갈릴레오는 데모크리토스와 유사한 원자론적 관점을 제시하면서 연속체가 “무한히 작은 불가분량들”로 구성된 것으로 간주하였다. 그러나 그는 불가분량들이 연속체의 잇따른분할의 과정에 의해서는 생성될 수 없다고 하였다(Bell, 2019, p. 44).

선분과 같이 이어져 있는 것6)들은 쪼개서 두 부분으로 만들 수 있고, 그것들은 다시 되풀이 해서 쪼갤 수 있어. 그러니 이런 것들은 한없이 많은 쪼갤 수 없는 것들로 구성되어 있어야 해....... 그리고 부분들이 한없이 많이 있다면 그것들은 크기가 없어야 해. 왜냐하면 어떤 유한한 크기가 한없이 많이 있으면 그것들을 다 더하면 무한히 커질 테니깐. 그러니 이어져 있는 것들은 쪼갤 수 없는 것들이 한없이 많이 모여서 만들고 있지(Galileo, 1638, pp. 49-50).

사람들은 선분을 무한 등분하려고 할 때……. 이 과정을 되풀이해 무한히 많은 점들로 쪼갤 수 있다는 생각은 큰 잘못이야. 이 과정을 아무리 되풀이해도 아직 쪼개야할 유한한 부분이 늘 남아 있어(Galileo, 1638, p. 53).

이 방법으로는 절대 점들에 이를 수가 없어……(Galileo, 1638, p. 53).

이 구문에서 갈릴레오는 연속체가 불가분량으로구성되어 있다면 그들의 수는 무한이어야 하며 크기가 없어야 함을 제시한다. 만약 불가분량들의크기가 양수이면 그 전체 길이의 합은 양수와 무한대의 곱으로 무한대가 되기 때문이다. 또한 갈릴레오는 불가분량의 크기가 0이지만 이들이 모여서 크기가 양수인 연속체가 될 수 있는 이유는 그들의 개수가 ‘무한대’이기 때문이라고 보았다. 이러한 관점은 대화의 다른 장면에서도 등장한다.

무한과 쪼갤 수 없는 것은 그 특성상 이해하기가 힘이 들어. 그러니 그것 둘을 합치면 더욱 어려워. 그러나 쪼갤 수 없는 점들을 갖고 선을 만들려면 점들이 한없이 많이 있어야해(Galileo, 1638, p. 46).

이 시기는 아직 칸토어의 무한집합 이론이 없었기에, 점들로 선분을 구성하기 위해서는 점들 이 비가산개가 있어야 한다는 점을 말할 수 없었다. 그러나 갈릴레오는 두 무한한 대상들의 비교에서 다음과 같이 원소들의 일대일 대응의 방법을 사용함으로써 무한의 현대적인 이론에 가까워진 모습을 보였다.

제곱수들이 전부 몇 개냐고 물으면, 그것들이 자연수 전체와 개수가 같음을 부인할 수 없네. 왜냐하면 모든 자연수는 제곱수의 제곱근이거든……. 제곱수들이 자연수 전체보다도 적다고 말할 수 없고, 자연수 전체가 제곱수보다 많다고 말할 수 없어. 어떤 것들의 개수가 <같다>, <많다>, <적다>는 비교는 개수가 유한한 경우에만 할 수 있고, 무한인 경우에는 이런 말이 아예 성립하지가 않아(Galileo, 1638, pp. 48-49).

이렇게 무한의 크기들이 비교 불가능하다는 논의를 통해 갈릴레오는 ‘길이가 0인 점들이 모여서 서로 다른 길이의 선분을 만들 수 있다’는것을 설명한다.

심플리치오가 선분들의 길이가 제각각일 때 긴 것이 짧은 것보다 더 많은 점들을 포함해야 하지 않느냐고 물었는데, 그 해답은 한 선분이 다른 선분보다 점의 개수가 더 많다, 적다, 같다는 말을 할 수가 없어. 그들은 모두 한없이 많은 점들을 갖고 있을 뿐이야(Galileo, 1638, p. 49).

연속체에 대한 논의에서 갈릴레오는 그리스의 제논이 제시한 ‘다수의 역설’과 유사한 문제들에대해 고심한 흔적을 보인다. 그는 연속체가 무한분할 과정에 의해서 왜 점에 이를 수 없는지, 그리고 길이가 0인 불가분량들이 모여서 어떻게크기가 양수인 선분을 만들 수 있는지를 고민하였다. 그리고 이에 더 나아가서 길이가 0인 점들이 모여서 어떻게 크기가 서로 다른 선분들을 구성하는 것이 가능한지, 무한집합의 크기는 어떻게 비교하는지에 대해 논의하는 등 연속체의논의를 한 걸음 더 진척시킨 모습을 보였다.

갈릴레오와 동시대의 사람이자, ‘불가분량의 방법’을 고안한 것으로 알려진 카발리에리(1598-1647)는 면은 평행한 다수의 선분들이 모여서 구성된 것으로, 입체는 다수의 평행한 면들이 모여서 이루어진 것으로 생각하였다. 그리고면의 불가분량은 선분으로, 입체의 불가분량은 면으로 생각하였다. 카발리에리는 이 구성이 이루어지기 위해서 불가분량들의 수가 무한히 많아야 한다는 것을 인지하였으며, 따라서 갈릴레오가 무한을 설명하면서 겪은 어려움을 피하기 위해 ‘불가분량의 개수’에 의지하지 않는 방법을 고안하고자 하였다. 따라서 카발리에리의 방법에서 특징적인 것은 두 도형의 넓이와 부피를 비교할 때, 각각의 불가분량 사이에 대응을 이용한 것이다. 이 대응을 통해 카발리에리는 불가분량의 개수의 무한의 문제로부터 해방된다고 생각하였다(Bell, 2019, p. 46). 카발리에리의 원리의 아이디어는 다음과 같다.

높이가 같은 두 입체를 밑면에 평행하고 밑면에서 같은 거리에 있는 평면으로 자른 이웃한 두 단면의 넓이 사이에 언제나 어떤 일정한 비가 성립하면 두 입체의 부피에도 똑같은 비가 성립한다.

(Boyer & Merzbach, 1991, p. 536)

카발리에리의 불가분량의 방법은 ‘차원의 감소’라는 성질을 가진다. 입체의 부피를 비교할때 그것보다 한 차원 낮은 평면들을 이용하고, 평면들의 넓이를 비교할 때는 역시 한 차원 낮은 선분들을 이용한다(Bell, 2019, p. 47).7) 즉, 카발리에리는 연속체가 한 차원 더 낮은 것들로부터 구성된다고 생각하였다. 그러나 카발리에리는 어떻게 폭이 없는 선분으로부터 폭을 가진 면을 구성할 수 있는지, 두께가 없는 평면으로부터 두께를 가진 입체가 만들어질 수 있는지에 대한 질문과 비판을 받았다. 카발리에리는 이 질문의 답변에 성공하지 못한 채로, 면과 입체가 불가분량들의 합으로 단순히 구성되는 것이 아닌 ‘불가분량의 흐름’으로 구성되는 것으로 간주였다. 즉 카발리에리는 선분은 점의 움직임으로 면은 선의 움직임으로, 그리고 입체는 면의 움직임으로 생성되는 것으로 생각하였다(Bell, 2019, p. 47).

카발리에리 역시 갈릴레오와 마찬가지로 연속체의 구성과 무한분할과 관련된 그의 수학이론의 정당화에 대해 고심한 것으로 보인다. 그리고 이러한 과정에서 제논이 제시한 ‘다수의 역설’과유사한 논리적 어려움을 겪었다. 그러나 카발리에리는 결국 ‘폭의 길이가 0인 선분들로 폭이 양수인 면을 만들 수 있는가’에 대한 적절한 수학적 설명을 제시하지는 못하였고 연속체를 구성하는 불가분량의 수에 의지하지 않는 방법 즉, 넓이와 부피의 비교에서 ‘불가분량의 대응’의 방법을 사용하는 방식으로 어려움을 피하였다. 또한, 연속체의 구성에서는 ‘불가분량의 흐름’의관점을 사용하기도 하였다.

다. 월리스

17세기 수학에서는 무한소와 불가분량의 개념이 널리 사용되었다. 특히 월리스(1616-1703)는카발리에리가 고안한 불가분량의 방법을 산술화한 것으로 유명하다. 월리스는 또한 무한대를 나타내는 기호 ‘∞’를 소개하였는데, 이는 카발리에리가 피하고자 했던 면을 이루는 무한히 많은불가분량의 개수를 나타내기 위한 것이었다. 카발리에리가 연속체를 구성하는 불가분량이 원래의 연속체보다 한 차원 낮은 것이라고 여긴 반면, 월리스는 불가분량이 연속체와 동종의 것인지 이질적인 것인 지에는 관심이 없었다. 그는 단지 무한히 많은 수의 불가분량들이 원래의 연속체를 나타내기에 충분한 폭이나 두께를 가지면 충분하다고 생각하였다. 즉, 평면은 불가분량으로 구성이 되는데 그 불가분량이 직선인지 평행사변형인지 상관없이 그들이 무한히 많이 모여서 평면을 이루도록 충분한 두께를 가지면 된다는 것이다(Bell, 2019).

예를 들어, 밑변의 길이가 b이고 높이가 a인삼각형의 넓이를 구하는 과정을 생각해보자. 월리스는 삼각형 안에 포함된 선분의 개수를 ∞라고 생각하였다. 이때 무한분할의 결과로 나온 맨아래 선분의 길이는 b이며 맨 위의 선분의 길이는 0이다. 그리고 이 선분의 개수가 ∞개 이므로등차수열의 합의 공식에 의해 모든 선분들의 길이의 합은 b×2가 된다. 그리고 삼각형의 높이가 a이고 이것을 ∞만큼 분할하였으므로 각 선분들의 높이는 a=a×1가 된다. 즉, 모든 선분들의 넓이의 합은 a×b×2=ab2이며 이것이 바로 삼각형의 넓이가 된다(Bell, 2019, p. 53). 월리스는 무한히 작은 양을 대담하게 사용하면서 1을 ‘무한히 작은 양, 또는 non-quanta(무량)’이라고 불렀다.(Boyer, 1949, p. 194)

Figure 4.Derivation of the area formula for a triangle of Wallis (Bell, 2019, p. 53)

라. 뉴턴과 라이프니츠

‘유율 미적분학’의 발명가로 알려진 뉴턴(1642-1727)은 자연현상을 “움직임의 일반적 법칙으로 환원”하고자 하였다(Cassirer, 1984, p. 381). 뉴턴은 양이 불가분량으로 구성된 것이 아닌 움직임에 의해 생성된 것으로 생각하면서 양을 유량(fluent)으로, 유량에 의해 생성된 비율을유율(fluxion)로 언급하였다. 이렇게 움직임의 개념을 합법화하는 것은 뉴턴의 유율 이론의 주된 목적 중 하나였다(Cassirer, 1984, p. 382).

수학적 양에 대해 나는 여기에서 불가분량이나,가능한 최소의 부분들 또는 무한히 작은 것들로 구성된 것으로 보지 않고, 연속적인 움직임으로 기술된 것으로 간주한다. 선은 부분들의 병렬을 통해서가 아니라 점들의 연속적임 움직임을 통해서 생성되는 것으로 묘사된다. 그리고 표면은 선들의 움직임을 통해, 입체는 면의 움직임을 통해서, 각들은 변들의 회전을 통해서, 시간은 연속적인 흐름을 통해서, 다른 경우에서도 마찬가지다. 이 생성은 물리적 세계에서 일어나고, 우리의 눈앞에서 보이는 물체들의 움직임에서 매일 발생한다(Newton, 1703, p. 107).

뉴턴은 물체의 모든 입자들이 이론적으로는 분할가능하다고 생각했지만 이러한 이론적 무한분할 가능성을 물리적 분할가능성과는 분리하였다.

물체를 쪼개 인접한 알갱이들을 서로 갈라놓을 수 있음을 관찰을 통해서 알 수 있다. 그리고 쪼개지 않은 알갱이도, 우리 마음속으로는 더 작은 부분들로 가를 수 있으며, 수학적으로 보일 수 있다. 이렇게 갈랐지만, 실제로는 아직 쪼개지 않은 알갱이를, 자연의 힘으로 실제로 쪼개서 떼어 놓은 것이 가능한지, 우리는 확언할 수 없다……. 쪼갠 알갱이들은 물론이고 쪼개지 않은 알갱이들도 실제로 한없이 쪼갤 수 있다고 결론을 내릴 수 있다. (Newton, 1687/1999, p. 3, 강조는 연구자가 한 것임)

뉴턴은 무한한 분할의 결과 무한소적 입자에 도달한다고 생각하지 않았다. 또 뉴턴은 만약 그가 “어떤 원소들로 구성된 양”을 다루더라도 “무한히 작은 것을 사용하고 있다고 생각하지말고, 한없이 작아지는, 쪼갤 수 있는 양을 사용하는 것”으로 봐야 한다고 하면서 “정해진 부분의 합과 비율이 아니라, 항상 합과 비율의 극한” 으로서 생각할 것을 강조하였다(Newton, 1687/1998, p. 53) 이 구문은 뉴턴의 연속체의 무한분할에 대한 생각을 나타내며, 동시에 양들을합의 극한으로서 보는 현대적인 리만합의 관점을 보여준다.

뉴턴은 그의 미적분학 이론에서 “아르키메데스, 갈릴레오, 카발리에리, 그리고 배로”와 같이운동적인 관점을 택하였다(Boyer, 1949, p. 221). 뉴턴은 역동적인 자연 현상을 수학적으로 설명하고자 하였으며 따라서 움직임은 단지 물리적 현상만이 아닌 수학의 대상이 되었다. 따라서 뉴턴의 이론에서 선들은 점들의 움직임으로 면들은 선들의 움직임으로 표현되었다. 그러나 뉴턴은 여전히 그의 미적분 이론에서 연속체의 무한분할과 구성에 대해 정당화할 필요를 느끼고 어떤 원소들로 이루어진 양을 다룰 때 무한히 작은 것들 즉 무한소 양들의 합이 아닌 ‘더 분할될수 있는 양들의 합의 극한’으로 설명하였다.

뉴턴과 함께 미적분학을 발명한 것으로 알려진 라이프니츠(1646-1716)는 연속체의 구성에 관한 문제를 심각하게 생각하였고 이것을 ‘연속체의 미로’라고 불렀다(Bell, 2019, p. 62).

라이프니츠는 선은 부분으로 분할될 수 있기 때문에 선은 단일체(unity)가 아닌, 단일체의 합으로 생각하였다. 하지만 이 단일체는 점은 될수 없으며 점은 연속체의 끝이라고만 생각하였다(Bell, 2019, p. 62). 따라서 연속체는 단일한 개체가 될 수 없으며, 점들의 합도 아니다. 라이프니츠는 연속체를 실제 개체가 아닌, 이상적 양이라고 생각하였다(Bell, 2019, p. 62).

라이프니츠의 곡선에 대한 설명은 이상적 양으로서의 연속체의 관점을 잘 보여준다. 라이프니츠는 곡선을 “무한개의 변을 가진 다각형” 혹은 infinitangular polygon과 같은 것이라고 하면서, 곡선의 접선을 바로 그 infinitangular polygon의 무한히 작은 변을 연장한 직선으로서 생각하였다. 이처럼 라이프니츠는 무한히 작은 양인 무한소를 미적분학을 전개하는데 자유롭게 사용하였다. 라이프니츠의 이러한 추론을 정당화한 것은 ‘연속성의 원리’였다. ‘연속성의 원리’에 의해 “정지는 움직임과 같은 것으로, 원은 무한히 많은 변을 가진 정다각형으로서” 생각할 수 있었다(Leibniz, 1702).

라이프니츠는 연속체의 무한분할에 대해서는 다음과 같이 주장하였다.

연속체는 무한분할가능하다. 그리고 직선에서도 이 무한분할의 성질이 나타난다. 그것의 부분이전체와 유사하다는 사실로부터. 따라서 전체가 분할 가능할 때, 그 부분들도 분할가능하며, 그리고 유사하게 부분의 부분 역시 무한분할 가능하다(Bell, 2019, p. 65에서 재인용).

내가 물질을 (실제로 절단되지 않은) 부분이 없는 것으로 인지한다 할지라도, 우리는 그러나 분할할 수 없는 원소, 또는 가장 작은 부분으로 도달할 수 없다. 심지어 무한한 원소조차 아니고(not even infinitely elements), 오직 끊임없이 더 작아지고 그리고 아직은 보통의 것이다(Horváth, 1986, p. 65에서 재인용).

라이프니츠는 무한한 분할을 통해서 연속체를 구성하는 가장 작은 원소에 도달할 수 없으며, 무한 분할의 과정은 끊임없이 계속될 수 있다는 관점을 보였다. 이러한 연속체의 분할 과정은 라이프니츠의 적분 과정에서 사용된다.

라이프니츠는 적분과 미분이 서로 역의 관계라는 것을 보일 때, 곡선의 적분 값을 결정하면서 무한히 작은 양들의 무한히 많은 합을 시도해야하는 곤란한 상황에 처했다. 이때 라이프니츠가 어려움을 벗어난 방법은 ‘연속성의 원리’를이용하는 것이었다. 라이프니츠는 x축을 유한하게 분할한 경우에 성립하는 식을 ‘연속성의 원리’에 의해 무한의 경우로 확장하여 적분과 미분이 서로 역의 관계라는 것을 보였다(Bell, 2019, pp. 68-69). 라이프니츠는 ‘연속성의 원리’라는 형이상학적 원리를 적용하면서 정적분의 정당화를 위한 설명을 제시하면서 동시에 무한히 작은 양을 무한히 많이 더하는 문제로부터 해방되었다. 비록 완전한 정당화에는 이르지 못했지만 유한의 사례에 대한 확장으로서 적분을 생각한 것으로, 적분 이론에서 현대적인 리만합의 극한으로 가까워진 모습을 보였다.

미적분학의 발명가로 알려진 라이프니츠와 뉴턴은 곡선에 대한 관점과 무한소에 대한 관점에서 차이를 보인다. 그러나 두 학자는 연속체의 크기를 그것의 부분들의 크기로부터 추론하고자할 때 유사한 사고양식을 보였다. 그들은 모두유한한 경우의 추론을 무한의 경우에 적용함으로써 무한히 작은 양들을 무한히 많이 더하는 문제에서 해방8)되었다.

3. 19세기 데데킨트와 칸토어의 실수 이론

데데킨트는 기하학적 직관을 배제하고 산술에만 의지하여 극한 개념의 엄밀성을 확보하고자 하였다. 그는 유리수가 가진 성질이 기하학적인 연속과 어떤 점이 다른지를 고민하였다. 과거 라이프니츠와 갈릴레오는 연속성을 ‘조밀성’으로 파악하였다. 그러나 데데킨트는 관점을 달리하여 연속성이 조밀성 즉, ‘두 점들 사이에 반드시 또다른 점이 있다’는 명제로 보존되는 것이 아닌 정반대의 성질 즉, ‘직선은 한 점에 의해 반드시두 부분으로 나누어진다’는 사실에 의해 얻어진다고 생각하였다. 데데킨트는 이를 통해 수를 정의함으로써 실수의 연속성을 성취하였다(Boyer & Merzbach, 1991, p. 917).

만약 직선 위의 모든 점이 두 부분으로 나누어진다고 하자. 이때, 한 class는 두 번째 class의 모든 점보다 왼쪽에 있다. 그러면 모든 점을 두 개의 class로 나누는 이 분할을 생성하는 점은 유일하게 존재한다.

(Błaszczyk, Katz, & Sherry, 2012, p. 59 재인용)

데데킨트는 “이 평범한 의견으로 연속성의 비밀은 해명될 것”이라고 하였다. 그리고 “칸토어-데데킨트의 공리-직선 위의 점은 실수와 일대일대응시킬 수 있다”에 의해 실수집합은 유리수집합으로부터 확장되었으며 연속성을 갖게 되었다(Boyer & Merzbach, 1991, p. 917).

데데킨트는 또한 1872년에 저술한 ‘연속성과무리수’에서 다음과 같이 무한집합의 정의를 엄밀하게 제시하였다.

체계 S가 자신의 일부분과 서로 닮았을 때 무한이라고 하고 그렇지 않은 경우에 S를 유한 체계라고 한다.

(Boyer & Merzbach, 1991, p. 920에서 재인용)

칸토어는 이에 더하여 모든 무한집합이 반드시 동일하지 않다는 사실까지 나아갔다. 칸토어는 집합의 ‘농도’를 이용하여 무한집합을 단계적으로 분류할 수 있음을 제시하였다. 특히 그는대각선 논법을 사용하여 유리수 집합에 포함되지 않는 또 다른 수가 있음을 증명함으로써, 실수가 비가산 개임을 보였다(Boyer & Merzbach, 1991, pp. 921-922).

데데킨트와 칸토어의 업적에 의해 직선은 실수 집합과 일대일 대응을 이루게 되었으며, 직선위에 존재하는 점 전체의 개수는 실수 전체의 개수와 같게 되었다. 이로써 점이 모여 직선이될 때 그 점의 개수는 실수 전체의 개수 즉, 비가산 개이고 농도는 ℵ1과 같다는 사실이 확립되었다. 그리고 자연히 폭이 없는 선들이 모여평면도형을 구성 하는 경우도 마찬가지로 선들이 비가산개일 때 가능하다는 사실이 성립되었다. 즉, 선분들이 모여 직사각형을 구성할 때 그선분들의 개수는 실수 전체의 개수인 비가산 개가 되며 농도는 ℵ1이 된다.

이와 더불어 연속체의 무한분할 역시 실수집합의 관점에서 이해되었다. 직선을 분할한다는 의미는 직선과 동형인 실수 집합을 두 개의 집합으로 분할한다는 의미와 같게 되었다. 칸토어-데데킨트의 공리를 통해 직선의 구성과 무한분할에 대한 오랜 질문에 대한 실마리를 얻은 것이다. 물론 아직 질문은 더 남아 있다. 그렇다면 길이가 0인 점들이 모이면 0+0+0+…이 되는데, 어떻게 양수의 선분의 길이가 가능한 것일까? 또한 직선을 무한분할 하면 크기가 없는 점이 될 것인가? 이러한 질문에 대해서는 추가적으로 수학적 분석이 필요하며 이는 Ⅲ장에서 논의한다.

4. 역사적 분석의 결과

역사적 분석을 통해 고대 그리스 시대부터 칸토어와 데데킨트의 실수이론이 확립되기까지 연속체의 구성과 무한분할에 대해 수학자들이 오랫동안 고심한 것을 알 수 있었다. 그리고 오랜 세월을 거쳐 이산적인 양으로 여겨졌던 수와 연속적인 양으로 여겨졌던 기하학적 직선은 19세기 칸토어-데데킨트 공리를 통해 동형을 이루게되었고 연속체의 구성과 무한분할이 실수집합의 입장에서 설명되었다. 역사적 분석의 결과는 다음의 세 가지로 정리할 수 있다.

첫째, 연속체의 현대적 이론이 확립되기까지, 연속체의 구성과 무한분할에서 수학자들은 제논이 제기한 ‘다수의 역설’과 관련된 문제에 부딪쳤으며 이를 해결하기 위해 노력하였다. 물론 수학자들이 제논이나 ‘다수의 역설’이라는 표현을 직접적으로 언급한 것은 아니지만, 그들은 ‘연속체를 구성하는 요소가 무엇인지’, ‘크기가 없는점들이 모여서 어떻게 양수의 크기를 갖는 직선이 될 수 있는지’ 혹은 ‘크기가 양수인 점들이모여서 어떻게 유한한 크기의 직선을 갖게 되었는지’, ‘연속체를 무한히 분할하면 불가분량이될 수 있는지’와 같은 문제의 어려움을 인식하고 해결하고자 하였다.

이 과정에서 갈릴레오는 점들은 크기가 없지만 점들의 개수가 무한개이기 때문에 점들이 선분을 구성할 수 있는 것이라는 아직은 불완전한 답을 제시하였다. 또한 크기가 없는 점들이 모여서 어떻게 서로 다른 크기를 가진 선분이 될 수 있는지에 대해서도 점들의 개수가 무한이고 이들 사이에서는 어느 것이 많고 적음을 말할 수 없다고 설명하였다.

카발리에리는 연속체가 불가분량으로 구성된 것으로 생각하였지만, 역시 ‘크기가 없는 불가분량으로 어떻게 양수의 크기를 갖는 연속체를 만드는가?’ 적절한 답변을 제시하지 않았으며 ‘불가분량의 흐름’의 개념을 사용하기도 하였다. 또한 연속체의 난제를 우회하기 위해 입체의 부피를 불가분량의 크기의 합으로 보는 대신에, 두입체의 부피를 비교할 때 대응하는 각각의 불가분량들을 비교하는 방식을 택하기도 하였다.

월리스는 연속체를 구성하는 불가분량의 수가 무한히 많다는 것을 나타내기 위해 ∞의 기호를 도입하였으며, ∞의 개수로 높이가 a인 연속체를 분할하면 그 폭은 a/∞가 된다고 하면서 ∞ 를 산술에서 자유롭게 사용하였다.

뉴턴과 라이프니츠는 그들의 미적분학 이론에서 유사한 고민을 하였다. 뉴턴은 어떤 원소들로구성된 양을 다룰 때, 무한히 작은 양들의 합이 아닌 ‘쪼갤 수 있는 양들의 합의 극한’ 즉, ‘유한한 양의 극한’을 사용할 것을 제시하였다. 그리고 라이프니츠는 ‘연속성의 원리’를 통해 유한한영역에서 성립하는 사실이 무한의 영역에서도 성립하는 것으로 그의 정적분의 계산을 정당화하였다.

이들은 모두 연속체를 구성하는 성분들이 무한히 많을 때 연속체가 양수의 크기를 갖게 되는 문제와 연속체의 무한분할 결과에 대해 다양한 수학적 설명방식을 제시하였음을 볼 수 있다. 즉, 연속체의 구성과 무한분할은 수학자들이 해결하고자 하였던 난제였으며, 이에 대한 타당한 설명을 제공하기 위해 수학의 여러 이론들이 발달하기도 하였다.

둘째, 연속체의 구성과 무한분할에 대한 설명에서 무한소 개념의 사용이 다수 보였다. 그리스시대에 유클리드가 원론의 Ⅴ권 정의 5번을 통해서 무한소 크기를 그의 수학이론에서 제외하였지만, 연속체와 관련하여 무한소는 끊임없이등장하는 소재였다. 이는 또한 제논의 ‘다수의 역설’과 무관하지 않다. 크기가 0인 것들을 무한히 더하면 크기가 0이 되고, 크기가 양수인 것을 무한히 더하면 크기가 무한대가 된다는 패러독스가 0보다는 크지만 임의의 양수보다는 작은수의 관념으로 이끌었던 것이다.

특히 케플러는 원을 무한히 많은 이등변 삼각형으로 나누어 원의 넓이를 구하는 방식을 사용하였으며, 구를 무한히 많은 원뿔로 나누어 구의부피를 구하였다. 이 과정에서 원은 이등변 삼각형으로 그리고 구는 원뿔들의 무한히 작은 불가분량으로 구성된다고 생각하였다. 월리스 역시어떤 크기 a를 무한히 많은 수 ∞로 나눈 양 a/∞의 개념을 사용하였고, 라이프니츠는 무한소적 개념에 의지하여 그의 미적분학 이론을 전개하였다. 물론 무한소는 수학적 대상으로서의정당성을 끊임없이 의심받았으며 19세기 해석학의 산술화와 함께 수학의 이론에서 배제되었지만 그 전까지 연속체 개념의 발달과정에서 불가분량과 함께 자주 등장하였다.

셋째, 연속체의 구성과 무한분할에 대한 타당한 설명은 기하학적인 점과 직선만으로는 가능하지 않았으며, 직선과 실수의 일대일 대응이 이루어진 칸토어-데데킨트 공리가 제시된 후에 가능하였다. 초기에 연속체의 구성과 무한분할의 어려움은 기하학적인 질문이었다. 그러나 그리스시대부터 제시된 이 난제는 칸토어와 데데킨트의 업적에 의해 기하학적인 직선과 실수 집합이 동형을 이루게 됨으로써 설명이 가능해졌다. 칸토어-데데킨트 공리로 점들이 모여서 직선을 구성할 때, 그 직선을 이루는 점의 개수는 비가산개라는 사실이 확립되었다. 그리고 자연히 폭이없는 선들이 모여 평면도형을 구성할 때도 마찬가지로 그 폭이 없는 선분들은 비가산 개가 되며 농도는 와 같게 된다는 것이 알려졌다. 이와 더불어 연속체의 무한분할 역시 실수집합의 관점에서 이해될 수 있게 되었다. 직선을 분할한다는 의미는 직선과 동형인 실수 집합을 두 개의 겹치지 않는 집합들로 분할한다는 의미와 같게 되었다. 즉, 기하학적인 직선의 혹은 기하학적인 연속체의 구성과 무한분할의 의문은 원래 산술과 독립적으로 제시되었지만, 그 설명은 실수 이론에 의지하여 이루어지게 된 것이다.

그리스 시대에 제논은 ‘다수의 역설’을 제시함으로써 연속체의 구성과 무한분할에 대한 질문을 제기하였다. 이 질문은 ‘연속체의 무한분할결과는 궁극적 요소가 될 수 있는지’, ‘크기가 0인 성분들로 어떻게 양수의 크기를 가진 연속체가 구성될 수 있는지’ 또는 ‘크기가 양수인 성분들로 어떻게 크기가 양수이면서 유한한 연속체가 구성될 수 있는지’의 의문이다. 역사적 고찰결과 수학자들은 연속체와 관련하여 제논의 ‘다수의 역설’의 문제에 끊임없이 부딪혔음을 알수 있었다. 이 역설에 대한 수학적으로 만족할만한 답변은 데데킨트와 칸토어의 실수 연속체이론과 르벡의 측도이론이 확립된 후에 제시될수 있었다. 본 장에서는 19~20세기에 수학자들이연속체의 구성과 무한분할의 난제를 어떻게 극복하고 연속체의 이론을 안전한 수학영역 안에안착시켰는지에 대해 논의한다. 길이가 0인 점들로부터 연속체를 구성하는 것을 어떻게 정당화했는지, 즉 길이가 없는 이산적인 개체들인 점들로부터 연속체인 길이를 가진 직선을 구성하는 것을 어떠한 방식으로 정당화했는지를 논의한다. 또한 직선이나 곡선이 점으로 구성되어 있음에도 불구하고 이들을 무한분할 하면 왜 점이 되지 않는지, 또 선으로 구성된 평면을 무한분할하면 왜 선분이 되지 않는지에 대해 현대 수학의 이론으로 분석한다.

1. 측도이론과 연속체의 구성

곡선 또는 선분의 길이는 집합의 농도와 유사하며 서로 밀접한 관련이 있다는 인상을 준다. 따라서 먼저 선분의 길이는 집합의 농도의 함수가 아님을 보이자. 가장 단순한 예는 실수 직선과 그 부분집합 [0, 1]이 동일한 농도를 갖는다는 것이다. 따라서 더 긴 것이 더 많은 점들을갖는 것은 아니다. 뿐만 아니라 칸토어의 ternary집합은 불연속이지만 연속체의 기수를 갖고 동시에 길이는 0을 갖는 집합이다. 이 두 가지 예는 길이가 집합의 농도의 함수가 아님을 보여준다(Grünbaum, 1952).

그렇다면 곡선의 길이는 어떠한 성질을 가지는지, 집합의 농도와는 어떤 관련이 있는지 논의하기 위해 측도 이론을 먼저 살펴보자. 현대의측도 이론은 르벡에 의해 정립되었다. 르벡은 19세기 널리 받아들여진 리만 적분이 적분가능성에서 함수의 불연속점에 영향을 받기 때문에(Boyer & Merzbach, 1991, p. 1006) 적용할 수 있는 경우가 많지 않음을 알게 되었다. 리만 적분의 기본적 발상은 주어진 함수의 그래프와 x축 사이의 넓이를 구하기 위해 x축을 분할한 후 각 부분구간 위에서 주어진 영역과 근사한 직사각형의 넓이를 구하고 이들을 더하여 극한을 취하는 것이다. 이때 넓이의 합의 극한값이 존재하기위해서는 작은 구간 위에서 함수 값이 존재하는 범위가 작아야 하고 따라서 함수의 연속성에 의존하게 된다(Kim & Kye, 1999, p. 1).

19세기 말에 리만 적분보다 더 많은 함수에 적용가능하고, 극한과정을 더 편리하게 다룰 수있는 대안적인 적분 개념이 필요하다는 생각이 대두되었고 조르단, 보렐, W. H. 영과 르벡과 같은 수학자들이 새로운 적분의 정의를 시도를 하였다(Rudin, 1987, p. 5). 르벡은 함수의 그래프와x축 사이의 면적을 잴 때, x축을 분할하는 리만적분과 달리 y축을 분할하여 극한을 취하는 것을 제안하였다. 르벡의 방법이 가진 최대 장점은 적분가능성을 생각할 때 함수의 연속성에 영향 받지 않으며 따라서 더 많은 함수의 적분을 생각할 수 있다는 것이었다(Kim, Kim, & Kye, 2002, p. 295). 이러한 관점에서 리만의 적분이론으로부터 르벡의 이론으로의 전환 과정은 적분의 완비과정으로 평가받고 있다(Rudin, 1987, p. 6).

르벡은 새로운 적분 이론을 위해 먼저 집합의 ‘길이’의 개념을 정립해야 했다(Kim et al., 2002, p. 295). 르벡은 그 당시 발달된 집합의 중요한 성질들을 포함하도록 길이를 정의하였다. 측정가능한 집합의 가산 개의 합집합 또는 교집합이측정 가능하며, 모든 측정 가능한 집합의 여집합도 측정 가능하도록 길이를 정의하였고, 이에 따라 르벡의 측도 즉, 길이는 다음과 같이 가산 합(countable additivity)을 중요한 성질로 갖게 되었다(Rudin, 1987, p. 5).

함수 μLebesgue 측도일 때, 함수 μ:M?*와 서로소인 셀 수 있는 집합의 모임 {En:n=1,2,?}에 대해 다음이 성립한다.

μ n=1En= n=1μEn (kim et al., 2002, pp. 298-301)

즉, 르벡 측도 함수의 특징에 의하면, 측정 가능한 어떤 집합이 교집합을 갖지 않는 가산 개의 부분 집합으로 분할될 때 전체 측도는 그 부분 집합의 측도들의 합이 된다. 그리고 동시에어떤 집합을 공통부분이 없는 비가산개의 부분집합으로 나눌 때는, 전체 집합의 측도가 부분집합들의 측도의 합이라고 말할 수 없다.

학교수학에서 다루는 공간은 유클리드 공간이며 여러 가지 도형들은 n차원 유클리드 공간에존재하고 측정 가능한 집합을 이룬다. 그리고 유클리드 n차원 공간은 르벡 측도의 성질을 만족하는 다음과 같은 길이 함수를 가진다.

1. n-차원의 유클리드의 공간 En의 점과 특정한실수 좌표 체계 (x1,x2,x3,?,xn) 사이에는 1대1 대응이 존재한다.

2. 점 x,y가 좌표 xi,yi를 갖는다면, (유클리드적)거리라 불리는 다음과 같은 실함수 d(x,y)가 존재한다.

d(x,y)=1nxiyi21/2 (Grünbaum, 1952, p. 296)

르벡의 측도의 정의에 의해 길이 함수 d(x,y)는 가산 합의 성질을 가진다.

이제 ‘a’와 ‘b’를 어떤 구간의 끝점이라고 하자. 이 구간이 닫힌구간인지, 열린구간인지 혹은반 열린구간인지에 관계없이 이 구간의 길이는 ba가 된다. 그리고 만약 a=b이면, 구간axb 는 ‘degenerate’ 구간이라고 부른다. 이때 degenerate 구간은 한 점 x=a만을 포함하는 집합이 되며 길이는 0이 된다. 즉, 한 점으로이루어진 집합은 0의 길이를 가진다(Grünbaum, 1952).

제논의 ‘다수의 역설’은 degenerate 구간의 합집합으로 이루어진 유한한 구간의 길이가, degenerate의 구간의 길이가 0임에도 불구하고어떻게 양수가 될 수 있는지에 대해 질문하고 있다.9) 어떤 양수의 길이를 갖는 구간을 (a,b)라하고(ab), 구간 (a,b)가 한 점으로 이루어진집합들 즉, degenerate 부분구간들의 합집합이라하자. 구간 (a,b)는 연속체의 기수를 가지며, 셀수 없을 만큼 많은 실수로 구성되므로, (a,b)를구성하는 한 점 집합들인 degenerate 구간은 셀수 없을 만큼 많다.

그런데 측도 이론에 의하면, 구간이 서로소인가산 개의 부분구간으로 분할될 때는 μ(E)=μ(E1)+μ(E2)+μ(E3)+?이 성립하지만, 비가산 개일 때는 부분구간의 길이의 합으로전체 구간의 길이를 결정할 수 없다. 따라서 구간 (a,b)는 degenerate 부분구간의 합집합임에도 불구하고, 전체 구간의 길이를 degenerate 부분구간들(0의 길이를 갖는 한 점 집합들)의 길이를 ‘더함’으로써 결정할 수 없다(Grünbaum, 1952).

즉, 현대 수학의 측도 이론 의하면 제논의 ‘다수의 역설’이 말하고 있는 ‘0을 아무리 많이 더해도 0 밖에 얻을 수가 없다’는 모순은 발생하지않는다. 측도 이론에 의하면 부분들이 가산 개일때에만 전체 길이를 부분들의 길이의 합으로 구할 수 있다. 즉, ‘0의 크기를 가진 집합들이 가산개일 경우에는 전체의 길이는 0’이 되지만, ‘0의 크기를 가진 집합이 비가산일 경우에 전체의 길이는 그 비가산 개의 부분들의 길이의 합으로 구할 수 없다.’ 따라서 0의 길이를 가진 degenerate 구간이 셀 수 없을 만큼 많은 경우 전체 길이가 양수가 되는 것은 수학적으로 모순이 아니다. 그러므로 그리스 시대의 제논이 제시한역설은 칸토어의 무한집합 이론과 현대 수학의 측도 이론에 의해 반박되며, 따라서 이산적인 개체들인 점들이 무한히(특히 비가산 개만큼 무한히) 많이 모여서 연속적인 선분을 만드는 것은수학 이론 안에서 안전하게 보호된다.

2. 연속체의 무한분할

수학사에서 오랫동안 제기된 질문 중 하나는 ‘연속체의 무한분할의 결과 과연 점들로 분해될것인가’이다. 그리스 시대 제논의 ‘다수의 역설’ 역시 연속체의 ‘무한분할 결과 마지막 항에 도달할 수 있을 뿐만 아니라, 그 결과 수학적인 점특히 0의 길이를 갖는 것(zero extension)에 도달할 수 있다’는 가정을 함축하고 있다(Grünbaum, 1952).

데데킨트와 칸토어에 의해 정의된 실수 연속체는 실수 점들의 집합이다. 따라서 이 실수 연속체의 분할은 역시 겹치지 않은 두 개의 실수 집합들로의 분할이 된다. 그리고 이 분할된 실수집합들은 직선 위의 점 집합에 대응된다. 따라서 Grünbaum(1951)은 데데킨트와 칸토어의 실수 이론에 기초한 연속체의 무한분할은 어떤 연속적인 직선에서 틈이 보이도록 자르는 것이 아니라, 겹치지 않는 부분구간을 만드는 것을 의미하며 다음의 조건을 만족하는 것으로 보았다.

1. degenerate 구간(한 점으로 이루어진 집합)은분할의 목적을 위한 구간의 부분구간이 될 수없다.

2. 공집합은 임의의 구간의 부분구간이 아니다.

3. 유한개의 점으로 이루어진 집합과 degenerate구간의 경우, 분할은 공집합이 아닌 진부분집합의 형성을 의미한다.

(Grünbaum, 1951, p. 76).

이와 같은 관점에 의해 구간을 분할하는 경우에 대해 Grünbaum(1951, p. 59, p. 76)은 칸토어의 정리 “만약 구간을 겹치지 않는 부분구간으로 나누면 우리는 기껏해야 ℵ0개의 부분구간을 얻을 수 있다”를 제시한다. 즉, ℵ1의 기수를 갖는 연속체를 무한분할하면 우리는 ℵ0개의 부분구간 얻게 되며 무한분할의 결과 궁극적 요소인 한 점 집합들이 생성되며 끝나는 것은 적절하지 않는다는 것이다.

뿐만 아니라 Grünbaum(1951, p. 77)은 분할은 일종의 조작임을 제시하였다. 분할이라는 것은 조작의 행위이기 때문에 셀 수 있을 만큼, 즉 가산 번 분할할 수 있고, 각각의 분할결과 각 시행에 따른 부분구간들을 얻을 수는 있지만 구간이 점들로 분할되는 일은 일어나지 않는다는 것이다.

3. 수학적 분석의 결과

본 장에서는 실수 집합과 동형인 연속체의 구성과 무한분할에 대해 수학적으로 분석하여 두 가지 결론을 얻었다. 첫째, 연속체의 구성에 대한 수학적 설명은 실수의 비가산성과 르벡의 측도 이론에 의지함을 보였다. 르벡은 측도 가능한함수의 성질로 가산합(countable additivity)을 제시하였다. 따라서 실수 구간 [a,b]의 길이는 구간에 속한 모든 점들의 길이의 합으로 구할 수 없다. 한 점으로 구성된 집합은 비가산 개이고 측도함수는 가산성의 성질을 갖기 때문이다. 따라서 실수의 비가산성과 르벡 측도의 가산합의 성질에 의해 실수 직선과 동형인 연속체는 ‘0의 크기를 갖는 점들이 모이면 0+0+0+…이 되는데, 양수의 길이를 갖는 연속체의 크기가 어떻게 나올 수 있는지’의 패러독스로부터 보호된다.

둘째, 길이가 양수인 선분을 무한히 분할하면 언젠가는 길이가 0인 점이 되는가?의 질문에 대해 수학적인 답을 하였다. Grünbaum가 제시한직선의 분할의 조건과 칸토어의 정리에 의하면 ℵ1의 기수를 갖는 연속체를 겹치지 않는 구간들로 무한분할 하더라도 최대 ℵ0개의 부분구간을 얻을 수밖에 없으며 무한분할의 결과 궁극적 요소인 한 점 집합들이 생성되며 끝나는 설명은 적절하지 않고 그러한 일은 발생하지 않는다.

연속체의 구성과 무한분할의 관점에서 수학사를 간략히 살펴본 결과 수학자들은 수세기에 걸쳐 제논이 제기한 ‘다수의 역설’과 관련된 어려움을 겪었고 이 패러독스는 무한소의 개념과 관련이 있음을 알 수 있었다. 과거 칸토어와 데데킨트의 실수 이론과 르벡의 측도 이론이 없던 시절에는 ‘직선이 점으로 이루어졌음에도 불구하고’ ‘직선의 길이를 왜 점들의 크기를 더함으로써 얻을 수 없는지’, 그리고 ‘직선을 무한분할한 결과 왜 다시 점이 되지 않는지’에 대해 설명할 수 없었다.

역사적으로 수학자들이 고민하였던 이 문제는 학교수학과도 무관하지 않다. 학교수학의 도형들인 선, 면은 연속체이고 선은 점으로, 면은 선으로 구성된다. 그리고 선과 면은 연속체의 성질인 무한분할의 성질을 갖고 이 분할 가능성을 이용하여 학교수학에서는 곡선의 길이나 평면 도형의 넓이를 구하기 때문이다.

2015 개정 수학과 교육과정에서 원의 넓이를구하는 과정을 살펴보자. 초등학교 6학년 교과서는 Figure 5와 같이 ‘원을 한없이 잘라서 이어 붙임으로써 직사각형을 만들어서’ 원의 넓이를구하고 있다. 정적분을 사용할 수 없는 초등학생의 인지적인 수준을 고려하여, 원의 넓이를 어린학생들이 직관적으로 받아들일 수 있는 이해하기 쉬운 형태로 제시한 것이다.

Figure 5.The area of the circle (Ministry of Education, 2018, pp. 100-101)

그러나 이러한 과정에서 ‘원을 직사각형 형태로 만들 때 원을 무한히 잘라 나온 이등변 삼각형의 밑변은 무엇인지’와 같은 질문이 제기된다. 르벡의 측도이론이나 실수의 비가산성에 대한 배경지식이 없는 상황에서는 삼각형의 밑변의 길이가 0이라면, 원의 둘레의 길이는 0+0+0+0+…으로 0이 된다고 생각할 수 있다. 또한, 삼각형의 밑변의 길이가 양수 a이면, 원의 둘레는 a를 무한히 많이 더한 것과 같으므로 무한대가 된다고 생각할 수도 있다. 따라서 우리는 이등변삼각형의 밑변의 길이가 0이 될 수도 또한 양의실수가 될 수도 없는 모순된 입장에 처하게 되며 이로부터 임의의 양수보다 작은 무한소 관념으로 이끌어지게 된다(Jesseph, 1989).

뿐만 아니라 원의 넓이를 구하는 이 과정은 무한소와 불가분량을 자유롭게 사용하였던 케플러의 방식이다. 역사적 고찰에서 보았듯이 케플러는 연속체를 불가분량들이 모여서 구성된 것으로, 불가분량은 무한소의 크기를 갖는 것으로생각하였다. 물론 원의 넓이를 구하는 이 방식은 에우독소스의 소진법이나 정적분의 형식적인 방식으로 정당화될 수 있다. 그러나 무한소와 불가분량을 자유롭게 사용하였고 또한 무한소에 의지했던 케플러가 고안한 것으로 볼 때, 이 방식과 무한소 관념과의 관련성을 배제하기 어렵다.

연속체의 분할가능성은 정적분과도 밀접한 관련이 있다. 연속함수의 그래프와 x축 사이의 넓이는 Figure 6과 같이 영역을 x축과 수직인 방향으로 n개로 분할하여 각 구간에서 직사각형들의 넓이를 구한 후 그들의 합의 극한인 리만합의 극한으로 구한다. 즉, 정적분은 점, 선, 면들의 합으로 정의되지 않으며, 수열의 극한으로 정의된다(Boyer, 1949, p. 59).

Figure 6.The limit of the Riemann sum (Lee, Choi, Kim, Jun, Jang, Song, et al., 2018, p. 167)

이 리만합의 극한에 대해 Jung & Kang(2008)은 학생들이 무한소 관점에서 이해하는 것을 선호한다고 하였으며, Shin(2009)은 학생들이 무한히 많은 선분들의 넓이의 합 또는 폭이 무한히 작은 직사각형의 넓이의 합으로 생각하는 경향이 있음을 말하였다. Czarnocha et al.(2001)의 연구도 학생들이 평면도형을 무한분할하면, ‘폭이없는 사각형’들이 되거나 ‘사각형이 무한히 작아져서 직선이 된다’고 표현하는 것을 보고 하였다. 또한 Schneider는 [0, 1]에서 곡선 y=x3x축 사이의 넓이를 구하는 문제에서 몇몇 학생들이 넓이 m에 대해 12n+1n24<m<1+2n+1n24이므로 1/4이 m에 대한 적절한 근삿값이라는 것에는 동의함에도 불구하고, n이 크면 직사각형들은 선이되고, 선들의 면적은 0이므로 이들의 합은 0이된다는 관점을 보이는 것을 보고하였다(Job & Schneider, 2014 재인용). 즉, 정적분에서 학생들은 무한소의 관점 또는 제논의 ‘다수의 패러독스’의 관점을 보였다.

연속체에 대한 역사적 분석은 이러한 학생들의 생각이 역사적으로 수학자들에게서 볼 수 있었던 사고와 유사함을 보여준다. 또한 연속체의구성과 무한분할의 과정에서 나타난 수학자들의 무한소 논쟁의 결론이 오랜 시간 끝에 19후반데데킨트와 칸토어에 이르러서야 가능했다는 사실은 학생들의 무한소적 생각이 쉽게 해소되기 어려움을 보여준다. 이는 연속체에 대한 수학적분석으로 더욱 뒷받침 된다. 연속체의 수학적 분석은 Figure 6의 영역을 x축으로 무한히 분할할때 기껏해야 ℵ0개의 구간으로 분할되며, 따라서 ℵ0개의 직사각형을 얻는 다는 것을 보여주었다. 뿐만 아니라 Figure 6은 특히 n개로 분할하는경우이며 n은 가산이고 [0, 1]은 비가산개의 점들로 구성되므로 선이 될 때까지 분할되는 경우는 일어나지 않는다. 하지만 학생들은 이러한 형식적인 수학을 학습하지 않았기 때문에 무한 분할의 결과 ‘선이 될 수 없다’는 사실을 알지 못한 채 ‘폭이 없는 사각형’ 또는 ‘직선들’이 된다는 식의 사고를 하게 된 것이다.

그렇다면 실제 수학교실에서는 연속체의 구성과 무한분할에 대해 어떻게 지도해야 하는가? 학교수학에서는 제논의 ‘다수의 패러독스’를 해소하고 무한소를 배제하기 위해 학문 수학의 이론으로서 설명하는 것은 무리가 있다. 본 연구는학교수학에서 연속체에 대한 직관적 이해를 돕기 위해 두 가지 지도 방안을 제안하고자 한다.

첫째, 연속체의 구성에서 동적인 관점을 활용할 필요가 있다. 카발리에리는 ‘불가분량들이 움직여서 면과 입체가 생성 된다’는 관점을 택하였고 이러한 동적인 관점은 자연현상을 수학적으로 설명하고자 하는 뉴턴에 와서 적극 이용이 되었다. 점과 선의 움직임으로 선과 면을 구성하는 동적인 관점은 연속체의 구성의 난제를 우회하면서 동시에 자연의 역동적인 현상을 수학적으로 표현하고 설명하는데 적절한 방법이라 할 수 있다. 실제로 2015개정 수학과 교육과정의 중학교 교과서 10종 중 8종이 동적인 관점으로 점, 선, 면의 관계를 서술하고 있음을 확인하였다.

둘째, 정적분 과정 중 연속체의 분할에서 무한소적 관점 혹은 ‘제논의 패러독스’의 어려움이발생했을 경우, 극한의 의미를 고찰하는 활동이도움이 될 것이다. Figure 6의 경우와 같이 정적분에서 영역을 분할하여 나온 도형의 가로의 길이 1nn이 커짐에 따라 0에 가까워진다는 의미 즉, 극한 limn1n=0의 의미를 생각해 보자.

학교수학에서 수열의 극한의 정의는 다음과 같다.

일반적으로 수열 {an}에서 n이 한없이 커질 때,일반항 an의 값이 일정한 값 L에 한없이 가까워지면 수열 {an}은 L에 수렴한다고 한다. 이때 L을 수열 {an}의 극한값 또는 극한이라고 하며 이것을 기호로 limnan=L 또는 n→∞일 때 anL과 같이 나타낸다. (Lee et al., 2018, p.12)

극한이 포함된 식의 등호의 의미는 2+3=5의산술에서의 등호의 의미와는 차이가 있다. 2+3=5의 등호는 2+3의 연산 결과 정확히 5가 됨을 의미한다. 그러나 limn1n=0의 극한 기호가 포함된 식의 등호는 n이 한없이 커질 때 1n이 0에 한없이 가까워진다는 뜻이며 1n이 결국에는 0이 된다는 뜻은 아니다. 따라서 정적분에서 영역을 x축과 수직인 방향으로 분할할 때 분할하는 횟수가 아무리 많아지더라도 직사각형의 가로의 길이가 0되어 선분이 되는 것은 아니다. 뿐만 아니라, ∞는 수가 아니기에 극한 과정에서n이 한없이 커져가는 경우도, n이 결국에는 ∞에 도달한다는 것을 말하는 것이 아니므로 1n1가 되어 무한소에 도달한다는 의미도 아니다. 이와 같이 극한의 의미에 대해 고찰하는 과정은 정적분의 계산 과정에서 면을 분할하면 폭이 0인 선이 되거나 무한소 폭을 갖는 도형이 된다는 관점을 반성할 수 있는 기회가 될 수 있을 것이다.

본 연구는 학교수학의 점, 선, 면의 관계에 대한 이해를 돕기 위해 연속체의 구성과 무한분할을 중심으로 역사적ㆍ수학적 분석을 하였다. 역사적 분석의 결과 다음의 세 가지 결론을 도출하였다.

첫째, 고대 그리스시대부터 수학자들은 점, 선, 면의 관계에서 제논이 제시한 ‘다수의 역설’과같은 문제에 대해 끊임없이 고민하며 합리적인 설명을 하고자 노력하였다. 수학자들이 비록 제논의 역설로서 부르진 않았을지라도, 그들은 ‘크기가 없는 점이 모여 어떻게 양수의 길이를 갖는 직선이 될 수 있는지’, 또는 ‘크기가 양수인점이 모여 어떻게 유한한 길이를 갖는 선분을 만들 수 있는지’ 혹은 ‘폭이 없는 선분이 모여어떻게 넓이를 가진 면을 구성할 수 있는지’ 등에 대해 고민하였다. 그리고 이는 ‘직선을 무한히 분할하면 점이 되는지 여부’에 대한 질문으로 이어진다. 수학사는 이러한 질문이 미적분학의 발달 과정에서 끊임없이 등장하였음을 보여준다.

둘째, 연속체의 구성과 무한분할에 대한 수학자들의 설명에서 무한소의 개념이 종종 등장하였다. 일부 수학자들은 선분을 무한분할하면 1/ ∞의 길이가 되거나 연속체의 불가분량이 무한소의 크기를 갖는다는 관점들을 이용하여 수학의 이론을 전개하였다.

셋째, 연속체의 구성과 무한분할에 대한 수학적으로 타당한 설명은 기하학적인 점, 선, 면만으로는 불가능하였으며 기하학과 산술이 결합되고, 직선이 실수와 동형이라는 칸토어-데데킨트공리가 제공된 이후에 가능하였다. 직선과 실수가 대응되며 직선이 비가산 개의 점으로 이루어진 연속체라는 사실을 통해 ‘점이 모여 선이 되고’, ‘길이가 0인 것들이 모여서 길이가 양수인 선분이 된다’는 것이 수학적으로 타당하게 설명가능하게 되었다.

Ⅲ장에서는 이 난제를 학문수학이 어떻게 설명하는지를 제시하였다. 첫째 ‘길이가 0인 점들이 모여서 어떻게 길이가 양수인 선분을 만들수 있는가?’, ‘길이가 양수인 실수 연속체를 무한히 분할하면 점과 같은 궁극적 원소들로 분해되는가?’와 같은 질문에 대한 답은 학교수학의 수준에서는 제시되기 어려웠으며, 학문수학의 이론에 의해서 설명이 가능하였다. 실수 전체의 집합은 비가산개의 원소로 구성되며 르벡의 측도이론은 가산합(countable additivity)의 성질을 갖는다. 부분구간의 길이로 전체의 길이를 구하고자 할 때, 르벡의 측도이론에 의하면 그 부분구간의 길이가 가산개일 때만 가능하다. 따라서 길이가 0인 실수 점 전체의 길이의 합은 0을 비가산개 더해야 하기 때문에 르벡의 측도 이론으로 구할 수 없고, ‘길이가 0인 점들을 더하면0+0+0+…+0+…이므로 실수직선 전체의 길이는 0이 된다’는 모순은 일어나지 않는다. 또한 실수직선을 무한 분할하는 문제의 경우, Grünbaum의분할의 조건과 칸토어의 무한집합 이론에 의하면 실수 집합을 겹치지 않는 구간들로 분할할때 우리는 기껏해야 가산개의 부분구간을 갖게되며, 점들에 이르도록 분할하는 것은 적절하지않음을 제시였다.

연속체에 대한 역사적 분석과 수학적 분석은 학교수학에서 학생들이 만날 수 있는 어려움의 근원에 대한 실마리를 제공한다. 수학자들은 연속체의 구성과 무한분할에 대한 설명을 함에 있어서 제논의 ‘다수의 역설’의 난제를 해결해야 하는 어려움을 겪었으며 무한소와 불가분량을 사용하기도 하였다. 수학자들이 19~20세기에 와서야 무한소와 제논의 다수의 패러독스로부터 해방될 수 있었던 사실과 이 설명이 실수이론과 측도이론 및 칸토어의 무한집합 이론에 의지한다는 사실은 주목할 만하다. 이러한 수학이론을 학습하지 않은 학생들이 오랫동안 수학자들이 겪은 연속체와 관련된 어려움을 똑같이 겪을 수 있음을 암시하기 때문이다.

실제로 학교수학에서 원을 한없이 분할하여 넓이를 구하는 과정, 그리고 정적분에서 도형을분할하여 영역의 넓이를 구하는 과정은 제논의 역설 및 무한소적 관점과 관련이 있었다. 실제로여러 연구들은 정적분의 이해에서 학생들이 무한소 관점을 보이고 있음을 보고하고 있다. 학생들의 이러한 사고는 물론 단순한 오개념이라고 보기는 어렵다. 연속체에 대한 역사적, 수학적분석으로부터 이 관점이 연속체의 구성과 무한분할과 관련해서 나타날 수 있는 자연스러운 현상임을 확인할 수 있었다.

만약 교수학습의 실제에서 학생들이 이러한 관점을 보인다 하더라도 교사는 실수의 비가산성이나 측도이론과 같은 형식적인 수학 이론을 이용하여 설명할 수는 없다. 학교수학에서 형식적인 학문 수학적 내용을 도입하여 설명하는 것은 오히려 학생들의 인지적 어려움을 심화시킬 우려가 있기 때문이다. 따라서 본 연구는 학문수학의 이론을 제시하지 않는 방식으로 연속체의 구성과 무한 분할에 대한 지도 방안을 두 가지 제시하였다. 첫째는 연속체의 구성에서 카발리에리와 뉴턴이 사용하였던 동적인 관점을 활용하는 것이며 둘째는 연속체의 분할과 관련하여 극한의 의미를 고찰하는 활동을 하는 것이었다. 이 지도방안들이 실질적으로 연속체에 대한유의미한 이해를 돕는지에 대해서는 추가적인 연구를 통해 확인이 필요하다.

현대 수학의 연속체는 무한, 특히 비가산 무한과 의 관점이 포함된 어려운 개념이다. 그리고 무한은 우리의 경험과 직관이 닿을 수 없는 영역에 있으므로 연속체의 본성은 이미 직관의 범위를 벗어나 있다고 볼 수 있다. 그러나 연속체는 학교수학의 수직선의 구조, 기하학의 각종도형들, 함수의 그래프, 미적분학 등 곳곳에서 등장할 뿐만 아니라, 극한이나 미적분의 여러 정리들과 밀접하게 연결된 중요한 개념이다. 따라서 학생들의 극한과 미적분에 대한 학습을 위해서도 학생들의 직관과 형식적인 연속체의 개념을 연결할 수 있는 구체적인 교수학습 방안들과 그것의 실질적인 효과를 확인하는 추가적인 연구가 필요하다. 연속체의 역사적, 수학적 분석에대한 본 연구가 연속체 지도의 연구를 위한 기초가 되기를 기대한다.

1) Bell(2019, p. vii)은 연속체를 “연속적인 개체(continuous entity)”로 표현하였고, Lee el al.(2020, p. 425)은 “연속성을 포괄하는 것”으로 표현하면서 “물리적 대상과 수학적 대상 모두에 적용”되는 것으로 해석하였다.본 연구는 Bell(2019)를 따라 연속체를 “연속적인 개체”의 의미로 사용한다.

2) 제논의 ‘다수의 역설’은 ‘측정의 역설(paradox of measure, metrical paradox)’로도 불린다(Dainton, 2010, Skyrms, 2012).

3) 학교수학의 소재로도 종종 이용되는 제논의 네 가지 운동의 역설(이분법, 아킬레스, 화살, 운동장)은 ‘점이 모여서 선분이 만들어진다’는 것에 기초하고 있으며, 이 가정에 의해 패러독스가 나타난다(Hong, 2008, p. 473). 시간을 무한분할하면 그 궁극적인 요소인 순간이 되고, 공간의 직선을 무한분할하면 한 점이 되며 이들이 바로 시간과 공간을 구성하는 요소라는 가정이 ‘운동의 역설’에 숨어 있으며, 패러독스를 일으키는 원인이기 때문이다. 따라서 연속체를 무한분할하면 궁극적 요소가 될 수 있는지, 그리고 이들을 다시 결합하면 연속체가 될 수 있는지의 질문을 담고 있는 ‘다수의 역설’에 대한 답변은 ‘운동의 역설’을이해하는 기초가 될 수 있다.

4) 연장성을 갖는다는 것은 공간을 점유한다는 것을 뜻한다. 근대적 물질관은 어떤 것을 물질로 보기 위해서는 연장성을 가져야 한다고 생각하였다(Korean Society of Modern Philosophy, 2001, p. 389).

5) 16~17세기 수학자들은 무한히 작은 양인 무한소와 불가분량의 개념을 사용하였다. 무한소란 0보다 크지만 임의의 양의 실수보다 작은 수로서, 아르키메데스의 정리를 만족시키지 못한다. 그리고 불가분량은 그용어 그대로 더 이상 나누어질 수 없는 양을 뜻하는데 이는 무한소와 밀접하게 관련되어 있지만 다르다.불가분량은 더 이상 나누어질 수 없기 때문에 proper part가 없는 것으로, 불가분량과 무한소가 유사하게 사용되기도 하지만 불가분량이 항상 무한소가 되지는 않는다(Bell, 2019, p. xi).

6) 이어져 있는 것은 연속체를 의미한다.

7) 카발리에리의 이 방법은 입체의 부피와 평면도형의 넓이를 구하는 데는 적절했지만, 곡선의 길이를 구하는 데에는 적용할 수 없었다. 그 이유는 두 점들 사이의 ‘비’에는 어떤 적절한 의미를 부여하기가 어려웠기 때문이다. 따라서 카발리에리는 곡선을 곡선의 불가분량인 점들의 합이 아닌 무한소 길이를 가진 선분의 합으로서 생각하였다(Bell, 2019, p. 47).

8) Kim(2020, p. 353)에 의하면 라이프니츠 이전에 파스칼이 이미 무한의 경우를 유한으로부터 추론하였다. 파스칼 역시 점들이 모여 선이 되고, 선들이 모여 면이 되는 문제에 고심하였다. 파스칼은 점들이 모인다고 선의 길이가 되지 않으며, 선들이 모여도 면의 넓이가 될 수 없다고 생각하였다. 파스칼은 여기에서생각을 전환하여 무한 분할을 통해서 이러한 문제를 해결하는 것보다는, 유한적인 방법에 의해서 해결하면 된다는 결론에 이르렀다.

9) 각 구간은 점들로 이루어진 것이라기보다는 한 점 집합 즉, degenerate 구간들의 합집합으로 이루어진 것이다.

  1. Bell, J. L. (2019). The Continuous, the Discrete and the Infinitesimal in Philosophy and Mathematics. Switzerland: Springer.
  2. Boyer, C. B. (1949). The history of the calculus and its conceptual development. New York: Dover Publications. 김경화 역(2008). 미분적분학사-그 개념의 발 달. 서울: 경문사.
  3. Boyer, C. B. & Merzbach, U. C. (1991). A history of mathematics. New York: John Wiley & Sons, Inc. 양영오, 조윤동 역(2000a). 수학의 역사·상. 서울: 경문사. 양영오, 조윤동 역(2000b). 수학의 역사·하. 서울: 경문사.
  4. Byun, H. H. & Park, S. Y. (2002). Teaching and learning irrational number with its conceptual aspects stressed: Consideration of irrational number through the notion of 'incommensurability',. School Mathematics. 4(4), 643-655. 변희현, 박선용(2002). 무리수의 개념적 측면을 강조한 교육방안: '통약불가능성'을 통한 무리수 고찰. 학교수학, 4(4), 643-655.
  5. Błaszczyk, P., Katz, M. & Sherry, D. (2012). Ten misconceptions from the history of analysis and their debunking. Foundations of Science. 18(1), 43-74.
    CrossRef
  6. Cassirer, E. (1984). Newton and Leibniz. The Philosophical Review. 52(4), 366-391.
    CrossRef
  7. Czarnocha, B., Dubinsky, E., Loch, S., Prabhu, V. & Vidakovic, D. (2001). Concetions of area in students and in history. The College Mathematics Journal. 32(2), 99-109.
    CrossRef
  8. Dainton, B. (2010). Time and Space. Durham: Acumen.
  9. Galileo, G. (1638). Discorsi e dimostrazioni matematiche : intorno ? due nuoue scienze. 이무현 역(1996). 새로운 두 과학, 고체의 강 도와 낙하 법칙에 관한 대화. 서울:(주) 민음사.
  10. Gr?nbaum, A. (1951). The Philosophy of continuity: a philosophical interpretation of the metrical continuum of physical events in the light of contemporary mathematical conceptions. Doctoral dissertation, Yale University.
  11. Gr?nbaum, A. (1952). A Consistent conception of the extended linear continuum as an aggregate of unextended elements. Philosophy of Science. 19(4), 288-306.
    CrossRef
  12. Hagar, A. (2014). Discrete or continuous? the quest for fundamental length in modern physics. New York: Cambridge University Press.
    CrossRef
  13. Heath, T. L. (1908). The thirteen books of Euclid's Elements. Cambridge: Cambridge University Press. 이무현 역(1997a). 기하학 원론 -평면기하--. 서울: 교우사. 이무현 역(1997b). 기하학 원론 -무리수--. 서울: 교우사. 이무현 역(1998). 기하학 원론 -비율, 수--. 서울: 교우사.
  14. Hong, J. K. (2008). On the understanding of infinity. The Journal of Educational Research in Mathematics. 18(4), 469-482. 홍진곤(2008). 무한 개념의 이해에 관하여. 수학교육학연구, 18(4), 469-482.
  15. Horv?th, M. (1986). On the attempts made by Leibniz to justify his Calculus. Studia Leibnitiana. 18(1), 60-71.
  16. Jesseph, D. M. (1989). Philosophical theory and mathematical practice in the seventeenth century. Studies in History and Philosophy of Science Part A. 20(2), 215-244.
    CrossRef
  17. Job, P. & Schneider, M. (2014). Empirical Positivism, an Epistemological Obstacle in the Learning of Calculus. ZDM. 46(4), 635-646. 18 (2020). Middle school mathematics 3. Seoul: Kumsung. 주미경, 강은주, 강소영, 강석주, 김호경, 오화평, 권상순(2020). 중학교 수학 3. 서울: 금성출판사. 19 (2018). Middle school mathematics 1. Seoul: Kumsung. 주미경, 강은주, 강소영, 이현구, 강석주, 오화평, 권상순(2018). 중학교 수학 1. 서울: 금성출판사.
    CrossRef
  18. Jung, Y. J. & Kang, H. Y. (2008). A study on infinitesimal interpretation of definite integral. School Mathematics. 10(3), 375-399. 정연준, 강현영(2008). 정적분의 무한소 해석에 대한 고찰. 학교수학, 10(3), 375-399.
  19. Korea Society of Modern Philosophy (2001). Western modern philosophy. Seoul: Changbi Publishers. 서양근대철학회(2001). 서양근대철학. 서울: ㈜창작과비평사.
  20. Kim, S. K., Kim, D. H. & Kye, S. H. (2002). Intoduction to real analysis. Seoul: Seoul National University Press. 김성기, 김도한, 계승혁(2002). 해석개론. 서울: 서울대학교출판부.
  21. Kim, S. K. & Kye, S. H. (1999). Real analysis. Seoul: Seoul National University Press. 김성기, 계승혁(1999). 실해석. 서울: 서울대학교출판문화원.
  22. Kim, Y. U. (2020). History of Mathematics. Seooul: Kyungmoonsa. 김용운(2020). 수학사대전. 서울: 경문사.
  23. Lee, J. A., Yoo, J. G. & Park, M. H. (2020). Historical Analysis of Continuum for Teaching Continuity of Real Numbers,. School Mathematics. 22(2), 423-444. 이정아, 유재근, 박문환(2020). 실수의 연속성 지도를 위한 연속체의 역사적 분석, 학교수학, 22(2), 423-444.
    CrossRef
  24. Lee, J. H. (2014). The Infinite Decimal Representation: Its Opaqueness and Transparency. Journal of Educational Research in Mathematics. 24(4), 595-605. 이지현(2014). 무한소수 기호 : 불투명성과 투명성. 수학교육학연구, 24(4), 595-605.
  25. Lee, J. Y., Choi, B. L., Kim, D. J., Jun, C., Jang, H. S., Song, U. H. & Song, J. (2018). High school calculus. Seoul: Chunjae. 이준열, 최부림, 김동재, 전철, 장희숙, 송윤호, 송정, 김성철(2018). 고등학교 미적분. 서울: 천재교육.
  26. Leibniz, G. W. (1702). Letter to Varignon, with a Note on the 'Justification of the Infinitesimal Calculus by that of Ordinary Algebra'. In L. E. Loemker (Ed.), Philosophical Papers and Letters. Dordrecht: Klwer Academic Publishers.
    CrossRef
  27. Ministry & of Education (2018). Elementary mathematics 6-2. Seoul: Chunjae Education. 교육부(2018). 초등학교 수학 6-2. 서울: 천재교육.
  28. Newton, I. (1687). The Principia : mathematical principles of natural philosophy. 이무현 역(1998). 프린키피아 제1권. 서울: 교우사. 이무현 역(1999). 프린키피아 제3권. 서울: 교우사.
  29. Newton, I. (1703). The 'De Quadratura Curvarum' revised for publication. In D. T. Whiteside (Ed.), The mathematical papers of Isaac Newton, Vol. Ⅲ, 1697-1722 (1981, pp. 92-159.). Cambridge: Cambridge University Press.
  30. Park, S. Y. (2018). A historical study on the interation of the limit-the infinite set and its educational implications. Journal for History of Mathematics. 31(2), 73-91. 박선용(2018). 극한과 무한집합의 상호작용과 그 교육적 시사점에 대한 역사적 연구. 한국수학사학회지, 31(2), 73-91.
  31. Rudin, W. (1987). Real and complex analysis. New York: McGraw-Hill Book Company.
  32. Salmon, W. C. (2001). Zeno's Paradoxes. Indianapolis: Hackett Publishing Company, Inc.
  33. Shin, B. M. (2009). High School Students' Understanding of Definite Integral. School Mathematics. 11(1), 93-110. 신보미(2009). 고등학생들의 정적분 개념 이해. 학교수학, 11(1), 93-110.
  34. Skyrms, B. (2012). From Zeno to arbitrage: essays on quantity, coherence, and induction. Oxford: Oxford University Pres.
    CrossRef
  35. Tubbs, R. (2009). What Is a Number? Mathematical Concepts and Their Origins. Maryland: Johns Hopkins University Press.
  36. Woo, J. H. (2018). History-Generative Approach to School Mathematics. seoul: Seoul National University Press. 우정호(2018). 학교수학의 역사-발생적 접근. 서울: 서울대학교출판문화원.
  37. You, J. M. (2014). Aristotle on Continuity. Unpublished doctoral dissertation, Seoul National University. 유재민(2014). 아리스토텔레스의 연속이론 연구. 박사학위 논문, 서울대학교.

Article

전자저널 논문

2020; 30(4): 575-599

Published online November 30, 2020 https://doi.org/10.29275/jerm.2020.11.30.4.575

Copyright © Korea Society of Education Studies in Mathematics.

A Historical and Mathematical Study on Continuum - Focusing on the Composition and Infinite Division -

Seungju Baek1, Younggi Choi2

*Teacher, Sejong Science High School, South Korea, seung07@snu.ac.kr
**Professor, Seoul National University, South Korea, yochoi@snu.ac.kr

Correspondence to:corresponding author

Received: September 1, 2020; Revised: November 6, 2020; Accepted: November 13, 2020

Abstract

This study conducted historical and mathematical analyses of the composition of continuum and infinite division. Regarding the results of the historical analysis, first, it can be seen that mathematicians struggled with the problems related to Zeno’s “paradox of plurality” in the composition and infinite division of the continuum. Second, historically, infinite small appeared frequently. Third, the problem of continuum, which was a geometric problem, was not explained by geometry alone, and mathematical answers to this problem became possible after the straight line became homomorphic with the real set, following the arithmetization of mathematics. Through mathematical analysis, Zeno’s “paradox of plurality”, which includes questions about the composition and infinite division of a continuum, could be explained depending on the uncountability of real numbers and the countable additivity of Lebesgue measure. In addition, it was confirmed that it is inappropriate to divide a straight line to a point. The historical and mathematical analyses of this study suggest that students may have cognitive difficulties when dealing with the composition and infinite division of a continuum in relation to area, volume, and integral in school mathematics. The continuum is a concept closely related to the limit and calculus of school mathematics, and the historical · mathematical analysis of this study could serve as a foundation for teaching and learning plans of limits and calculus.

Keywords: Continuum, Zeno, Paradox of Plurality, Infinitely Divisible, Uncountability of Real Number Set, Lebesgue Measure

I. 서론

2015개정 수학과 교육과정의 중학교 1학년 교과서는 다음과 같이 “선은 무수히 많은 점으로, 면은 무수히 많은 선으로” 이루어져 있다고 표현하고 있다(Ju, Kang, Kang, Lee, Kang, Oh, et al., 2018, p. 154).

학교수학에서 선과 면은 연속체1)로 간주되며, Figure 1은 그러한 연속체의 구성을 나타낸 것이다. 그리고 이러한 선과 면은 각각 실수 직선과좌표평면에 대응된다. 과거 그리스 시대부터 수는 이산적인 양으로, 직선은 연속적인 기하학적대상으로 여겨졌다. 수학의 발달과정을 거쳐 현대에는 수들의 모임인 실수 전체의 집합이 연속적인 직선과 동형을 이루에 되었고, 따라서 실수전체의 집합도 연속성을 갖게 되었다. 이러한 실수의 연속성은 중학교 교육과정에서 무리수를 도입할 때 중요한 역할을 한다. 피타고라스 정리에 의해 유리수가 아닌 수 2가 존재하고, 그수가 수직선 위에 Figure 2와 같이 표현될 수 있음을 보이는 것은 무리수의 존재성을 보이는 대표적인 방식이다.

Figure 1. The relation of point, line and plane(Ju et al., 2018, p. 154)
Figure 2. Continuity of real numbers (Ju, Kang, Kang, Kang, Kim, Oh, et al., 2020, p. 24)

선행 연구들은 연속체로서의 실수의 교육적 중요성을 인식하고 이의 교육 방안에 대해 연구하였다. Byun & Park(2002)는 연속적인 양들의 측정에서 실수 개념이 발생하였고 여기에서 무한소수가 주요한 역할을 했음에 주목하여, 연속성과 이산성을 연결하는 공통측도 관점을 통해 무리수를 교육하는 방안을 연구하였다. Lee (2014)은 무한소수 기호가 실수 연속체를 나타내는데 중요한 역할을 할 수 있음을 밝혔다. Lee, Yoo, & Park(2020)은 실무한과 잠재적 무한의 입장에서 연속체 개념의 역사적 발달 과정을 분석함으로써, 산술적이고 대수적인 수를 연속적으로받아들이기 위해서는 실무한적인 관점이 필요함을 보였다. 또한, 실수를 구성하는 다양한 방식들과 완비성 공리가 동치라는 것을 보일 때 귀류법이 전제가 되기 때문에, 실수를 연속체로서받아들이는데 있어서 귀류법이 핵심 요소임을 밝혔다.

실수와 직선의 대응관계에서 직선이 연속적이라는 것은 직관적으로 받아들여지는 경향이 있다. 따라서 위 연구들은 실수 집합의 연속적 성질에 초점을 맞춰서 분석하였다. 그러나 역사적으로 연속체로서의 직선에 대한 관점이 명백하고 논란이 없었던 것은 아니었으며, 직선 혹은평면도형과 같은 기하학적 연속체가 무엇으로 구성되는지, 연속체의 성질로서 여겨지는 무한분할은 연속체의 구성과 어떤 관련이 있는지에 대해 수학자들은 오랫동안 고민하였다.

Hanckel이 재현의 원리를 주장한 이래 수학교육에서는 수학사의 교육적 중요성이 강조되어 왔다. Steinbring은 수학의 역사는 학교수학을 이해하도록 돕고, 정적이고 형식적인 수학이 아닌 학교수학에 맞는 더 적절한 지식의 모델을 제공한다고 하였다(Woo, 2018, p. 5 재인용). 또한 Friedelmeyer은 수학의 발달 과정을 학생들이 수업에서 그대로 반복하는 것보다, 수학사를 통해교사들이 수학학습에서 학생들이 가질 수 있는 어려움을 파악하고 그것을 벗어나도록 학습-지도 계획을 세우는 것이 중요하다고 하였다(Woo, 2018, p. 20 재인용). 즉, 교사들은 수학의 역사를 통해 수학적 개념과 정리의 형성 과정 및 그 과정 동안 수학자들이 어떤 어려움을 겪었는지 파악할 수 있으며 이를 통해 학생들이 학습과정에서 겪을 수 있는 문제를 예상하여 더 효과적인 지도 계획을 세울 수 있다.

본 연구는 연속체의 구성과 무한분할의 관점을 중심으로 수학의 역사를 분석한다. 연속체의구성과 무한분할의 성질은 학교수학의 곳곳에 등장하는 주제이다. 학교수학에서 ‘직선은 점들의 모임으로’, ‘원은 한 점으로부터 같은 거리에있는 점들의 모임’으로 정의된다. 그리고 연속체의 무한분할은 초등학교 6학년에서 원의 넓이공식을 유도할 때, 고등학교의 정적분 영역에서 곡선과 x축 사이의 넓이를 구할 때 나타난다. 선행 연구들은 연속체의 무한분할과 관련한 학생들의 인지적인 어려움을 보고하고 있다(Jung & Kang, 2008; Shin, 2009; Czarnocha, Dubinsky, Koch, Prabhu, & Vidakovic, 2001). 본 연구는 이산적인 개체들의 모임으로서, 그리고 무한분할가능한 대상으로서 연속체에 대해 수학의 역사를 분석함으로써, 수학자들이 과거에는 연속체를 어떻게 설명했으며 그 과정에서 어떤 어려움을 겪었는지를 알아본다. 이를 통해 학생들이 수학학습에서 겪을 수 있는 인지적 어려움과 그것의 기원이 무엇인지 파악하고, 수학교실에서 연속체의 구성과 분할의 지도를 위한 교육적 함의 점을 도출하고자 한다.

다음으로 본 연구는 연속체의 구성과 무한분할에 대한 수학적 분석을 하고자 한다. Park (2018)은 “연속체의 구성성분은 무한히 분할되는 성질을 지녀야 하고, 어떤 구성성분은 다른 구성성분과 연결되어 있어야 한다”는 생각이 수학의역사에서 인식론적 장애로서 역할을 하였으며(p. 89), “선분의 무한분할과 선분의 점에 의한 구성의 양립을 인정하게 되는 경험”이 해석학의 산술화에서 중요한 역할을 했음을 밝혔다(p. 88). 그러면서 Park(2018)은 축소선분열과 관련된 사고실험으로 예비교사들이 점이 직선의 구성성분이라는 확신을 갖도록 교육할 필요가 있음을 강조하였다(p. 89). 본 연구는 점들이 직선을 구성한다는 것과 연속체가 무한분할 가능하다는 사실이 수학적으로 정당화된 방식을 분석할 것이다. 교사들의 수학에 깊은 이해는 학생들의 수학적 이해를 위한 수업설계에 영향을 끼치므로 중요하다. 교사들은 그들의 수학적 소양을 통해서 학생들이 학습해야할 개념과 관련하여 겪을 수 있는 인지적 장애를 예측할 수 있을 뿐만 아니라 그것을 극복하거나 우회할 수 있는 교수학습방안을 고안할 수 있기 때문이다.

II. 연속체의 역사적 분석

1. 고대의 연속체

가. 피타고라스, 원자론, 제논의 연속체

피타고라스학파는 공간과 시간을 연속적인 것으로 여기면서 공간은 점들로 시간은 순간들로 구성되어 있다고 생각하였다(Boyer & Merzbach, 1991, pp. 120-122). 또한 피타고라스학파는 만물은 수라는 관점을 갖고 있었으며, 이에 따라 수와 기하학적 양의 연결을 시도하였다. 피타고라스 정리에 의한 통약불가능한 양의 발견은 이들의 연결을 위한 기초를 제공하였다.

이후 그리스의 원자론자인 데모크리토스는 “모든 현상을 빈 공간을 끝없이 운동하고, 한없이 작으면서, 수없이 많은, 그리고 쪼갤 수 없을만큼 딱딱한 원자로써 설명할 수 있다”고 주장하였다(Boyer & Merzbach, 1991, p. 129). 또한 데모크리토스는 연속체는 무한히 나누어질 수 없으며, 이어지는 분할의 결과 원자에 도달하고, 연속체는 다시 그 원자들로 구성될 수 있다고 생각하였다(Bell, 2019, p. ix).

그리스 시대 제논은 연속체의 본성과 관련하여 ‘다수의 역설’2)을 제시하였다. ‘다수의 역설’ 은 운동의 역설(이분법, 아킬레스, 화살, 운동장)보다는 덜 유명하지만 논리적으로는 더 근본적인 것으로 간주되는 것으로(Salmon, 2001; Hagar, 2014, p. 9)3), Simplicius에 의해 현대에 전해져오는데, Salmon은 그 논의를 다음과 같이 요약하였다.

만약 연장4)이 존재한다면 그것은 부분들로 구성되어야 한다. 따라서 부분들의 다수가 있다.게다가 이 부분들은 부분들을 가진다. 부분 분할의 과정이 무한히 반복 가능하기 때문에 부분들이 무한개 있어야만 한다. 이때 두 가지 어려움이 제기된다. 첫째 궁극적 부분은 크기를 갖지 않아야 한다. 만약 그들이 크기를 가지면 그들은 더 나누어질 수 있기 때문이다. 그런데 만약 연장된 대상이 크기가 없는 부분들로 이루어질 수 있다면, 그들이 얼마나 많은지에 상관없이 그들이 모인 결과는 여전히 크기를 갖지 않는다. 0을 아무리 많이 더해도 우리는 0밖에 얻을 수가 없다. 따라서 두 번째 어려움이 제기된다. 부분들은 크기를 가져야만 한다. 그러나 0보다 큰 크기들이 무한개가 있으면 결국 무한한크기를 산출할 것이다. 따라서 연장은 만약 그들이 존재한다면, “크기를 갖지 않을 만큼 작거나, 무한할 만큼 크다”(Salmon, 2001, pp. 13-14,강조는 연구자가 한 것임).

제논의 ‘다수의 역설’은 두 가지 가정, ‘연속체는 무한분할의 성질을 갖고 있으며’ ‘무한분할의결과 어떤 궁극적 부분을 갖게 된다’는 것을 전제로 한다. ‘다수의 역설’을 양의 길이를 갖는, 그리고 무한분할 가능한 선분 연속체에 대응하면 제논이 제기한 문제는 다음과 같이 정리할 수 있다. 첫째, 선분을 분할하는 과정을 무한히반복하면 ‘궁극적인 부분’들을 얻을 수 있는가? 둘째, 만약 ‘궁극적 부분’의 크기가 0이라면 0을무한히 많이 더해도 0이므로 선분의 길이는 양수가 될 수 없다. 셋째, 만약 ‘궁극적 부분’의 크기가 양수라고 하면, 선분의 길이는 양수가 무한히 많이 더해져야 하기 때문에 무한대가 되어 모순이다. 이처럼 제논의 ‘다수의 역설’은 연속체의 무한분할과 그 구성에 대해 의문을 제기하고 있다. 뿐만 아니라 제논은 비록 무한소에 반대하는 언급을 하였지만(Boyer, 1949, p. 28), 제논의 이 역설은 ‘무한소 관념’과도 관련이 있다. 0은 아무리 많이 더해도 0이 되며, 양수를 무한히 많이 더하면 무한대가 되기 때문에, 어떤 크기를 무한히 많이 더해서 유한한 양수가 되기 위해 ‘0보다 크지만 임의의 양의 실수보다 작은수’가 존재하는가의 질문이 발생하기 때문이다.

이상에서 피타고라스학파부터 원자론자들 그리고 제논까지 학자들이 연속체가 무엇으로 구성되어 있는지, 연속체는 무한분할 가능한지, 무한 분할한 결과는 다시 연속체의 구성요소가 되는지에 대해 고심한 흔적을 볼 수 있다. 또 피타고라스학파가 발견한 통약불가능한 수는 실수의 연속성을 위한 단초를 마련하였지만 아직 수들의 집합과 기하학적인 직선의 대응은 이루어지지 않았으며 제논이 제시한 연속체에 대한 질문은 해결되지 못한 채 남아 있었다.

나. 아리스토텔레스와 유클리드의 연속체

본 절에서는 연속의 개념을 철학적으로 정리한 아리스토텔레스와 기하학의 기초를 정립한 유클리드의 연속체 개념을 살펴본다.

아리스토텔레스는(384-322 B. C.) 연속을 두 가지 관점으로 정리하였다. 하나는 “형상적이고 목적론적인 연속”이고 다른 하나는 “기하학적 연속”이다. 형상적인 연속은 “접촉해 있는 복수의대상이 하나의 경계를 가지게 될 때”를 의미하며, 기하학적인 연속은 “무한하게 분할될 수 있는 것”이다(You, 2014, pp. 205-206). 본 연구는 연속체의 구성과 무한분할에 대한 연구이며 특히 점, 선, 면의 관계와 관련이 있으므로 아리스토텔레스의 기하학적 연속에 한정하여 분석한다. 아리스토텔레스에게 기하학적으로 연속인 선, 면, 입체는 크기를 가진 것으로 무한하게 분할가능한 성질을 가진다. 이때, 선분은 한 방향으로만 분할될 수 있는 반면 평면은 두 방향으로 분할되고 입체는 세 방향으로 분할이 가능하다(You, 2014, p. 205).

아리스토텔레스는 연속체의 분할이 제한 없이 이루어질 수 있지만 그 분할의 결과가 점이 될 수는 없다고 하였다. 또한 점들은 크기가 없으므로 아무리 많은 점들을 결합하여도 크기를 가진 선이 될 수 없다고 생각하였다. 양수의 크기를가진 선분이 되기 위해서는 아무리 짧더라도 크기를 가진 작은 선분들을 결합해야 하며, 점들의결합으로서는 불가능하다는 것이다. 유사한 관점에서 선분은 폭이 없기 때문에 아무리 많은 선분들을 결합해도 면을 만들 수는 없으며, 면을만들기 위해서는 아무리 작더라도 폭이 있는 면이 있어야 한다고 하였다. 입체를 구성하기 위해서는 작은 입체들이 결합해야 함은 물론이다. 아리스토텔레스의 입장에서 기하학적 연속체를 구성하는 부분은 그 연속체와 닮은 작은 부분인것이다. 이러한 관점에서 아리스토텔레스의 기하학적 설명 양식은 “전체는 부분들의 합”이라는것을 전제하고 있는 것으로 여겨진다(You, 2014, p. 207).

아리스토텔레스의 연속 이론에서 연속체의 분할과 구성에 대한 제논의 ‘다수의 역설’과 관련한 고민을 볼 수 있다. 아리스토텔레스는 연속체를 무한분할하면 결코 점이 될 수 없는데, 그 이유는 점들은 크기가 없으므로 이들이 모여서 다시 연속체를 구성할 수 없기 때문이라고 하였다.

기하학의 기초를 마련한 유클리드(325-265 B. C.)도 원론의 첫 부분 정의에서 점, 선, 면의 관계를 다음과 같이 밝히고 있다.

1. 점은 부분이 없는 것이다.

2. 선은 폭이 없이 길이만 있는 것이다

3. 직선은 점들이 쭉 곧게 있는 것이다.

7. 평면은 직선들이 쭉 곧게 있는 것이다.

(Heath, 1908/1997a, p. 3)

그러나 이 정의를 통해서는 유클리드의 의도가 “선이 점들로 구성된 것인지, 선들이 점들을단지 포함하는 것인지” 알기 어렵다. 또한 “선위에 점들이 얼마나 많이 있는지”에 대해서도명확하게 알 수는 없다(Tubbs, 2009, p. 207). 그럼에도 불구하고 이 정의는 ‘점들이 모여서 선이 되고, 선들이 모여 면이 되는’ 학교수학의 정의와 유사한 형태를 보이며 현대적인 점, 선, 면관계의 전신으로 생각된다.

유클리드는 원론 Ⅹ권에서 에우독소스의 소진법의 방법을 제시하고 있는데, Bell(2019)은 이구문에서 유클리드가 임의의 양은 무한히 나누어질 수 있다는 것을 가정한 것으로 보았다.

두 개의 크기가 다른 양들을 주었다고 하자. 큰 것에서 자신의 절반보다 더 큰 양을 빼고, 남은 것에서 자신의 절반보다 더 큰 양을 빼고, 이렇게 계속 되풀이 해라. 그러면 처음 주어진 작은 양보다 더 작은 양이 남게 된다(Heath, 1908/1997b, p. 4)

양으로부터 반보다 작지 않은 양을 빼고, 거기서 또 반보다 작지 않은 양을 빼는 과정을 반복할 수 있다는 것은 양을 반으로 나누고, 거기서또 반으로 나누는 것으로서 분할을 반복할 수 있다는 의미이기 때문이다.

또한, 유클리드 원론 Ⅴ의 정의 4는 “두 양이서로 어떤 비율을 가진다(비율이 있다)는 말은, 어느 것이든 곱을 하면 다른 것보다 더 커지게 할 수 있다는 뜻이다(Heath, 1908/1998, p. 11)”라고 진술하고 있다. 이를 통해 유클리드가 그의수학이론에서 무한소 양을 배제한 것을 확인할 수 있다.

따라서 종합하면, 유클리드는 점, 선, 면의 관계에 대해 정의를 통해 제시했지만, 이를 통해점들이 선을 구성하는지, 선들이 면을 구성하는지에 대해서는 알기는 어렵다. 또한, 유클리드는양들은 무한히 나누어질 수 있는 것으로 보면서, 무한히 작은 양은 그의 수학 이론에서 배제하였다.

2. 16~17세기의 연속체

16~17세기는 미적분학이 발달된 시기로서, 연속체에 대한 형이상학적 질문인 “불가분량5)은무엇인가, 또는 그들은 양들로 구성되는가”로 부터 기술적인 문제인 “불가분량이 달성할 수 있는 새로운 경이로움”으로 관심의 이동이 나타났다. 이 시대 수학에서 눈에 띄는 것은 과거 연속으로 여겨졌던 기하학과 이산적으로 여겨졌던 수의 결합으로, 이 과정에서 무한소가 중요한 역할을 하였다(Bell, 2019, p. 41).

가. 케플러

케플러(1571-1630)는 무한소를 자유롭게 사용한 것으로 알려졌다. 그는 곡선을 무한소 다각형으로 생각하였으며, 입체를 무한소 원뿔 혹은 무한히 얇은 원들로 구성된 것으로 생각하였다 (Bell, 2019, p. 42).

케플러는 원을 중심을 기준으로 무한히 분할하여 나온 무한히 작은 삼각형들의 합으로 보았다. 이때, 각 삼각형의 높이는 원의 반지름과 같아지므로, 무한히 작은 삼각형들의 밑변의 길이를 각각 b1, b2, ?, bn, ?이라 하고 원의 반지름의 길이를 r이라 하면 삼각형의 넓이의 합은 12b1r+12b2r+?+12bnr+?=12rb1+b2+?+bn+?이 된다. 여기에서 b1+b2+?+bn+?은 원의 둘레의 길이 2πr이 되어 원의 넓이는 πr2이 된다(Boyer & Merzbach, 1991, p. 528).

케플러는 또한 구를 무한소 원뿔로 구성된 것으로 생각하였는데, 원뿔의 밑면은 구의 표면에있고, 원뿔의 꼭짓점은 구의 중심에 있는 것으로Figure 3과 같이 생각하였다. 원뿔의 부피는 1/3×(높이)×(밑면의 넓이) 이므로, 구의 부피는 1/3×(구의 반지름의 길이)×(구의 겉넓이)가 된다(Bell, 2019, p. 43).

Figure 3. Volume of sphere (Bell, 2019, p. 43)

케플러는 연속체를 구성하는 불가분량의 차원에 대해서는 다양한 관점을 보였다. 구의 구성에서는 구와 동일한 차원의 무한소를 사용한 반면, 원뿔은 원뿔보다 한 차원 낮은 원들로 구성된 것으로 표현하기도 하였다.

나. 갈릴레오와 카발리에리

케플러와 동시대의 과학자인 갈릴레오(1564- 1642)는 1638년에 출판된 서적 ‘새로운 두 과학에 대한 대화’의 첫째 날 살비아티와 심플리치오의 대화에서 연속체의 구성과 무한분할에 대해 논의하였다. 갈릴레오는 데모크리토스와 유사한 원자론적 관점을 제시하면서 연속체가 “무한히 작은 불가분량들”로 구성된 것으로 간주하였다. 그러나 그는 불가분량들이 연속체의 잇따른분할의 과정에 의해서는 생성될 수 없다고 하였다(Bell, 2019, p. 44).

선분과 같이 이어져 있는 것6)들은 쪼개서 두 부분으로 만들 수 있고, 그것들은 다시 되풀이 해서 쪼갤 수 있어. 그러니 이런 것들은 한없이 많은 쪼갤 수 없는 것들로 구성되어 있어야 해....... 그리고 부분들이 한없이 많이 있다면 그것들은 크기가 없어야 해. 왜냐하면 어떤 유한한 크기가 한없이 많이 있으면 그것들을 다 더하면 무한히 커질 테니깐. 그러니 이어져 있는 것들은 쪼갤 수 없는 것들이 한없이 많이 모여서 만들고 있지(Galileo, 1638, pp. 49-50).

사람들은 선분을 무한 등분하려고 할 때……. 이 과정을 되풀이해 무한히 많은 점들로 쪼갤 수 있다는 생각은 큰 잘못이야. 이 과정을 아무리 되풀이해도 아직 쪼개야할 유한한 부분이 늘 남아 있어(Galileo, 1638, p. 53).

이 방법으로는 절대 점들에 이를 수가 없어……(Galileo, 1638, p. 53).

이 구문에서 갈릴레오는 연속체가 불가분량으로구성되어 있다면 그들의 수는 무한이어야 하며 크기가 없어야 함을 제시한다. 만약 불가분량들의크기가 양수이면 그 전체 길이의 합은 양수와 무한대의 곱으로 무한대가 되기 때문이다. 또한 갈릴레오는 불가분량의 크기가 0이지만 이들이 모여서 크기가 양수인 연속체가 될 수 있는 이유는 그들의 개수가 ‘무한대’이기 때문이라고 보았다. 이러한 관점은 대화의 다른 장면에서도 등장한다.

무한과 쪼갤 수 없는 것은 그 특성상 이해하기가 힘이 들어. 그러니 그것 둘을 합치면 더욱 어려워. 그러나 쪼갤 수 없는 점들을 갖고 선을 만들려면 점들이 한없이 많이 있어야해(Galileo, 1638, p. 46).

이 시기는 아직 칸토어의 무한집합 이론이 없었기에, 점들로 선분을 구성하기 위해서는 점들 이 비가산개가 있어야 한다는 점을 말할 수 없었다. 그러나 갈릴레오는 두 무한한 대상들의 비교에서 다음과 같이 원소들의 일대일 대응의 방법을 사용함으로써 무한의 현대적인 이론에 가까워진 모습을 보였다.

제곱수들이 전부 몇 개냐고 물으면, 그것들이 자연수 전체와 개수가 같음을 부인할 수 없네. 왜냐하면 모든 자연수는 제곱수의 제곱근이거든……. 제곱수들이 자연수 전체보다도 적다고 말할 수 없고, 자연수 전체가 제곱수보다 많다고 말할 수 없어. 어떤 것들의 개수가 <같다>, <많다>, <적다>는 비교는 개수가 유한한 경우에만 할 수 있고, 무한인 경우에는 이런 말이 아예 성립하지가 않아(Galileo, 1638, pp. 48-49).

이렇게 무한의 크기들이 비교 불가능하다는 논의를 통해 갈릴레오는 ‘길이가 0인 점들이 모여서 서로 다른 길이의 선분을 만들 수 있다’는것을 설명한다.

심플리치오가 선분들의 길이가 제각각일 때 긴 것이 짧은 것보다 더 많은 점들을 포함해야 하지 않느냐고 물었는데, 그 해답은 한 선분이 다른 선분보다 점의 개수가 더 많다, 적다, 같다는 말을 할 수가 없어. 그들은 모두 한없이 많은 점들을 갖고 있을 뿐이야(Galileo, 1638, p. 49).

연속체에 대한 논의에서 갈릴레오는 그리스의 제논이 제시한 ‘다수의 역설’과 유사한 문제들에대해 고심한 흔적을 보인다. 그는 연속체가 무한분할 과정에 의해서 왜 점에 이를 수 없는지, 그리고 길이가 0인 불가분량들이 모여서 어떻게크기가 양수인 선분을 만들 수 있는지를 고민하였다. 그리고 이에 더 나아가서 길이가 0인 점들이 모여서 어떻게 크기가 서로 다른 선분들을 구성하는 것이 가능한지, 무한집합의 크기는 어떻게 비교하는지에 대해 논의하는 등 연속체의논의를 한 걸음 더 진척시킨 모습을 보였다.

갈릴레오와 동시대의 사람이자, ‘불가분량의 방법’을 고안한 것으로 알려진 카발리에리(1598-1647)는 면은 평행한 다수의 선분들이 모여서 구성된 것으로, 입체는 다수의 평행한 면들이 모여서 이루어진 것으로 생각하였다. 그리고면의 불가분량은 선분으로, 입체의 불가분량은 면으로 생각하였다. 카발리에리는 이 구성이 이루어지기 위해서 불가분량들의 수가 무한히 많아야 한다는 것을 인지하였으며, 따라서 갈릴레오가 무한을 설명하면서 겪은 어려움을 피하기 위해 ‘불가분량의 개수’에 의지하지 않는 방법을 고안하고자 하였다. 따라서 카발리에리의 방법에서 특징적인 것은 두 도형의 넓이와 부피를 비교할 때, 각각의 불가분량 사이에 대응을 이용한 것이다. 이 대응을 통해 카발리에리는 불가분량의 개수의 무한의 문제로부터 해방된다고 생각하였다(Bell, 2019, p. 46). 카발리에리의 원리의 아이디어는 다음과 같다.

높이가 같은 두 입체를 밑면에 평행하고 밑면에서 같은 거리에 있는 평면으로 자른 이웃한 두 단면의 넓이 사이에 언제나 어떤 일정한 비가 성립하면 두 입체의 부피에도 똑같은 비가 성립한다.

(Boyer & Merzbach, 1991, p. 536)

카발리에리의 불가분량의 방법은 ‘차원의 감소’라는 성질을 가진다. 입체의 부피를 비교할때 그것보다 한 차원 낮은 평면들을 이용하고, 평면들의 넓이를 비교할 때는 역시 한 차원 낮은 선분들을 이용한다(Bell, 2019, p. 47).7) 즉, 카발리에리는 연속체가 한 차원 더 낮은 것들로부터 구성된다고 생각하였다. 그러나 카발리에리는 어떻게 폭이 없는 선분으로부터 폭을 가진 면을 구성할 수 있는지, 두께가 없는 평면으로부터 두께를 가진 입체가 만들어질 수 있는지에 대한 질문과 비판을 받았다. 카발리에리는 이 질문의 답변에 성공하지 못한 채로, 면과 입체가 불가분량들의 합으로 단순히 구성되는 것이 아닌 ‘불가분량의 흐름’으로 구성되는 것으로 간주였다. 즉 카발리에리는 선분은 점의 움직임으로 면은 선의 움직임으로, 그리고 입체는 면의 움직임으로 생성되는 것으로 생각하였다(Bell, 2019, p. 47).

카발리에리 역시 갈릴레오와 마찬가지로 연속체의 구성과 무한분할과 관련된 그의 수학이론의 정당화에 대해 고심한 것으로 보인다. 그리고 이러한 과정에서 제논이 제시한 ‘다수의 역설’과유사한 논리적 어려움을 겪었다. 그러나 카발리에리는 결국 ‘폭의 길이가 0인 선분들로 폭이 양수인 면을 만들 수 있는가’에 대한 적절한 수학적 설명을 제시하지는 못하였고 연속체를 구성하는 불가분량의 수에 의지하지 않는 방법 즉, 넓이와 부피의 비교에서 ‘불가분량의 대응’의 방법을 사용하는 방식으로 어려움을 피하였다. 또한, 연속체의 구성에서는 ‘불가분량의 흐름’의관점을 사용하기도 하였다.

다. 월리스

17세기 수학에서는 무한소와 불가분량의 개념이 널리 사용되었다. 특히 월리스(1616-1703)는카발리에리가 고안한 불가분량의 방법을 산술화한 것으로 유명하다. 월리스는 또한 무한대를 나타내는 기호 ‘∞’를 소개하였는데, 이는 카발리에리가 피하고자 했던 면을 이루는 무한히 많은불가분량의 개수를 나타내기 위한 것이었다. 카발리에리가 연속체를 구성하는 불가분량이 원래의 연속체보다 한 차원 낮은 것이라고 여긴 반면, 월리스는 불가분량이 연속체와 동종의 것인지 이질적인 것인 지에는 관심이 없었다. 그는 단지 무한히 많은 수의 불가분량들이 원래의 연속체를 나타내기에 충분한 폭이나 두께를 가지면 충분하다고 생각하였다. 즉, 평면은 불가분량으로 구성이 되는데 그 불가분량이 직선인지 평행사변형인지 상관없이 그들이 무한히 많이 모여서 평면을 이루도록 충분한 두께를 가지면 된다는 것이다(Bell, 2019).

예를 들어, 밑변의 길이가 b이고 높이가 a인삼각형의 넓이를 구하는 과정을 생각해보자. 월리스는 삼각형 안에 포함된 선분의 개수를 ∞라고 생각하였다. 이때 무한분할의 결과로 나온 맨아래 선분의 길이는 b이며 맨 위의 선분의 길이는 0이다. 그리고 이 선분의 개수가 ∞개 이므로등차수열의 합의 공식에 의해 모든 선분들의 길이의 합은 b×2가 된다. 그리고 삼각형의 높이가 a이고 이것을 ∞만큼 분할하였으므로 각 선분들의 높이는 a=a×1가 된다. 즉, 모든 선분들의 넓이의 합은 a×b×2=ab2이며 이것이 바로 삼각형의 넓이가 된다(Bell, 2019, p. 53). 월리스는 무한히 작은 양을 대담하게 사용하면서 1을 ‘무한히 작은 양, 또는 non-quanta(무량)’이라고 불렀다.(Boyer, 1949, p. 194)

Figure 4. Derivation of the area formula for a triangle of Wallis (Bell, 2019, p. 53)

라. 뉴턴과 라이프니츠

‘유율 미적분학’의 발명가로 알려진 뉴턴(1642-1727)은 자연현상을 “움직임의 일반적 법칙으로 환원”하고자 하였다(Cassirer, 1984, p. 381). 뉴턴은 양이 불가분량으로 구성된 것이 아닌 움직임에 의해 생성된 것으로 생각하면서 양을 유량(fluent)으로, 유량에 의해 생성된 비율을유율(fluxion)로 언급하였다. 이렇게 움직임의 개념을 합법화하는 것은 뉴턴의 유율 이론의 주된 목적 중 하나였다(Cassirer, 1984, p. 382).

수학적 양에 대해 나는 여기에서 불가분량이나,가능한 최소의 부분들 또는 무한히 작은 것들로 구성된 것으로 보지 않고, 연속적인 움직임으로 기술된 것으로 간주한다. 선은 부분들의 병렬을 통해서가 아니라 점들의 연속적임 움직임을 통해서 생성되는 것으로 묘사된다. 그리고 표면은 선들의 움직임을 통해, 입체는 면의 움직임을 통해서, 각들은 변들의 회전을 통해서, 시간은 연속적인 흐름을 통해서, 다른 경우에서도 마찬가지다. 이 생성은 물리적 세계에서 일어나고, 우리의 눈앞에서 보이는 물체들의 움직임에서 매일 발생한다(Newton, 1703, p. 107).

뉴턴은 물체의 모든 입자들이 이론적으로는 분할가능하다고 생각했지만 이러한 이론적 무한분할 가능성을 물리적 분할가능성과는 분리하였다.

물체를 쪼개 인접한 알갱이들을 서로 갈라놓을 수 있음을 관찰을 통해서 알 수 있다. 그리고 쪼개지 않은 알갱이도, 우리 마음속으로는 더 작은 부분들로 가를 수 있으며, 수학적으로 보일 수 있다. 이렇게 갈랐지만, 실제로는 아직 쪼개지 않은 알갱이를, 자연의 힘으로 실제로 쪼개서 떼어 놓은 것이 가능한지, 우리는 확언할 수 없다……. 쪼갠 알갱이들은 물론이고 쪼개지 않은 알갱이들도 실제로 한없이 쪼갤 수 있다고 결론을 내릴 수 있다. (Newton, 1687/1999, p. 3, 강조는 연구자가 한 것임)

뉴턴은 무한한 분할의 결과 무한소적 입자에 도달한다고 생각하지 않았다. 또 뉴턴은 만약 그가 “어떤 원소들로 구성된 양”을 다루더라도 “무한히 작은 것을 사용하고 있다고 생각하지말고, 한없이 작아지는, 쪼갤 수 있는 양을 사용하는 것”으로 봐야 한다고 하면서 “정해진 부분의 합과 비율이 아니라, 항상 합과 비율의 극한” 으로서 생각할 것을 강조하였다(Newton, 1687/1998, p. 53) 이 구문은 뉴턴의 연속체의 무한분할에 대한 생각을 나타내며, 동시에 양들을합의 극한으로서 보는 현대적인 리만합의 관점을 보여준다.

뉴턴은 그의 미적분학 이론에서 “아르키메데스, 갈릴레오, 카발리에리, 그리고 배로”와 같이운동적인 관점을 택하였다(Boyer, 1949, p. 221). 뉴턴은 역동적인 자연 현상을 수학적으로 설명하고자 하였으며 따라서 움직임은 단지 물리적 현상만이 아닌 수학의 대상이 되었다. 따라서 뉴턴의 이론에서 선들은 점들의 움직임으로 면들은 선들의 움직임으로 표현되었다. 그러나 뉴턴은 여전히 그의 미적분 이론에서 연속체의 무한분할과 구성에 대해 정당화할 필요를 느끼고 어떤 원소들로 이루어진 양을 다룰 때 무한히 작은 것들 즉 무한소 양들의 합이 아닌 ‘더 분할될수 있는 양들의 합의 극한’으로 설명하였다.

뉴턴과 함께 미적분학을 발명한 것으로 알려진 라이프니츠(1646-1716)는 연속체의 구성에 관한 문제를 심각하게 생각하였고 이것을 ‘연속체의 미로’라고 불렀다(Bell, 2019, p. 62).

라이프니츠는 선은 부분으로 분할될 수 있기 때문에 선은 단일체(unity)가 아닌, 단일체의 합으로 생각하였다. 하지만 이 단일체는 점은 될수 없으며 점은 연속체의 끝이라고만 생각하였다(Bell, 2019, p. 62). 따라서 연속체는 단일한 개체가 될 수 없으며, 점들의 합도 아니다. 라이프니츠는 연속체를 실제 개체가 아닌, 이상적 양이라고 생각하였다(Bell, 2019, p. 62).

라이프니츠의 곡선에 대한 설명은 이상적 양으로서의 연속체의 관점을 잘 보여준다. 라이프니츠는 곡선을 “무한개의 변을 가진 다각형” 혹은 infinitangular polygon과 같은 것이라고 하면서, 곡선의 접선을 바로 그 infinitangular polygon의 무한히 작은 변을 연장한 직선으로서 생각하였다. 이처럼 라이프니츠는 무한히 작은 양인 무한소를 미적분학을 전개하는데 자유롭게 사용하였다. 라이프니츠의 이러한 추론을 정당화한 것은 ‘연속성의 원리’였다. ‘연속성의 원리’에 의해 “정지는 움직임과 같은 것으로, 원은 무한히 많은 변을 가진 정다각형으로서” 생각할 수 있었다(Leibniz, 1702).

라이프니츠는 연속체의 무한분할에 대해서는 다음과 같이 주장하였다.

연속체는 무한분할가능하다. 그리고 직선에서도 이 무한분할의 성질이 나타난다. 그것의 부분이전체와 유사하다는 사실로부터. 따라서 전체가 분할 가능할 때, 그 부분들도 분할가능하며, 그리고 유사하게 부분의 부분 역시 무한분할 가능하다(Bell, 2019, p. 65에서 재인용).

내가 물질을 (실제로 절단되지 않은) 부분이 없는 것으로 인지한다 할지라도, 우리는 그러나 분할할 수 없는 원소, 또는 가장 작은 부분으로 도달할 수 없다. 심지어 무한한 원소조차 아니고(not even infinitely elements), 오직 끊임없이 더 작아지고 그리고 아직은 보통의 것이다(Horváth, 1986, p. 65에서 재인용).

라이프니츠는 무한한 분할을 통해서 연속체를 구성하는 가장 작은 원소에 도달할 수 없으며, 무한 분할의 과정은 끊임없이 계속될 수 있다는 관점을 보였다. 이러한 연속체의 분할 과정은 라이프니츠의 적분 과정에서 사용된다.

라이프니츠는 적분과 미분이 서로 역의 관계라는 것을 보일 때, 곡선의 적분 값을 결정하면서 무한히 작은 양들의 무한히 많은 합을 시도해야하는 곤란한 상황에 처했다. 이때 라이프니츠가 어려움을 벗어난 방법은 ‘연속성의 원리’를이용하는 것이었다. 라이프니츠는 x축을 유한하게 분할한 경우에 성립하는 식을 ‘연속성의 원리’에 의해 무한의 경우로 확장하여 적분과 미분이 서로 역의 관계라는 것을 보였다(Bell, 2019, pp. 68-69). 라이프니츠는 ‘연속성의 원리’라는 형이상학적 원리를 적용하면서 정적분의 정당화를 위한 설명을 제시하면서 동시에 무한히 작은 양을 무한히 많이 더하는 문제로부터 해방되었다. 비록 완전한 정당화에는 이르지 못했지만 유한의 사례에 대한 확장으로서 적분을 생각한 것으로, 적분 이론에서 현대적인 리만합의 극한으로 가까워진 모습을 보였다.

미적분학의 발명가로 알려진 라이프니츠와 뉴턴은 곡선에 대한 관점과 무한소에 대한 관점에서 차이를 보인다. 그러나 두 학자는 연속체의 크기를 그것의 부분들의 크기로부터 추론하고자할 때 유사한 사고양식을 보였다. 그들은 모두유한한 경우의 추론을 무한의 경우에 적용함으로써 무한히 작은 양들을 무한히 많이 더하는 문제에서 해방8)되었다.

3. 19세기 데데킨트와 칸토어의 실수 이론

데데킨트는 기하학적 직관을 배제하고 산술에만 의지하여 극한 개념의 엄밀성을 확보하고자 하였다. 그는 유리수가 가진 성질이 기하학적인 연속과 어떤 점이 다른지를 고민하였다. 과거 라이프니츠와 갈릴레오는 연속성을 ‘조밀성’으로 파악하였다. 그러나 데데킨트는 관점을 달리하여 연속성이 조밀성 즉, ‘두 점들 사이에 반드시 또다른 점이 있다’는 명제로 보존되는 것이 아닌 정반대의 성질 즉, ‘직선은 한 점에 의해 반드시두 부분으로 나누어진다’는 사실에 의해 얻어진다고 생각하였다. 데데킨트는 이를 통해 수를 정의함으로써 실수의 연속성을 성취하였다(Boyer & Merzbach, 1991, p. 917).

만약 직선 위의 모든 점이 두 부분으로 나누어진다고 하자. 이때, 한 class는 두 번째 class의 모든 점보다 왼쪽에 있다. 그러면 모든 점을 두 개의 class로 나누는 이 분할을 생성하는 점은 유일하게 존재한다.

(Błaszczyk, Katz, & Sherry, 2012, p. 59 재인용)

데데킨트는 “이 평범한 의견으로 연속성의 비밀은 해명될 것”이라고 하였다. 그리고 “칸토어-데데킨트의 공리-직선 위의 점은 실수와 일대일대응시킬 수 있다”에 의해 실수집합은 유리수집합으로부터 확장되었으며 연속성을 갖게 되었다(Boyer & Merzbach, 1991, p. 917).

데데킨트는 또한 1872년에 저술한 ‘연속성과무리수’에서 다음과 같이 무한집합의 정의를 엄밀하게 제시하였다.

체계 S가 자신의 일부분과 서로 닮았을 때 무한이라고 하고 그렇지 않은 경우에 S를 유한 체계라고 한다.

(Boyer & Merzbach, 1991, p. 920에서 재인용)

칸토어는 이에 더하여 모든 무한집합이 반드시 동일하지 않다는 사실까지 나아갔다. 칸토어는 집합의 ‘농도’를 이용하여 무한집합을 단계적으로 분류할 수 있음을 제시하였다. 특히 그는대각선 논법을 사용하여 유리수 집합에 포함되지 않는 또 다른 수가 있음을 증명함으로써, 실수가 비가산 개임을 보였다(Boyer & Merzbach, 1991, pp. 921-922).

데데킨트와 칸토어의 업적에 의해 직선은 실수 집합과 일대일 대응을 이루게 되었으며, 직선위에 존재하는 점 전체의 개수는 실수 전체의 개수와 같게 되었다. 이로써 점이 모여 직선이될 때 그 점의 개수는 실수 전체의 개수 즉, 비가산 개이고 농도는 ℵ1과 같다는 사실이 확립되었다. 그리고 자연히 폭이 없는 선들이 모여평면도형을 구성 하는 경우도 마찬가지로 선들이 비가산개일 때 가능하다는 사실이 성립되었다. 즉, 선분들이 모여 직사각형을 구성할 때 그선분들의 개수는 실수 전체의 개수인 비가산 개가 되며 농도는 ℵ1이 된다.

이와 더불어 연속체의 무한분할 역시 실수집합의 관점에서 이해되었다. 직선을 분할한다는 의미는 직선과 동형인 실수 집합을 두 개의 집합으로 분할한다는 의미와 같게 되었다. 칸토어-데데킨트의 공리를 통해 직선의 구성과 무한분할에 대한 오랜 질문에 대한 실마리를 얻은 것이다. 물론 아직 질문은 더 남아 있다. 그렇다면 길이가 0인 점들이 모이면 0+0+0+…이 되는데, 어떻게 양수의 선분의 길이가 가능한 것일까? 또한 직선을 무한분할 하면 크기가 없는 점이 될 것인가? 이러한 질문에 대해서는 추가적으로 수학적 분석이 필요하며 이는 Ⅲ장에서 논의한다.

4. 역사적 분석의 결과

역사적 분석을 통해 고대 그리스 시대부터 칸토어와 데데킨트의 실수이론이 확립되기까지 연속체의 구성과 무한분할에 대해 수학자들이 오랫동안 고심한 것을 알 수 있었다. 그리고 오랜 세월을 거쳐 이산적인 양으로 여겨졌던 수와 연속적인 양으로 여겨졌던 기하학적 직선은 19세기 칸토어-데데킨트 공리를 통해 동형을 이루게되었고 연속체의 구성과 무한분할이 실수집합의 입장에서 설명되었다. 역사적 분석의 결과는 다음의 세 가지로 정리할 수 있다.

첫째, 연속체의 현대적 이론이 확립되기까지, 연속체의 구성과 무한분할에서 수학자들은 제논이 제기한 ‘다수의 역설’과 관련된 문제에 부딪쳤으며 이를 해결하기 위해 노력하였다. 물론 수학자들이 제논이나 ‘다수의 역설’이라는 표현을 직접적으로 언급한 것은 아니지만, 그들은 ‘연속체를 구성하는 요소가 무엇인지’, ‘크기가 없는점들이 모여서 어떻게 양수의 크기를 갖는 직선이 될 수 있는지’ 혹은 ‘크기가 양수인 점들이모여서 어떻게 유한한 크기의 직선을 갖게 되었는지’, ‘연속체를 무한히 분할하면 불가분량이될 수 있는지’와 같은 문제의 어려움을 인식하고 해결하고자 하였다.

이 과정에서 갈릴레오는 점들은 크기가 없지만 점들의 개수가 무한개이기 때문에 점들이 선분을 구성할 수 있는 것이라는 아직은 불완전한 답을 제시하였다. 또한 크기가 없는 점들이 모여서 어떻게 서로 다른 크기를 가진 선분이 될 수 있는지에 대해서도 점들의 개수가 무한이고 이들 사이에서는 어느 것이 많고 적음을 말할 수 없다고 설명하였다.

카발리에리는 연속체가 불가분량으로 구성된 것으로 생각하였지만, 역시 ‘크기가 없는 불가분량으로 어떻게 양수의 크기를 갖는 연속체를 만드는가?’ 적절한 답변을 제시하지 않았으며 ‘불가분량의 흐름’의 개념을 사용하기도 하였다. 또한 연속체의 난제를 우회하기 위해 입체의 부피를 불가분량의 크기의 합으로 보는 대신에, 두입체의 부피를 비교할 때 대응하는 각각의 불가분량들을 비교하는 방식을 택하기도 하였다.

월리스는 연속체를 구성하는 불가분량의 수가 무한히 많다는 것을 나타내기 위해 ∞의 기호를 도입하였으며, ∞의 개수로 높이가 a인 연속체를 분할하면 그 폭은 a/∞가 된다고 하면서 ∞ 를 산술에서 자유롭게 사용하였다.

뉴턴과 라이프니츠는 그들의 미적분학 이론에서 유사한 고민을 하였다. 뉴턴은 어떤 원소들로구성된 양을 다룰 때, 무한히 작은 양들의 합이 아닌 ‘쪼갤 수 있는 양들의 합의 극한’ 즉, ‘유한한 양의 극한’을 사용할 것을 제시하였다. 그리고 라이프니츠는 ‘연속성의 원리’를 통해 유한한영역에서 성립하는 사실이 무한의 영역에서도 성립하는 것으로 그의 정적분의 계산을 정당화하였다.

이들은 모두 연속체를 구성하는 성분들이 무한히 많을 때 연속체가 양수의 크기를 갖게 되는 문제와 연속체의 무한분할 결과에 대해 다양한 수학적 설명방식을 제시하였음을 볼 수 있다. 즉, 연속체의 구성과 무한분할은 수학자들이 해결하고자 하였던 난제였으며, 이에 대한 타당한 설명을 제공하기 위해 수학의 여러 이론들이 발달하기도 하였다.

둘째, 연속체의 구성과 무한분할에 대한 설명에서 무한소 개념의 사용이 다수 보였다. 그리스시대에 유클리드가 원론의 Ⅴ권 정의 5번을 통해서 무한소 크기를 그의 수학이론에서 제외하였지만, 연속체와 관련하여 무한소는 끊임없이등장하는 소재였다. 이는 또한 제논의 ‘다수의 역설’과 무관하지 않다. 크기가 0인 것들을 무한히 더하면 크기가 0이 되고, 크기가 양수인 것을 무한히 더하면 크기가 무한대가 된다는 패러독스가 0보다는 크지만 임의의 양수보다는 작은수의 관념으로 이끌었던 것이다.

특히 케플러는 원을 무한히 많은 이등변 삼각형으로 나누어 원의 넓이를 구하는 방식을 사용하였으며, 구를 무한히 많은 원뿔로 나누어 구의부피를 구하였다. 이 과정에서 원은 이등변 삼각형으로 그리고 구는 원뿔들의 무한히 작은 불가분량으로 구성된다고 생각하였다. 월리스 역시어떤 크기 a를 무한히 많은 수 ∞로 나눈 양 a/∞의 개념을 사용하였고, 라이프니츠는 무한소적 개념에 의지하여 그의 미적분학 이론을 전개하였다. 물론 무한소는 수학적 대상으로서의정당성을 끊임없이 의심받았으며 19세기 해석학의 산술화와 함께 수학의 이론에서 배제되었지만 그 전까지 연속체 개념의 발달과정에서 불가분량과 함께 자주 등장하였다.

셋째, 연속체의 구성과 무한분할에 대한 타당한 설명은 기하학적인 점과 직선만으로는 가능하지 않았으며, 직선과 실수의 일대일 대응이 이루어진 칸토어-데데킨트 공리가 제시된 후에 가능하였다. 초기에 연속체의 구성과 무한분할의 어려움은 기하학적인 질문이었다. 그러나 그리스시대부터 제시된 이 난제는 칸토어와 데데킨트의 업적에 의해 기하학적인 직선과 실수 집합이 동형을 이루게 됨으로써 설명이 가능해졌다. 칸토어-데데킨트 공리로 점들이 모여서 직선을 구성할 때, 그 직선을 이루는 점의 개수는 비가산개라는 사실이 확립되었다. 그리고 자연히 폭이없는 선들이 모여 평면도형을 구성할 때도 마찬가지로 그 폭이 없는 선분들은 비가산 개가 되며 농도는 와 같게 된다는 것이 알려졌다. 이와 더불어 연속체의 무한분할 역시 실수집합의 관점에서 이해될 수 있게 되었다. 직선을 분할한다는 의미는 직선과 동형인 실수 집합을 두 개의 겹치지 않는 집합들로 분할한다는 의미와 같게 되었다. 즉, 기하학적인 직선의 혹은 기하학적인 연속체의 구성과 무한분할의 의문은 원래 산술과 독립적으로 제시되었지만, 그 설명은 실수 이론에 의지하여 이루어지게 된 것이다.

III. 연속체의 구성과 무한분할에 대한 수학적 분석

그리스 시대에 제논은 ‘다수의 역설’을 제시함으로써 연속체의 구성과 무한분할에 대한 질문을 제기하였다. 이 질문은 ‘연속체의 무한분할결과는 궁극적 요소가 될 수 있는지’, ‘크기가 0인 성분들로 어떻게 양수의 크기를 가진 연속체가 구성될 수 있는지’ 또는 ‘크기가 양수인 성분들로 어떻게 크기가 양수이면서 유한한 연속체가 구성될 수 있는지’의 의문이다. 역사적 고찰결과 수학자들은 연속체와 관련하여 제논의 ‘다수의 역설’의 문제에 끊임없이 부딪혔음을 알수 있었다. 이 역설에 대한 수학적으로 만족할만한 답변은 데데킨트와 칸토어의 실수 연속체이론과 르벡의 측도이론이 확립된 후에 제시될수 있었다. 본 장에서는 19~20세기에 수학자들이연속체의 구성과 무한분할의 난제를 어떻게 극복하고 연속체의 이론을 안전한 수학영역 안에안착시켰는지에 대해 논의한다. 길이가 0인 점들로부터 연속체를 구성하는 것을 어떻게 정당화했는지, 즉 길이가 없는 이산적인 개체들인 점들로부터 연속체인 길이를 가진 직선을 구성하는 것을 어떠한 방식으로 정당화했는지를 논의한다. 또한 직선이나 곡선이 점으로 구성되어 있음에도 불구하고 이들을 무한분할 하면 왜 점이 되지 않는지, 또 선으로 구성된 평면을 무한분할하면 왜 선분이 되지 않는지에 대해 현대 수학의 이론으로 분석한다.

1. 측도이론과 연속체의 구성

곡선 또는 선분의 길이는 집합의 농도와 유사하며 서로 밀접한 관련이 있다는 인상을 준다. 따라서 먼저 선분의 길이는 집합의 농도의 함수가 아님을 보이자. 가장 단순한 예는 실수 직선과 그 부분집합 [0, 1]이 동일한 농도를 갖는다는 것이다. 따라서 더 긴 것이 더 많은 점들을갖는 것은 아니다. 뿐만 아니라 칸토어의 ternary집합은 불연속이지만 연속체의 기수를 갖고 동시에 길이는 0을 갖는 집합이다. 이 두 가지 예는 길이가 집합의 농도의 함수가 아님을 보여준다(Grünbaum, 1952).

그렇다면 곡선의 길이는 어떠한 성질을 가지는지, 집합의 농도와는 어떤 관련이 있는지 논의하기 위해 측도 이론을 먼저 살펴보자. 현대의측도 이론은 르벡에 의해 정립되었다. 르벡은 19세기 널리 받아들여진 리만 적분이 적분가능성에서 함수의 불연속점에 영향을 받기 때문에(Boyer & Merzbach, 1991, p. 1006) 적용할 수 있는 경우가 많지 않음을 알게 되었다. 리만 적분의 기본적 발상은 주어진 함수의 그래프와 x축 사이의 넓이를 구하기 위해 x축을 분할한 후 각 부분구간 위에서 주어진 영역과 근사한 직사각형의 넓이를 구하고 이들을 더하여 극한을 취하는 것이다. 이때 넓이의 합의 극한값이 존재하기위해서는 작은 구간 위에서 함수 값이 존재하는 범위가 작아야 하고 따라서 함수의 연속성에 의존하게 된다(Kim & Kye, 1999, p. 1).

19세기 말에 리만 적분보다 더 많은 함수에 적용가능하고, 극한과정을 더 편리하게 다룰 수있는 대안적인 적분 개념이 필요하다는 생각이 대두되었고 조르단, 보렐, W. H. 영과 르벡과 같은 수학자들이 새로운 적분의 정의를 시도를 하였다(Rudin, 1987, p. 5). 르벡은 함수의 그래프와x축 사이의 면적을 잴 때, x축을 분할하는 리만적분과 달리 y축을 분할하여 극한을 취하는 것을 제안하였다. 르벡의 방법이 가진 최대 장점은 적분가능성을 생각할 때 함수의 연속성에 영향 받지 않으며 따라서 더 많은 함수의 적분을 생각할 수 있다는 것이었다(Kim, Kim, & Kye, 2002, p. 295). 이러한 관점에서 리만의 적분이론으로부터 르벡의 이론으로의 전환 과정은 적분의 완비과정으로 평가받고 있다(Rudin, 1987, p. 6).

르벡은 새로운 적분 이론을 위해 먼저 집합의 ‘길이’의 개념을 정립해야 했다(Kim et al., 2002, p. 295). 르벡은 그 당시 발달된 집합의 중요한 성질들을 포함하도록 길이를 정의하였다. 측정가능한 집합의 가산 개의 합집합 또는 교집합이측정 가능하며, 모든 측정 가능한 집합의 여집합도 측정 가능하도록 길이를 정의하였고, 이에 따라 르벡의 측도 즉, 길이는 다음과 같이 가산 합(countable additivity)을 중요한 성질로 갖게 되었다(Rudin, 1987, p. 5).

함수 μLebesgue 측도일 때, 함수 μ:M?*와 서로소인 셀 수 있는 집합의 모임 {En:n=1,2,?}에 대해 다음이 성립한다.

μ n=1En= n=1μEn (kim et al., 2002, pp. 298-301)

즉, 르벡 측도 함수의 특징에 의하면, 측정 가능한 어떤 집합이 교집합을 갖지 않는 가산 개의 부분 집합으로 분할될 때 전체 측도는 그 부분 집합의 측도들의 합이 된다. 그리고 동시에어떤 집합을 공통부분이 없는 비가산개의 부분집합으로 나눌 때는, 전체 집합의 측도가 부분집합들의 측도의 합이라고 말할 수 없다.

학교수학에서 다루는 공간은 유클리드 공간이며 여러 가지 도형들은 n차원 유클리드 공간에존재하고 측정 가능한 집합을 이룬다. 그리고 유클리드 n차원 공간은 르벡 측도의 성질을 만족하는 다음과 같은 길이 함수를 가진다.

1. n-차원의 유클리드의 공간 En의 점과 특정한실수 좌표 체계 (x1,x2,x3,?,xn) 사이에는 1대1 대응이 존재한다.

2. 점 x,y가 좌표 xi,yi를 갖는다면, (유클리드적)거리라 불리는 다음과 같은 실함수 d(x,y)가 존재한다.

d(x,y)=1nxiyi21/2 (Grünbaum, 1952, p. 296)

르벡의 측도의 정의에 의해 길이 함수 d(x,y)는 가산 합의 성질을 가진다.

이제 ‘a’와 ‘b’를 어떤 구간의 끝점이라고 하자. 이 구간이 닫힌구간인지, 열린구간인지 혹은반 열린구간인지에 관계없이 이 구간의 길이는 ba가 된다. 그리고 만약 a=b이면, 구간axb 는 ‘degenerate’ 구간이라고 부른다. 이때 degenerate 구간은 한 점 x=a만을 포함하는 집합이 되며 길이는 0이 된다. 즉, 한 점으로이루어진 집합은 0의 길이를 가진다(Grünbaum, 1952).

제논의 ‘다수의 역설’은 degenerate 구간의 합집합으로 이루어진 유한한 구간의 길이가, degenerate의 구간의 길이가 0임에도 불구하고어떻게 양수가 될 수 있는지에 대해 질문하고 있다.9) 어떤 양수의 길이를 갖는 구간을 (a,b)라하고(ab), 구간 (a,b)가 한 점으로 이루어진집합들 즉, degenerate 부분구간들의 합집합이라하자. 구간 (a,b)는 연속체의 기수를 가지며, 셀수 없을 만큼 많은 실수로 구성되므로, (a,b)를구성하는 한 점 집합들인 degenerate 구간은 셀수 없을 만큼 많다.

그런데 측도 이론에 의하면, 구간이 서로소인가산 개의 부분구간으로 분할될 때는 μ(E)=μ(E1)+μ(E2)+μ(E3)+?이 성립하지만, 비가산 개일 때는 부분구간의 길이의 합으로전체 구간의 길이를 결정할 수 없다. 따라서 구간 (a,b)는 degenerate 부분구간의 합집합임에도 불구하고, 전체 구간의 길이를 degenerate 부분구간들(0의 길이를 갖는 한 점 집합들)의 길이를 ‘더함’으로써 결정할 수 없다(Grünbaum, 1952).

즉, 현대 수학의 측도 이론 의하면 제논의 ‘다수의 역설’이 말하고 있는 ‘0을 아무리 많이 더해도 0 밖에 얻을 수가 없다’는 모순은 발생하지않는다. 측도 이론에 의하면 부분들이 가산 개일때에만 전체 길이를 부분들의 길이의 합으로 구할 수 있다. 즉, ‘0의 크기를 가진 집합들이 가산개일 경우에는 전체의 길이는 0’이 되지만, ‘0의 크기를 가진 집합이 비가산일 경우에 전체의 길이는 그 비가산 개의 부분들의 길이의 합으로 구할 수 없다.’ 따라서 0의 길이를 가진 degenerate 구간이 셀 수 없을 만큼 많은 경우 전체 길이가 양수가 되는 것은 수학적으로 모순이 아니다. 그러므로 그리스 시대의 제논이 제시한역설은 칸토어의 무한집합 이론과 현대 수학의 측도 이론에 의해 반박되며, 따라서 이산적인 개체들인 점들이 무한히(특히 비가산 개만큼 무한히) 많이 모여서 연속적인 선분을 만드는 것은수학 이론 안에서 안전하게 보호된다.

2. 연속체의 무한분할

수학사에서 오랫동안 제기된 질문 중 하나는 ‘연속체의 무한분할의 결과 과연 점들로 분해될것인가’이다. 그리스 시대 제논의 ‘다수의 역설’ 역시 연속체의 ‘무한분할 결과 마지막 항에 도달할 수 있을 뿐만 아니라, 그 결과 수학적인 점특히 0의 길이를 갖는 것(zero extension)에 도달할 수 있다’는 가정을 함축하고 있다(Grünbaum, 1952).

데데킨트와 칸토어에 의해 정의된 실수 연속체는 실수 점들의 집합이다. 따라서 이 실수 연속체의 분할은 역시 겹치지 않은 두 개의 실수 집합들로의 분할이 된다. 그리고 이 분할된 실수집합들은 직선 위의 점 집합에 대응된다. 따라서 Grünbaum(1951)은 데데킨트와 칸토어의 실수 이론에 기초한 연속체의 무한분할은 어떤 연속적인 직선에서 틈이 보이도록 자르는 것이 아니라, 겹치지 않는 부분구간을 만드는 것을 의미하며 다음의 조건을 만족하는 것으로 보았다.

1. degenerate 구간(한 점으로 이루어진 집합)은분할의 목적을 위한 구간의 부분구간이 될 수없다.

2. 공집합은 임의의 구간의 부분구간이 아니다.

3. 유한개의 점으로 이루어진 집합과 degenerate구간의 경우, 분할은 공집합이 아닌 진부분집합의 형성을 의미한다.

(Grünbaum, 1951, p. 76).

이와 같은 관점에 의해 구간을 분할하는 경우에 대해 Grünbaum(1951, p. 59, p. 76)은 칸토어의 정리 “만약 구간을 겹치지 않는 부분구간으로 나누면 우리는 기껏해야 ℵ0개의 부분구간을 얻을 수 있다”를 제시한다. 즉, ℵ1의 기수를 갖는 연속체를 무한분할하면 우리는 ℵ0개의 부분구간 얻게 되며 무한분할의 결과 궁극적 요소인 한 점 집합들이 생성되며 끝나는 것은 적절하지 않는다는 것이다.

뿐만 아니라 Grünbaum(1951, p. 77)은 분할은 일종의 조작임을 제시하였다. 분할이라는 것은 조작의 행위이기 때문에 셀 수 있을 만큼, 즉 가산 번 분할할 수 있고, 각각의 분할결과 각 시행에 따른 부분구간들을 얻을 수는 있지만 구간이 점들로 분할되는 일은 일어나지 않는다는 것이다.

3. 수학적 분석의 결과

본 장에서는 실수 집합과 동형인 연속체의 구성과 무한분할에 대해 수학적으로 분석하여 두 가지 결론을 얻었다. 첫째, 연속체의 구성에 대한 수학적 설명은 실수의 비가산성과 르벡의 측도 이론에 의지함을 보였다. 르벡은 측도 가능한함수의 성질로 가산합(countable additivity)을 제시하였다. 따라서 실수 구간 [a,b]의 길이는 구간에 속한 모든 점들의 길이의 합으로 구할 수 없다. 한 점으로 구성된 집합은 비가산 개이고 측도함수는 가산성의 성질을 갖기 때문이다. 따라서 실수의 비가산성과 르벡 측도의 가산합의 성질에 의해 실수 직선과 동형인 연속체는 ‘0의 크기를 갖는 점들이 모이면 0+0+0+…이 되는데, 양수의 길이를 갖는 연속체의 크기가 어떻게 나올 수 있는지’의 패러독스로부터 보호된다.

둘째, 길이가 양수인 선분을 무한히 분할하면 언젠가는 길이가 0인 점이 되는가?의 질문에 대해 수학적인 답을 하였다. Grünbaum가 제시한직선의 분할의 조건과 칸토어의 정리에 의하면 ℵ1의 기수를 갖는 연속체를 겹치지 않는 구간들로 무한분할 하더라도 최대 ℵ0개의 부분구간을 얻을 수밖에 없으며 무한분할의 결과 궁극적 요소인 한 점 집합들이 생성되며 끝나는 설명은 적절하지 않고 그러한 일은 발생하지 않는다.

IV. 학교수학에서 연속체의 구성과 무한분할

연속체의 구성과 무한분할의 관점에서 수학사를 간략히 살펴본 결과 수학자들은 수세기에 걸쳐 제논이 제기한 ‘다수의 역설’과 관련된 어려움을 겪었고 이 패러독스는 무한소의 개념과 관련이 있음을 알 수 있었다. 과거 칸토어와 데데킨트의 실수 이론과 르벡의 측도 이론이 없던 시절에는 ‘직선이 점으로 이루어졌음에도 불구하고’ ‘직선의 길이를 왜 점들의 크기를 더함으로써 얻을 수 없는지’, 그리고 ‘직선을 무한분할한 결과 왜 다시 점이 되지 않는지’에 대해 설명할 수 없었다.

역사적으로 수학자들이 고민하였던 이 문제는 학교수학과도 무관하지 않다. 학교수학의 도형들인 선, 면은 연속체이고 선은 점으로, 면은 선으로 구성된다. 그리고 선과 면은 연속체의 성질인 무한분할의 성질을 갖고 이 분할 가능성을 이용하여 학교수학에서는 곡선의 길이나 평면 도형의 넓이를 구하기 때문이다.

2015 개정 수학과 교육과정에서 원의 넓이를구하는 과정을 살펴보자. 초등학교 6학년 교과서는 Figure 5와 같이 ‘원을 한없이 잘라서 이어 붙임으로써 직사각형을 만들어서’ 원의 넓이를구하고 있다. 정적분을 사용할 수 없는 초등학생의 인지적인 수준을 고려하여, 원의 넓이를 어린학생들이 직관적으로 받아들일 수 있는 이해하기 쉬운 형태로 제시한 것이다.

Figure 5. The area of the circle (Ministry of Education, 2018, pp. 100-101)

그러나 이러한 과정에서 ‘원을 직사각형 형태로 만들 때 원을 무한히 잘라 나온 이등변 삼각형의 밑변은 무엇인지’와 같은 질문이 제기된다. 르벡의 측도이론이나 실수의 비가산성에 대한 배경지식이 없는 상황에서는 삼각형의 밑변의 길이가 0이라면, 원의 둘레의 길이는 0+0+0+0+…으로 0이 된다고 생각할 수 있다. 또한, 삼각형의 밑변의 길이가 양수 a이면, 원의 둘레는 a를 무한히 많이 더한 것과 같으므로 무한대가 된다고 생각할 수도 있다. 따라서 우리는 이등변삼각형의 밑변의 길이가 0이 될 수도 또한 양의실수가 될 수도 없는 모순된 입장에 처하게 되며 이로부터 임의의 양수보다 작은 무한소 관념으로 이끌어지게 된다(Jesseph, 1989).

뿐만 아니라 원의 넓이를 구하는 이 과정은 무한소와 불가분량을 자유롭게 사용하였던 케플러의 방식이다. 역사적 고찰에서 보았듯이 케플러는 연속체를 불가분량들이 모여서 구성된 것으로, 불가분량은 무한소의 크기를 갖는 것으로생각하였다. 물론 원의 넓이를 구하는 이 방식은 에우독소스의 소진법이나 정적분의 형식적인 방식으로 정당화될 수 있다. 그러나 무한소와 불가분량을 자유롭게 사용하였고 또한 무한소에 의지했던 케플러가 고안한 것으로 볼 때, 이 방식과 무한소 관념과의 관련성을 배제하기 어렵다.

연속체의 분할가능성은 정적분과도 밀접한 관련이 있다. 연속함수의 그래프와 x축 사이의 넓이는 Figure 6과 같이 영역을 x축과 수직인 방향으로 n개로 분할하여 각 구간에서 직사각형들의 넓이를 구한 후 그들의 합의 극한인 리만합의 극한으로 구한다. 즉, 정적분은 점, 선, 면들의 합으로 정의되지 않으며, 수열의 극한으로 정의된다(Boyer, 1949, p. 59).

Figure 6. The limit of the Riemann sum (Lee, Choi, Kim, Jun, Jang, Song, et al., 2018, p. 167)

이 리만합의 극한에 대해 Jung & Kang(2008)은 학생들이 무한소 관점에서 이해하는 것을 선호한다고 하였으며, Shin(2009)은 학생들이 무한히 많은 선분들의 넓이의 합 또는 폭이 무한히 작은 직사각형의 넓이의 합으로 생각하는 경향이 있음을 말하였다. Czarnocha et al.(2001)의 연구도 학생들이 평면도형을 무한분할하면, ‘폭이없는 사각형’들이 되거나 ‘사각형이 무한히 작아져서 직선이 된다’고 표현하는 것을 보고 하였다. 또한 Schneider는 [0, 1]에서 곡선 y=x3x축 사이의 넓이를 구하는 문제에서 몇몇 학생들이 넓이 m에 대해 12n+1n24<m<1+2n+1n24이므로 1/4이 m에 대한 적절한 근삿값이라는 것에는 동의함에도 불구하고, n이 크면 직사각형들은 선이되고, 선들의 면적은 0이므로 이들의 합은 0이된다는 관점을 보이는 것을 보고하였다(Job & Schneider, 2014 재인용). 즉, 정적분에서 학생들은 무한소의 관점 또는 제논의 ‘다수의 패러독스’의 관점을 보였다.

연속체에 대한 역사적 분석은 이러한 학생들의 생각이 역사적으로 수학자들에게서 볼 수 있었던 사고와 유사함을 보여준다. 또한 연속체의구성과 무한분할의 과정에서 나타난 수학자들의 무한소 논쟁의 결론이 오랜 시간 끝에 19후반데데킨트와 칸토어에 이르러서야 가능했다는 사실은 학생들의 무한소적 생각이 쉽게 해소되기 어려움을 보여준다. 이는 연속체에 대한 수학적분석으로 더욱 뒷받침 된다. 연속체의 수학적 분석은 Figure 6의 영역을 x축으로 무한히 분할할때 기껏해야 ℵ0개의 구간으로 분할되며, 따라서 ℵ0개의 직사각형을 얻는 다는 것을 보여주었다. 뿐만 아니라 Figure 6은 특히 n개로 분할하는경우이며 n은 가산이고 [0, 1]은 비가산개의 점들로 구성되므로 선이 될 때까지 분할되는 경우는 일어나지 않는다. 하지만 학생들은 이러한 형식적인 수학을 학습하지 않았기 때문에 무한 분할의 결과 ‘선이 될 수 없다’는 사실을 알지 못한 채 ‘폭이 없는 사각형’ 또는 ‘직선들’이 된다는 식의 사고를 하게 된 것이다.

그렇다면 실제 수학교실에서는 연속체의 구성과 무한분할에 대해 어떻게 지도해야 하는가? 학교수학에서는 제논의 ‘다수의 패러독스’를 해소하고 무한소를 배제하기 위해 학문 수학의 이론으로서 설명하는 것은 무리가 있다. 본 연구는학교수학에서 연속체에 대한 직관적 이해를 돕기 위해 두 가지 지도 방안을 제안하고자 한다.

첫째, 연속체의 구성에서 동적인 관점을 활용할 필요가 있다. 카발리에리는 ‘불가분량들이 움직여서 면과 입체가 생성 된다’는 관점을 택하였고 이러한 동적인 관점은 자연현상을 수학적으로 설명하고자 하는 뉴턴에 와서 적극 이용이 되었다. 점과 선의 움직임으로 선과 면을 구성하는 동적인 관점은 연속체의 구성의 난제를 우회하면서 동시에 자연의 역동적인 현상을 수학적으로 표현하고 설명하는데 적절한 방법이라 할 수 있다. 실제로 2015개정 수학과 교육과정의 중학교 교과서 10종 중 8종이 동적인 관점으로 점, 선, 면의 관계를 서술하고 있음을 확인하였다.

둘째, 정적분 과정 중 연속체의 분할에서 무한소적 관점 혹은 ‘제논의 패러독스’의 어려움이발생했을 경우, 극한의 의미를 고찰하는 활동이도움이 될 것이다. Figure 6의 경우와 같이 정적분에서 영역을 분할하여 나온 도형의 가로의 길이 1nn이 커짐에 따라 0에 가까워진다는 의미 즉, 극한 limn1n=0의 의미를 생각해 보자.

학교수학에서 수열의 극한의 정의는 다음과 같다.

일반적으로 수열 {an}에서 n이 한없이 커질 때,일반항 an의 값이 일정한 값 L에 한없이 가까워지면 수열 {an}은 L에 수렴한다고 한다. 이때 L을 수열 {an}의 극한값 또는 극한이라고 하며 이것을 기호로 limnan=L 또는 n→∞일 때 anL과 같이 나타낸다. (Lee et al., 2018, p.12)

극한이 포함된 식의 등호의 의미는 2+3=5의산술에서의 등호의 의미와는 차이가 있다. 2+3=5의 등호는 2+3의 연산 결과 정확히 5가 됨을 의미한다. 그러나 limn1n=0의 극한 기호가 포함된 식의 등호는 n이 한없이 커질 때 1n이 0에 한없이 가까워진다는 뜻이며 1n이 결국에는 0이 된다는 뜻은 아니다. 따라서 정적분에서 영역을 x축과 수직인 방향으로 분할할 때 분할하는 횟수가 아무리 많아지더라도 직사각형의 가로의 길이가 0되어 선분이 되는 것은 아니다. 뿐만 아니라, ∞는 수가 아니기에 극한 과정에서n이 한없이 커져가는 경우도, n이 결국에는 ∞에 도달한다는 것을 말하는 것이 아니므로 1n1가 되어 무한소에 도달한다는 의미도 아니다. 이와 같이 극한의 의미에 대해 고찰하는 과정은 정적분의 계산 과정에서 면을 분할하면 폭이 0인 선이 되거나 무한소 폭을 갖는 도형이 된다는 관점을 반성할 수 있는 기회가 될 수 있을 것이다.

V. 요약 및 결론

본 연구는 학교수학의 점, 선, 면의 관계에 대한 이해를 돕기 위해 연속체의 구성과 무한분할을 중심으로 역사적ㆍ수학적 분석을 하였다. 역사적 분석의 결과 다음의 세 가지 결론을 도출하였다.

첫째, 고대 그리스시대부터 수학자들은 점, 선, 면의 관계에서 제논이 제시한 ‘다수의 역설’과같은 문제에 대해 끊임없이 고민하며 합리적인 설명을 하고자 노력하였다. 수학자들이 비록 제논의 역설로서 부르진 않았을지라도, 그들은 ‘크기가 없는 점이 모여 어떻게 양수의 길이를 갖는 직선이 될 수 있는지’, 또는 ‘크기가 양수인점이 모여 어떻게 유한한 길이를 갖는 선분을 만들 수 있는지’ 혹은 ‘폭이 없는 선분이 모여어떻게 넓이를 가진 면을 구성할 수 있는지’ 등에 대해 고민하였다. 그리고 이는 ‘직선을 무한히 분할하면 점이 되는지 여부’에 대한 질문으로 이어진다. 수학사는 이러한 질문이 미적분학의 발달 과정에서 끊임없이 등장하였음을 보여준다.

둘째, 연속체의 구성과 무한분할에 대한 수학자들의 설명에서 무한소의 개념이 종종 등장하였다. 일부 수학자들은 선분을 무한분할하면 1/ ∞의 길이가 되거나 연속체의 불가분량이 무한소의 크기를 갖는다는 관점들을 이용하여 수학의 이론을 전개하였다.

셋째, 연속체의 구성과 무한분할에 대한 수학적으로 타당한 설명은 기하학적인 점, 선, 면만으로는 불가능하였으며 기하학과 산술이 결합되고, 직선이 실수와 동형이라는 칸토어-데데킨트공리가 제공된 이후에 가능하였다. 직선과 실수가 대응되며 직선이 비가산 개의 점으로 이루어진 연속체라는 사실을 통해 ‘점이 모여 선이 되고’, ‘길이가 0인 것들이 모여서 길이가 양수인 선분이 된다’는 것이 수학적으로 타당하게 설명가능하게 되었다.

Ⅲ장에서는 이 난제를 학문수학이 어떻게 설명하는지를 제시하였다. 첫째 ‘길이가 0인 점들이 모여서 어떻게 길이가 양수인 선분을 만들수 있는가?’, ‘길이가 양수인 실수 연속체를 무한히 분할하면 점과 같은 궁극적 원소들로 분해되는가?’와 같은 질문에 대한 답은 학교수학의 수준에서는 제시되기 어려웠으며, 학문수학의 이론에 의해서 설명이 가능하였다. 실수 전체의 집합은 비가산개의 원소로 구성되며 르벡의 측도이론은 가산합(countable additivity)의 성질을 갖는다. 부분구간의 길이로 전체의 길이를 구하고자 할 때, 르벡의 측도이론에 의하면 그 부분구간의 길이가 가산개일 때만 가능하다. 따라서 길이가 0인 실수 점 전체의 길이의 합은 0을 비가산개 더해야 하기 때문에 르벡의 측도 이론으로 구할 수 없고, ‘길이가 0인 점들을 더하면0+0+0+…+0+…이므로 실수직선 전체의 길이는 0이 된다’는 모순은 일어나지 않는다. 또한 실수직선을 무한 분할하는 문제의 경우, Grünbaum의분할의 조건과 칸토어의 무한집합 이론에 의하면 실수 집합을 겹치지 않는 구간들로 분할할때 우리는 기껏해야 가산개의 부분구간을 갖게되며, 점들에 이르도록 분할하는 것은 적절하지않음을 제시였다.

연속체에 대한 역사적 분석과 수학적 분석은 학교수학에서 학생들이 만날 수 있는 어려움의 근원에 대한 실마리를 제공한다. 수학자들은 연속체의 구성과 무한분할에 대한 설명을 함에 있어서 제논의 ‘다수의 역설’의 난제를 해결해야 하는 어려움을 겪었으며 무한소와 불가분량을 사용하기도 하였다. 수학자들이 19~20세기에 와서야 무한소와 제논의 다수의 패러독스로부터 해방될 수 있었던 사실과 이 설명이 실수이론과 측도이론 및 칸토어의 무한집합 이론에 의지한다는 사실은 주목할 만하다. 이러한 수학이론을 학습하지 않은 학생들이 오랫동안 수학자들이 겪은 연속체와 관련된 어려움을 똑같이 겪을 수 있음을 암시하기 때문이다.

실제로 학교수학에서 원을 한없이 분할하여 넓이를 구하는 과정, 그리고 정적분에서 도형을분할하여 영역의 넓이를 구하는 과정은 제논의 역설 및 무한소적 관점과 관련이 있었다. 실제로여러 연구들은 정적분의 이해에서 학생들이 무한소 관점을 보이고 있음을 보고하고 있다. 학생들의 이러한 사고는 물론 단순한 오개념이라고 보기는 어렵다. 연속체에 대한 역사적, 수학적분석으로부터 이 관점이 연속체의 구성과 무한분할과 관련해서 나타날 수 있는 자연스러운 현상임을 확인할 수 있었다.

만약 교수학습의 실제에서 학생들이 이러한 관점을 보인다 하더라도 교사는 실수의 비가산성이나 측도이론과 같은 형식적인 수학 이론을 이용하여 설명할 수는 없다. 학교수학에서 형식적인 학문 수학적 내용을 도입하여 설명하는 것은 오히려 학생들의 인지적 어려움을 심화시킬 우려가 있기 때문이다. 따라서 본 연구는 학문수학의 이론을 제시하지 않는 방식으로 연속체의 구성과 무한 분할에 대한 지도 방안을 두 가지 제시하였다. 첫째는 연속체의 구성에서 카발리에리와 뉴턴이 사용하였던 동적인 관점을 활용하는 것이며 둘째는 연속체의 분할과 관련하여 극한의 의미를 고찰하는 활동을 하는 것이었다. 이 지도방안들이 실질적으로 연속체에 대한유의미한 이해를 돕는지에 대해서는 추가적인 연구를 통해 확인이 필요하다.

현대 수학의 연속체는 무한, 특히 비가산 무한과 의 관점이 포함된 어려운 개념이다. 그리고 무한은 우리의 경험과 직관이 닿을 수 없는 영역에 있으므로 연속체의 본성은 이미 직관의 범위를 벗어나 있다고 볼 수 있다. 그러나 연속체는 학교수학의 수직선의 구조, 기하학의 각종도형들, 함수의 그래프, 미적분학 등 곳곳에서 등장할 뿐만 아니라, 극한이나 미적분의 여러 정리들과 밀접하게 연결된 중요한 개념이다. 따라서 학생들의 극한과 미적분에 대한 학습을 위해서도 학생들의 직관과 형식적인 연속체의 개념을 연결할 수 있는 구체적인 교수학습 방안들과 그것의 실질적인 효과를 확인하는 추가적인 연구가 필요하다. 연속체의 역사적, 수학적 분석에대한 본 연구가 연속체 지도의 연구를 위한 기초가 되기를 기대한다.

Footnote

1) Bell(2019, p. vii)은 연속체를 “연속적인 개체(continuous entity)”로 표현하였고, Lee el al.(2020, p. 425)은 “연속성을 포괄하는 것”으로 표현하면서 “물리적 대상과 수학적 대상 모두에 적용”되는 것으로 해석하였다.본 연구는 Bell(2019)를 따라 연속체를 “연속적인 개체”의 의미로 사용한다.

2) 제논의 ‘다수의 역설’은 ‘측정의 역설(paradox of measure, metrical paradox)’로도 불린다(Dainton, 2010, Skyrms, 2012).

3) 학교수학의 소재로도 종종 이용되는 제논의 네 가지 운동의 역설(이분법, 아킬레스, 화살, 운동장)은 ‘점이 모여서 선분이 만들어진다’는 것에 기초하고 있으며, 이 가정에 의해 패러독스가 나타난다(Hong, 2008, p. 473). 시간을 무한분할하면 그 궁극적인 요소인 순간이 되고, 공간의 직선을 무한분할하면 한 점이 되며 이들이 바로 시간과 공간을 구성하는 요소라는 가정이 ‘운동의 역설’에 숨어 있으며, 패러독스를 일으키는 원인이기 때문이다. 따라서 연속체를 무한분할하면 궁극적 요소가 될 수 있는지, 그리고 이들을 다시 결합하면 연속체가 될 수 있는지의 질문을 담고 있는 ‘다수의 역설’에 대한 답변은 ‘운동의 역설’을이해하는 기초가 될 수 있다.

4) 연장성을 갖는다는 것은 공간을 점유한다는 것을 뜻한다. 근대적 물질관은 어떤 것을 물질로 보기 위해서는 연장성을 가져야 한다고 생각하였다(Korean Society of Modern Philosophy, 2001, p. 389).

5) 16~17세기 수학자들은 무한히 작은 양인 무한소와 불가분량의 개념을 사용하였다. 무한소란 0보다 크지만 임의의 양의 실수보다 작은 수로서, 아르키메데스의 정리를 만족시키지 못한다. 그리고 불가분량은 그용어 그대로 더 이상 나누어질 수 없는 양을 뜻하는데 이는 무한소와 밀접하게 관련되어 있지만 다르다.불가분량은 더 이상 나누어질 수 없기 때문에 proper part가 없는 것으로, 불가분량과 무한소가 유사하게 사용되기도 하지만 불가분량이 항상 무한소가 되지는 않는다(Bell, 2019, p. xi).

6) 이어져 있는 것은 연속체를 의미한다.

7) 카발리에리의 이 방법은 입체의 부피와 평면도형의 넓이를 구하는 데는 적절했지만, 곡선의 길이를 구하는 데에는 적용할 수 없었다. 그 이유는 두 점들 사이의 ‘비’에는 어떤 적절한 의미를 부여하기가 어려웠기 때문이다. 따라서 카발리에리는 곡선을 곡선의 불가분량인 점들의 합이 아닌 무한소 길이를 가진 선분의 합으로서 생각하였다(Bell, 2019, p. 47).

8) Kim(2020, p. 353)에 의하면 라이프니츠 이전에 파스칼이 이미 무한의 경우를 유한으로부터 추론하였다. 파스칼 역시 점들이 모여 선이 되고, 선들이 모여 면이 되는 문제에 고심하였다. 파스칼은 점들이 모인다고 선의 길이가 되지 않으며, 선들이 모여도 면의 넓이가 될 수 없다고 생각하였다. 파스칼은 여기에서생각을 전환하여 무한 분할을 통해서 이러한 문제를 해결하는 것보다는, 유한적인 방법에 의해서 해결하면 된다는 결론에 이르렀다.

9) 각 구간은 점들로 이루어진 것이라기보다는 한 점 집합 즉, degenerate 구간들의 합집합으로 이루어진 것이다.

Fig 1.

Figure 1. The relation of point, line and plane(Ju et al., 2018, p. 154)
Journal of Educational Research in Mathematics 2020; 30: 575-599https://doi.org/10.29275/jerm.2020.11.30.4.575

Fig 2.

Figure 2. Continuity of real numbers (Ju, Kang, Kang, Kang, Kim, Oh, et al., 2020, p. 24)
Journal of Educational Research in Mathematics 2020; 30: 575-599https://doi.org/10.29275/jerm.2020.11.30.4.575

Fig 3.

Figure 3. Volume of sphere (Bell, 2019, p. 43)
Journal of Educational Research in Mathematics 2020; 30: 575-599https://doi.org/10.29275/jerm.2020.11.30.4.575

Fig 4.

Figure 4. Derivation of the area formula for a triangle of Wallis (Bell, 2019, p. 53)
Journal of Educational Research in Mathematics 2020; 30: 575-599https://doi.org/10.29275/jerm.2020.11.30.4.575

Fig 5.

Figure 5. The area of the circle (Ministry of Education, 2018, pp. 100-101)
Journal of Educational Research in Mathematics 2020; 30: 575-599https://doi.org/10.29275/jerm.2020.11.30.4.575

Fig 6.

Figure 6. The limit of the Riemann sum (Lee, Choi, Kim, Jun, Jang, Song, et al., 2018, p. 167)
Journal of Educational Research in Mathematics 2020; 30: 575-599https://doi.org/10.29275/jerm.2020.11.30.4.575

References

  1. Bell, J. L. (2019). The Continuous, the Discrete and the Infinitesimal in Philosophy and Mathematics. Switzerland: Springer.
  2. Boyer, C. B. (1949). The history of the calculus and its conceptual development. New York: Dover Publications. 김경화 역(2008). 미분적분학사-그 개념의 발 달. 서울: 경문사.
  3. Boyer, C. B. & Merzbach, U. C. (1991). A history of mathematics. New York: John Wiley & Sons, Inc. 양영오, 조윤동 역(2000a). 수학의 역사·상. 서울: 경문사. 양영오, 조윤동 역(2000b). 수학의 역사·하. 서울: 경문사.
  4. Byun, H. H. & Park, S. Y. (2002). Teaching and learning irrational number with its conceptual aspects stressed: Consideration of irrational number through the notion of 'incommensurability',. School Mathematics. 4(4), 643-655. 변희현, 박선용(2002). 무리수의 개념적 측면을 강조한 교육방안: '통약불가능성'을 통한 무리수 고찰. 학교수학, 4(4), 643-655.
  5. Błaszczyk, P., Katz, M. & Sherry, D. (2012). Ten misconceptions from the history of analysis and their debunking. Foundations of Science. 18(1), 43-74.
    CrossRef
  6. Cassirer, E. (1984). Newton and Leibniz. The Philosophical Review. 52(4), 366-391.
    CrossRef
  7. Czarnocha, B., Dubinsky, E., Loch, S., Prabhu, V. & Vidakovic, D. (2001). Concetions of area in students and in history. The College Mathematics Journal. 32(2), 99-109.
    CrossRef
  8. Dainton, B. (2010). Time and Space. Durham: Acumen.
  9. Galileo, G. (1638). Discorsi e dimostrazioni matematiche : intorno ? due nuoue scienze. 이무현 역(1996). 새로운 두 과학, 고체의 강 도와 낙하 법칙에 관한 대화. 서울:(주) 민음사.
  10. Gr?nbaum, A. (1951). The Philosophy of continuity: a philosophical interpretation of the metrical continuum of physical events in the light of contemporary mathematical conceptions. Doctoral dissertation, Yale University.
  11. Gr?nbaum, A. (1952). A Consistent conception of the extended linear continuum as an aggregate of unextended elements. Philosophy of Science. 19(4), 288-306.
    CrossRef
  12. Hagar, A. (2014). Discrete or continuous? the quest for fundamental length in modern physics. New York: Cambridge University Press.
    CrossRef
  13. Heath, T. L. (1908). The thirteen books of Euclid's Elements. Cambridge: Cambridge University Press. 이무현 역(1997a). 기하학 원론 -평면기하--. 서울: 교우사. 이무현 역(1997b). 기하학 원론 -무리수--. 서울: 교우사. 이무현 역(1998). 기하학 원론 -비율, 수--. 서울: 교우사.
  14. Hong, J. K. (2008). On the understanding of infinity. The Journal of Educational Research in Mathematics. 18(4), 469-482. 홍진곤(2008). 무한 개념의 이해에 관하여. 수학교육학연구, 18(4), 469-482.
  15. Horv?th, M. (1986). On the attempts made by Leibniz to justify his Calculus. Studia Leibnitiana. 18(1), 60-71.
  16. Jesseph, D. M. (1989). Philosophical theory and mathematical practice in the seventeenth century. Studies in History and Philosophy of Science Part A. 20(2), 215-244.
    CrossRef
  17. Job, P. & Schneider, M. (2014). Empirical Positivism, an Epistemological Obstacle in the Learning of Calculus. ZDM. 46(4), 635-646. 18 (2020). Middle school mathematics 3. Seoul: Kumsung. 주미경, 강은주, 강소영, 강석주, 김호경, 오화평, 권상순(2020). 중학교 수학 3. 서울: 금성출판사. 19 (2018). Middle school mathematics 1. Seoul: Kumsung. 주미경, 강은주, 강소영, 이현구, 강석주, 오화평, 권상순(2018). 중학교 수학 1. 서울: 금성출판사.
    CrossRef
  18. Jung, Y. J. & Kang, H. Y. (2008). A study on infinitesimal interpretation of definite integral. School Mathematics. 10(3), 375-399. 정연준, 강현영(2008). 정적분의 무한소 해석에 대한 고찰. 학교수학, 10(3), 375-399.
  19. Korea Society of Modern Philosophy (2001). Western modern philosophy. Seoul: Changbi Publishers. 서양근대철학회(2001). 서양근대철학. 서울: ㈜창작과비평사.
  20. Kim, S. K., Kim, D. H. & Kye, S. H. (2002). Intoduction to real analysis. Seoul: Seoul National University Press. 김성기, 김도한, 계승혁(2002). 해석개론. 서울: 서울대학교출판부.
  21. Kim, S. K. & Kye, S. H. (1999). Real analysis. Seoul: Seoul National University Press. 김성기, 계승혁(1999). 실해석. 서울: 서울대학교출판문화원.
  22. Kim, Y. U. (2020). History of Mathematics. Seooul: Kyungmoonsa. 김용운(2020). 수학사대전. 서울: 경문사.
  23. Lee, J. A., Yoo, J. G. & Park, M. H. (2020). Historical Analysis of Continuum for Teaching Continuity of Real Numbers,. School Mathematics. 22(2), 423-444. 이정아, 유재근, 박문환(2020). 실수의 연속성 지도를 위한 연속체의 역사적 분석, 학교수학, 22(2), 423-444.
    CrossRef
  24. Lee, J. H. (2014). The Infinite Decimal Representation: Its Opaqueness and Transparency. Journal of Educational Research in Mathematics. 24(4), 595-605. 이지현(2014). 무한소수 기호 : 불투명성과 투명성. 수학교육학연구, 24(4), 595-605.
  25. Lee, J. Y., Choi, B. L., Kim, D. J., Jun, C., Jang, H. S., Song, U. H. & Song, J. (2018). High school calculus. Seoul: Chunjae. 이준열, 최부림, 김동재, 전철, 장희숙, 송윤호, 송정, 김성철(2018). 고등학교 미적분. 서울: 천재교육.
  26. Leibniz, G. W. (1702). Letter to Varignon, with a Note on the 'Justification of the Infinitesimal Calculus by that of Ordinary Algebra'. In L. E. Loemker (Ed.), Philosophical Papers and Letters. Dordrecht: Klwer Academic Publishers.
    CrossRef
  27. Ministry & of Education (2018). Elementary mathematics 6-2. Seoul: Chunjae Education. 교육부(2018). 초등학교 수학 6-2. 서울: 천재교육.
  28. Newton, I. (1687). The Principia : mathematical principles of natural philosophy. 이무현 역(1998). 프린키피아 제1권. 서울: 교우사. 이무현 역(1999). 프린키피아 제3권. 서울: 교우사.
  29. Newton, I. (1703). The 'De Quadratura Curvarum' revised for publication. In D. T. Whiteside (Ed.), The mathematical papers of Isaac Newton, Vol. Ⅲ, 1697-1722 (1981, pp. 92-159.). Cambridge: Cambridge University Press.
  30. Park, S. Y. (2018). A historical study on the interation of the limit-the infinite set and its educational implications. Journal for History of Mathematics. 31(2), 73-91. 박선용(2018). 극한과 무한집합의 상호작용과 그 교육적 시사점에 대한 역사적 연구. 한국수학사학회지, 31(2), 73-91.
  31. Rudin, W. (1987). Real and complex analysis. New York: McGraw-Hill Book Company.
  32. Salmon, W. C. (2001). Zeno's Paradoxes. Indianapolis: Hackett Publishing Company, Inc.
  33. Shin, B. M. (2009). High School Students' Understanding of Definite Integral. School Mathematics. 11(1), 93-110. 신보미(2009). 고등학생들의 정적분 개념 이해. 학교수학, 11(1), 93-110.
  34. Skyrms, B. (2012). From Zeno to arbitrage: essays on quantity, coherence, and induction. Oxford: Oxford University Pres.
    CrossRef
  35. Tubbs, R. (2009). What Is a Number? Mathematical Concepts and Their Origins. Maryland: Johns Hopkins University Press.
  36. Woo, J. H. (2018). History-Generative Approach to School Mathematics. seoul: Seoul National University Press. 우정호(2018). 학교수학의 역사-발생적 접근. 서울: 서울대학교출판문화원.
  37. You, J. M. (2014). Aristotle on Continuity. Unpublished doctoral dissertation, Seoul National University. 유재민(2014). 아리스토텔레스의 연속이론 연구. 박사학위 논문, 서울대학교.

Journal Info

Korea Society of Education Studies in Mathematics

Vol.32 No.1
2020-11-30

pISSN 2288-7733
eISSN 2288-8357

Frequency : Quarterly

Stats or Metrics

Share this article on :

  • line