• 자연과학/공학 > 각종 교양과학 > 수학의 이해

• [시리즈] 잃어버린 수학을 찾아서 [3]

반디앤루니스 리뷰

국내 대표 수학교육 전문가 박영훈 선생님의 ‘잃어버린 수학을 찾아서’ 시리즈는 수학의 넓은 대지를 문명사적으로 종횡으로 누비며 수학의 본령에 다가가는 기획물이다. 요리책 레시피 수준의 학교수학, 창의성을 상실한 내비게이션 수학을 넘어 새로운 수학의 패러다임을 10권으로 구성된 야심찬 프로젝트 속에 담아낼 것이다. 수학의 넓은 바다를 이처럼 폭넓게 다룬 책은 일찍이 없었다. 수학의 세계를 유유자적 거닐다 저도 모르게 수학의 본질을 몸에 체득하게끔 하는 새로운 패러다임의 수학책이다. 
시리즈의 두 번째인 《21세기 수학 연산의 길을 묻다》는 빠르고 정확한 계산을 수학적 능력으로 간주하는 세상사람들의 통념과 2천년 전의 케케묵은 내용에서 헤어날 줄 모르는 학교 수학에 통렬한 메스를 들이댄다. 21세기 인공 지능이 위력을 떨치는 지금도 기계적인 반복 계산에 몰두하는 바보들의 행진이 계속되고 있는 현실은 얼마나 슬픈 아이러니인가. 사고하는 수학, 스스로 패턴을 발견할 줄 아는 수학다운 수학이 필요하다. 이 책이 그 해법을 제시한다.

출판사 리뷰

국내 대표 수학교육 전문가 박영훈 선생님의 ‘잃어버린 수학을 찾아서’ 시리즈는 수학의 넓은 대지를 문명사적으로 종횡으로 누비며 수학의 본령에 다가가는 기획물이다. 요리책 레시피 수준의 학교수학, 창의성을 상실한 내비게이션 수학을 넘어 새로운 수학의 패러다임을 10권으로 구성된 야심찬 프로젝트 속에 담아낼 것이다. 수학의 넓은 바다를 이처럼 폭넓게 다룬 책은 일찍이 없었다. 수학의 세계를 유유자적 거닐다 저도 모르게 수학의 본질을 몸에 체득하게끔 하는 새로운 패러다임의 수학책이다. 시리즈의 두 번째인 《21세기 수학 연산의 길을... 국내 대표 수학교육 전문가 박영훈 선생님의 ‘잃어버린 수학을 찾아서’ 시리즈는 수학의 넓은 대지를 문명사적으로 종횡으로 누비며 수학의 본령에 다가가는 기획물이다. 요리책 레시피 수준의 학교수학, 창의성을 상실한 내비게이션 수학을 넘어 새로운 수학의 패러다임을 10권으로 구성된 야심찬 프로젝트 속에 담아낼 것이다. 수학의 넓은 바다를 이처럼 폭넓게 다룬 책은 일찍이 없었다. 수학의 세계를 유유자적 거닐다 저도 모르게 수학의 본질을 몸에 체득하게끔 하는 새로운 패러다임의 수학책이다. 시리즈의 두 번째인 《21세기 수학 연산의 길을 묻다》는 빠르고 정확한 계산을 수학적 능력으로 간주하는 세상사람들의 통념과 2천년 전의 케케묵은 내용에서 헤어날 줄 모르는 학교 수학에 통렬한 메스를 들이댄다. 21세기 인공 지능이 위력을 떨치는 지금도 기계적인 반복 계산에 몰두하는 바보들의 행진이 계속되고 있는 현실은 얼마나 슬픈 아이러니인가. 사고하는 수학, 스스로 패턴을 발견할 줄 아는 수학다운 수학이 필요하다. 이 책이 그 해법을 제시한다. 대부분의 사람들은 빠르고 정확한 계산을 수학적 능력으로 간주한다. 하지만 틀렸다. 계산은 수학이 아니다. 사고하는 학문으로서의 수학이 아니다. 알파고 시대인 21세기 오늘날에도 ‘이렇게 저렇게 따라 하면 답을 구할 수 있다’는 레시피 수준의 수학이 횡행하는 이유는 무엇인가? 그것은 학교에서 가르치는 수학이 케케묵은 내용이기 때문이다. 교과서 속의 수학은 대부분 2천년 이전의 것이다. 수학적 연산과 계산은 구별되어야 한다. +, ?, ×, ÷는 가장 기초적인 연산 기호다. 그렇다고 우리가 이를 모두 잘 알고 있다고 생각한다면 커다란 착각이다. 같은 기호임에도 불구하고 유리수, 무리수 같은 수의 종류에 따라 그 의미가 전혀 다르게 쓰인다. 사칙연산을 제대로 이해하기 위해서는 그 기호가 사용되기까지의 창조과정을 인지적으로 되살리면서 스스로 패턴을 발견할 수 있어야 한다. 기계적인 반복 계산에 대한 지나친 강조는 오히려 수학적 능력을 억압하는 수단이 되고 만다. 이 책의 목적은 사칙연산이라는 가장 단순한 수학 세계를 바탕으로 오늘날에 걸맞은 수학이 무엇인지 알려주는 것이다. 수의 세계가 달라지면 연산 또한 다른 규칙이 적용된다. 이 책이 모두 5개의 장으로 구성되어 있는 이유다. 1장은 학교에서 처음 배우는 자연수의 사칙연산을 다룬다. 얼핏 단순해 보이는 기호 속에 담긴 비밀스런 패턴을 발견할 수 있도록 안내한다. 2장은 정수, 3장은 분수, 4장은 무리수, 5장은 허수의 세계로 확장된다. 마지막 5장은 허수가 무엇인지를 탐색하는 내용이다. 복소평면이 어떻게 만들어졌는지 흥미롭게 따라가다 보면 수학에서의 창의적 발상이 무엇인지 불현듯 깨닫게 될 것이다. 프롤로그에서 만나는 계산 천재들의 이야기와 현대미술에 빗대 수학식에서 ‘보이지 않는 색채로 그려진 그림’을 상상하게 하는 에필로그 역시 오늘의 수학은 무엇이어야 하는지 많은 것을 생각하게 한다. 이 책은 새로운 형식과 내용의 수학 문고 ‘잃어버린 수학을 찾아서’ 시리즈의 하나로 출간되었다. ‘잃어버린 수학을 찾아서’ 문고는 문명사적 접근, 그리고 서사적 구성이라는 점에서부터 독특하다. 수학 지식이 어떻게 만들어졌으며, 수학자가 어떤 패턴을 발견하여 그 지식을 창조했는지를 서사적 틀 속에서 문명사적으로 풀어낸다. 또한 ‘수학은 어렵다’는 독자들의 압박감을 덜어주기 위해 소주제의 문고본이라는 틀을 선택하였다. ‘잃어버린 수학을 찾아서’ 시리즈는 초등학교에 갓 입학하며 배우는 아라비아 숫자와 간단한 곱셈구구에서부터 미적분과 확률에 이르는 수학의 궤적을 짚어가며 수학의 본령에 다가가는 기획물이다. 요리책 레시피 수준의 학교수학, 창의성을 상실한 내비게이션 수학을 넘어 새로운 수학의 패러다임을 10권으로 구성된 시리즈 속에 담아낼 것이다. 시리즈 1권(《수학은 짝짓기에서 탄생하였다》)은 숫자의 세계, 3권(《피타고라스학파의 집단살인》)은 추리소설과도 같은 기법을 통해 무리수의 세계를 다루고 있다.

책머리에

덧셈/뺄셈과 곱셈/나눗셈을 모를 리 없다. 아무리 수학이 어렵다 하더라도 그까짓 계산쯤이야 할 것이다. 하지만 답을 구할 수 있다고 하여 계산의 의미까지 이해한다고 말할 수 있을까?
예를 들어보자. 2+3과 1/2+1/3이라는 두 식에는 똑같은 덧셈 기호가 들어 있다. 여기에 쓰인 ‘+’의 의미는 과연 동일할까? 그렇지 않다. 같은 기호라도 연산의 대상에 따라 그 의미는 물론이고 계산 절차까지 다르다. 그래서 이 책은 모두 5개의 장으로 구성되었다.
1장은 학교에서 처음 배우는 자연수의 사칙연산을 다룬다. 얼핏 단순해 보이는 네 가지 기호 ‘+, -, ×, ÷’가 전혀 예상하지 못했던 여러 가지 상황을 나타낸다는 게 믿기지 않을지 모르겠다. 그 하나하나 속에 담긴 비밀스런 패턴을 발견할 수 있도록 안내한다. 그렇게 2장은 정수, 3장은 분수, 4장은 무리수, 5장은 허수의 세계로 확장된다.
1장과 3장은 초등학교, 2장과 4장은 중학교, 5장은 고등학교 수학에 해당하는 내용이다. 마지막 5장은 사실 허수의 연산이라기보다는 허수가 무엇인지를 탐색하는 내용에 중점을 두었다. 복소평면이 어떻게 만들어졌는지, 그전에 알고 있던 좌표평면과는 어떤 차이가 있는지 자못 흥미로울 것이다. 수학에서의 창의적 발상이 무엇인지를 보여주는 깜찍한 사례이다.
수학은 주로 수를 다루는 학문이므로, 계산을 수학의 기본이라고 여기는 뭇 사람들의 생각이 틀렸다고 부정할 수만은 없다. 하지만 나무에만 매달리면 숲을 볼 수 없다. 기계적인 반복 계산에 대한 지나친 강조는 오히려 수학적 능력을 억압하는 수단이 되고 만다. 보이지 않는 것을 볼 수 있어야 한다. 이 책을 통해 오늘날에 걸맞은 수학이 무엇인지 알 수 있다면 더할 나위 없겠다. 아무쪼록 독자들의 귓전에서 한 가닥 경보음이 울릴 수 있기를.

프롤로그 : 성장이 멈춰버린 계산 천재들


1846년 어느 이른 봄날의 일이다. 미국 동부 버몬트 주에 위치한 작은 마을에 한 신사가 나타났다. 짙은 회색 코트 차림에 가죽 서류가방을 든 예사롭지 않은 모습이 시골마을 분위기와는 어울리지 않았기에 누구라도 도회지에서 온 사람임을 한눈에 알아볼 수 있었다. 검은 뿔테 안경이 인상적인 신사는 수학자 애덤스 목사였다. 그가 4시간이나 걸리는 긴 여행을 마다하지 않고 시골마을을 찾은 이유는 헨리 새포드라는 열 살짜리 소년을 만나기 위해서였다.
새포드는 암산에 특출한 재능을 보이는 신동 소리를 듣고 있었다. 버몬트 주뿐만 아니라 뉴잉글랜드 일대에 그의 소문이 자자했다. 새포드의 집을 찾아간 애덤스 목사는 아이의 계산 능력을 시험하였다. 아이를 보자마자 일곱 자리 숫자 9,663,597의 세제곱근이 얼마인지 물어보았다. 새포드는 기대를 저버리지 않았다. 일도 아니라는 듯 암산으로 정답 213을 맞춘 것이다. 애덤스 목사는 이번에는 365,125,248,276,354라는 15자리나 되는 수를 아이에게 보여주었다. 그리고 이 수를 제곱한 값이 얼마인지 물었다. 다음은 새포드가 문제의 답을 구하는 동안의 모습을 묘사한 애덤스 목사의 기록이다.
어린 새포드는 방안에서 팽이처럼 빙글빙글 돌기도 하고, 이쪽으로 왔다가 저쪽으로 갔다를 여러 번 반복했다. 잠시 후에는 바지를 신발 위로 걷어 올리기도 했다. 눈동자를 이리저리 굴리면서 이따금 미소를 짓기도 하고 혼잣말을 하는 것 같았다. 마치 커다란 고민에 빠진 듯이 깊은 생각에 잠기는 것 같은 자세를 취하기도 하였다. 이 모든 동작을 보여준 시간은 고작 1분밖에 걸리지 않았다. 소년은 곧 다음과 같이 말했다.
“정답은 133,316,446,928,869,149,647,955,533,316입니다.”
이런 범상치 않은 능력을 가진 사람들이 이따금 나타나 사람들을 놀라게 하곤 한다. 새포드보다 한 세기 이상 앞선 18세기 초 영국에서는 벅스턴이라는 이름의 또 다른 소년이 뛰어난 계산 능력 때문에 세인의 주목을 받고 있었다. 유명 인사가 된 벅스턴은 왕립 아카데미의 초청을 받아 런던 구경까지 나서게 되었다. 여행 일정에는 당시 인기리에 공연 중이던 연극 관람도 들어 있었다. 하지만 유감스럽게도 소년은 글을 읽고 쓸 줄 몰랐다. 그러니 공연되는 연극에 흥미를 느낄 리 없었다. 지루함을 참을 수 없었던 소년은 공연을 감상하는 대신에 배우들의 대사에 들어 있는 단어의 수와 춤출 때 밟은 스텝의 수가 몇인지를 세었다. 나중에 확인해보니 그의 수 세기는 모두 정확했다고 한다.
그런데 놀라운 사실은 뛰어난 계산 능력을 보여주었음에도 불구하고 정작 자신이 어떻게 계산하였는지 설명하지 못했다는 점이다. 간혹 뭔가를 말하려고 했지만 그의 설명이 너무 수준 이 하여서 다른 사람이 도저히 알아들을 수가 없었다. 예를 들어 102 과 103을 곱할 때에도 지수인 2와 3을 더하면 된다는 사실조차 몰 랐다. 102은 ‘한 다발’, 103은 ‘한 묶음’ 하고 자기만의 용어를 사용하였기에, 주변 사람들은 그저 어리둥절할 뿐이었다.
19세기의 독일에도 벅스턴과 비슷한 암산 능력을 가진 천재 소년이 나타났다. 함부르크 출신의 요한 다제라는 이름을 가진 아이였다. 그는 비교적 좋은 가정환경에서 태어나 자신의 능력을 계발할 수 있는 충분한 교육 기회를 가졌다. 그러나 계산과 숫자 암기에만 뛰어났을 뿐 다른 분야에서는 두각을 나타내지 못했다. 기하학을 배웠지만 제대로 이해하지 못했고, 모국어인 독일어 외에는 외국어도 구사하지 못했다. 계산 능력만큼은 정말 놀라웠다.
여덟 자리 두 수의 곱셈을 단 54초 만에 풀어내고, 20자리 수끼리의 곱셈은 6분 만에, 40자리 수끼리의 곱셈은 40분 만에, 그리고 100자리 수끼리의 곱셈은 8시간 45분 만에 정확한 답을 말할 수 있었다. 물론 이 모든 계산은 암산으로 해냈다.
빠르고 정확한 계산, 그것도 오로지 암산만으로 정답을 구하는 능력은 당시 사람들에게 무척이나 놀랍고 신기한 기술이었다. 머리 회전이 재빨랐던 한 사업가는 요한을 돈벌이에 이용하였다. 요한의 비범한 계산 능력을 보여주는 순회공연을 기획하여 독일, 오스트리아, 영국 등지를 돌아다녔던 것이다. 소식을 들은 수학자들도 공연을 관람하였다. 그들은 십대 소년 요한에게 수학 계산표 를 작성하는 일을 맡기기도 하였다. 원주율 π의 근삿값을 구하는 작업 같은 것이었다. 요한은 단 두 달이라는 짧은 시간 동안에 원 주율 π의 근삿값을 소수점 아래 200자리까지 정확하게 구하여 그들의 기대를 저버리지 않았다.
빠르고 정확한 계산 천재들! 미국의 새퍼드, 영국의 벅스턴, 독일의 요한이 보여준 놀라운 계산 능력은 기록으로 남아 지금까지 전해진다. 《파이π의 역사》를 집필한 베크만은 이들의 천재적인 계산 능력을 컴퓨터에 견주어 소개하였다. 하지만 지금 시점에서 보자면 베크만이 언급한 컴퓨터는 컴퓨터라고조차 할 수 없는 수준이었다. 당시 컴퓨터는 특수한 분야의 몇몇 사람들에게만 알려져 있었는데, 몇 개의 명령어를 입력해야만 작업을 수행하는 한낱 깡통 기계에 지나지 않았다. 처리 속도 또한 오늘날 모바일폰에 들어 있는 소형 계산기에도 미치지 못했다.
컴퓨터의 뛰어난 능력은 엄청난 양의 정보를 기억할 수 있는 능력을 토대로 한다. 바로 이 점이 계산 천재라 일컬어지는 사람들에게서 발견되는 공통적인 특징이다. 그들은 기억이라는 측면에서 누구보다 뛰어난 능력의 소유자들이었다. 여러 개의 사물을 세어볼 필요도 없이 즉시 그 개수를 파악할 수 있는 능력은 분명 놀라운 것이다. 우리 같은 평범한 사람들은 직관적으로 한눈에 알아볼 수 있는 개수가 네 개, 다섯 개에 불과하고, 일곱 개나 여덟 개를 넘어서면 한눈에 가늠하기 어렵다. 시각적 이미지를 저장할 수 있는 능력에 한계를 갖고 있기 때문이다.
반면에 요한 다제는 책장에 꽂혀 있는 책이 모두 몇 권인지, 한 무리의 양떼가 몇 마리인지 한 번 힐긋 보고 나면 그 수를 정확하게 알아맞힐 수 있었다. 그는 대략 30개까지를 즉각 인식할 수 있었다고 한다. 그의 인지 능력을 실험하기 위해 인쇄물 한 장을 무작위로 선택해 보여주었다. 그랬더니 인쇄물 속에 들어 있는 문자의 개수가 모두 63개라고 정확하게 알아맞혔다.
이는 사진 현상과 같은 기억력을 가지고 있었기에 가능하다는 것이 베크만의 설명이다. 한 무리의 양떼를 힐긋 보고 나서 모두 몇 마리인지 직관적으로 개수를 파악할 수 있는 것은 그야말로 환상적인 기억력 때문이다. 머릿속에 박힌 사진의 이미지를 따라 세어볼 수 있기 때문이다. 12자리 숫자를 0.1초 내에 기억하고 특정 자리에 있는 수를 곧바로 말할 수 있는 것도 기억력 덕택이었다.
계산 천재들과 컴퓨터의 또 다른 공통점은 소위 ‘알고리즘’ 처리에 능하다는 것이다. 알고리즘은 일종의 매뉴얼과 같은 것이다. 구하려는 답을 얻기 위해 기계적으로 따르는 정해진 몇 가지 절차를 말한다.

누군가 새로운 현금지급기를 발명했다고 한다. 무엇이든 입력만 하면 곱하기 5라는 연산을 실행하여 그 결과물을 출력하는 획기적인 기계이다. 이런 곱하기 기능을 갖춘 새로운 현금지급기에 만 원짜리 지폐 두 장을 입력하였다면, 어떤 결과를 기대할 수 있을까? -44쪽

곱셈구구를 몰랐던 옛날 프랑스 시골사람들의 재미있는 곱셈 계산법을 소개한다. 예를 들어 6×7=42라는 곱셈을 어떻게 하였는지 알아보자. 6은 5+1이므로 5를 제외한 1을 오른손 손가락 한 개를 접어 나타낸다. 그 다음에 7은 5+2이므로 5를 제외한 2를 왼손 손가락 두개를 접어 나타낸다. 양손의 접은 손가락 개수 3개에 10을 곱하여 30을 얻는다. 아직 접히지 않은 손가락이 오른손에 4개, 왼손에 3개가 있다. 이 두 수를 곱하여 4 ×3 =12를 얻는다. 4와 3은 작은 수이기에 4를 3번 더하는 암산으로 가능하다. 마지막으로 30과 12를 더하여 42를 얻는다. 6×7 =42와 값이 같다. -52쪽

허수는 우리가 갖고 있던 수에 대한 근본적인 인식의 전환을 요구한다. 기이한 돌연변이가 아니라 막강한 힘을 가진 거대한 괴물에 진배없다. ‘제곱하여 -1이 되는 수’라는 허수의 정의는 우리에게 충격과 허탈감을 던져주는 대단히 폭력적인 문장이 아닐 수 없다. 허수한테서 받은 충격 탓인지 이제는 그 어떤 것도 믿을 수 없는 상황이 되었다. 어쩔 수 없이 에덴동산은 허구이고 실낙원이야말로 우리가 발을 딛고 있는 진짜 세계라는 사실을 받아들이지 않을 수 없게 되었다. -138쪽

수학자들은 이러한 수학식에 누군가 관심을 보이면 이렇게 천연덕스럽게 말한다.
“상상해보세요. 보이지 않는 색채로 그려진 그림이라고.”
영화에 나오는 대사이다. 인도의 불우한 천재 수학자를 그린 〈무한대를 본 남자〉에서 라마누잔이 자신의 무지렁이 아내에게 그렇게 말했다.
보이지 않는 색채라니! 그리고 상상하라니! -172쪽

잃어버린 수학을 찾아서 5
책머리에 8

프롤로그 : 성장이 멈춰버린 계산 천재들 13

1. 자연수의 사칙연산
합하기와 더하기는 다르다 25
뺄셈을 알고 있다고? 31
곱셈의 세 가지 의미 41
세계의 신기한 곱셈법 56
나눗셈을 가장 어려워하는 이유 62

2. 자연수에서 출발하는 정수의 연산
정수의 덧셈을 눈으로 확인하다 79
음수 뺄셈 양수 덧셈? 90
정수의 곱셈과 나눗셈 : 만능 모델은 없다 97

3. 분수의 연산은 무엇이 다른가
분수 덧셈에서 통분이 필요한 이유는? 107
뺄셈은 덧셈의 역 118
왜 분모는 분모끼리, 분자는 분자끼리 곱하는가 122
분수 나눗셈은 언제 필요한가 127

4. 불완전해 보이는 무리수 연산의 세계
불완전한 덧셈과 뺄셈 133
무리수의 곱셈은 어디서 출발하는가 137

5. 상상 속의 수인 허수도 연산이 가능한가
괴상한 돌연변이, 허수 145
보이면 존재한다 151
눈앞에 허수가 나타나다 158
복소수를 더하고 곱하다 167
크기를 비교할 수 있을까 174

에필로그 : 수학식, 보이지 않는 색채의 그림 179