숫자와 측정의 역사

YBC 7289의 √2는 60진법 세 자리로 적을 수 있는 최선의 값이었다

목차 7
  1. 점토판의 1, 24, 51, 10은 네 개의 독립된 답이 아닙니다
  2. ‘놀랍도록 정확하다’를 숫자로 바꾸어 보겠습니다
  3. 대각선 아래의 숫자도 서로 맞물립니다
  4. 세 자리로 적을 수 있는 가장 좋은 값이었을까?
  5. 정확한 답이 남아 있어도, 풀이법은 별도의 문제입니다
  6. 계산 방법과 참고 자료
  7. 같이 읽으면 좋은 글

고바빌로니아 시대의 점토판 YBC 7289에는 제곱근 2와 약 0.0000006밖에 차이 나지 않는 수가 적혀 있습니다. 직접 계산해 보니 이 값은 60진법 소수 세 자리로 적을 수 있는 수 가운데 √2에 가장 가까운 값이었습니다. 계산기 없이 얻은 결과라는 점에서 인상적입니다. 다만 점토판에는 최종 숫자와 그림이 남아 있을 뿐, 그 숫자를 얻은 계산 과정 전체가 적혀 있지는 않습니다.

브리티시컬럼비아대학교 수학자 Bill Casselman의 유물 소개는 이 점토판을 대략 기원전 1800~1600년으로 설명하며 출토 장소는 알려지지 않았다고 밝힙니다. ‘어느 건설 현장에서 어떤 사람이 측량하다가 남긴 기록’처럼 구체적인 장면을 상상으로 채워서는 안 됩니다.

점토판의 1, 24, 51, 10은 네 개의 독립된 답이 아닙니다

Duncan Melville의 점토판 해설에는 정사각형과 대각선, 그리고 변의 숫자 30과 대각선 쪽의 숫자가 소개됩니다. 대각선의 계수를 현대의 구분 기호로 옮기면 1;24,51,10입니다. 여기서 세미콜론과 쉼표는 읽기 편하게 덧붙인 것이지 점토판의 현대식 소수점이 아닙니다.

십진수는 소수 첫째 자리가 1/10, 다음이 1/100입니다. 이 60진법 해석에서는 첫째 자리가 1/60, 다음이 1/60², 그다음이 1/60³입니다. 따라서 숫자를 다음처럼 풀 수 있습니다.

1;24,51,10
= 1 + 24/60 + 51/3,600
  + 10/216,000
≈ 1.414212963

이 전개는 Casselman의 숫자 판독 해설과도 일치합니다. 서로 다른 연구자의 설명을 대조할 수 있지만, 여기서 다루는 고대 유물 자체는 같은 점토판 하나입니다.

‘놀랍도록 정확하다’를 숫자로 바꾸어 보겠습니다

현대 계산값 √2≈1.414213562와 비교하면 고대 값이 조금 작습니다. 표시된 소수는 반올림 값이고, 다음 오차는 반올림 전의 분수 1+24/60+51/3,600+10/216,000을 사용해 계산한 결과입니다.

비교 기준계산 결과
절대 오차: 참값과의 차이약 0.0000005994
상대 오차: 차이 ÷ √2약 0.0000004238
백분율로 표현약 0.00004238%

상대 오차는 약 236만 분의 1입니다. 이를 단지 ‘소수 여섯 자리까지 맞다’고 표현하면 반올림 기준에 따라 뜻이 모호해질 수 있습니다. 어떤 오차를 계산했는지 밝히는 편이 더 정확합니다.

길이로 감각을 바꿔 보겠습니다. 한 변이 정확히 1m인 정사각형의 대각선을 이 계수로 계산하면, 현대 √2를 쓴 값과의 차이는 약 0.0005994mm입니다. 변이 정확히 100m라면 차이는 약 0.05994mm가 됩니다.

이 수치는 계수의 오차만 길이에 곱한 교육용 계산입니다. 고대인이 실제로 100m 거리를 0.06mm 이내로 측량했다는 뜻이 아닙니다. 실제 길이 측정에는 자의 오차, 정사각형을 만드는 오차, 지면 조건 등이 따로 더해집니다. 수의 정확도와 현장 측량의 정확도를 혼동하면 유물의 의미를 과장하게 됩니다.

대각선 아래의 숫자도 서로 맞물립니다

변을 30이라는 길이로 해석하면, 그 아래 대각선 값 42;25,35와의 관계도 확인할 수 있습니다. 단위는 점토판의 숫자만으로 현대 미터라고 정할 수 없으므로 같은 길이 단위를 사용한다고만 하겠습니다.

30 × (1 + 24/60 + 51/3,600
      + 10/216,000)
= 42 + 25/60 + 35/3,600
≈ 42.426388889
변 30인 정사각형의 대각선에 1;24,51,10과 42;25,35를 표시하고 60진법 자리값을 풀어 제곱근 2와 비교한 도해
1;24,51,10은 1 + 24/60 + 51/3,600 + 10/216,000으로 약 1.414212963이며, 현대 √2와 약 0.0000006 차이입니다. 변 30에 곱하면 42;25,35가 됩니다.

변에 대각선 계수를 곱하면 적힌 대각선 값이 된다는 뜻입니다. 다만 고대 60진법 숫자는 문맥에 따라 자릿값의 규모를 달리 읽을 수 있습니다. Melville은 변의 30을 1/2로 읽는 가능성도 설명합니다. 어느 규모로 읽든 변과 대각선의 비가 핵심이라는 점은 유지됩니다.

세 자리로 적을 수 있는 가장 좋은 값이었을까?

정확도를 다른 각도에서도 확인해 볼 수 있습니다. 서기가 60진법 소수 세 자리까지만 적기로 했다면, 그 안에서 √2에 가장 가까운 수는 무엇이었을까요? 파이썬의 고정밀 계산으로 √2를 60진법으로 풀어 보면 다음과 같이 이어집니다.

√2 = 1;24,51,10,7,46,6,4,44 …

세 자리에서 반올림: 넷째 자리가 7(30보다 작음) → 1;24,51,10
점토판의 값:                                     1;24,51,10

넷째 자리가 7로 반올림 기준인 30보다 작으므로, 세 자리에서 가장 가까운 값은 1;24,51,10입니다. 점토판에 적힌 수와 정확히 같습니다. 즉 YBC 7289의 값은 60진법 세 자리로 적을 수 있는 수 가운데 √2에 가장 가까운 값입니다. 세 자리 눈금 한 칸의 절반은 약 0.0000023인데, 실제 오차 0.0000006은 그 4분의 1 수준입니다.

60진법 1자리부터 5자리까지 제곱근 2에 가장 가까운 값의 오차를 비교한 막대그래프
60진법 자리를 하나 늘릴 때마다 오차가 수십 분의 1로 줄어듭니다. 주황 막대가 점토판의 값과 같은 3자리 값입니다.
60진법 자리 수가장 가까운 값√2와의 차이
1자리1;25약 0.0025
2자리1;24,51약 0.000047
3자리 (점토판과 같음)1;24,51,10약 0.0000006
4자리1;24,51,10,7약 0.000000018
5자리1;24,51,10,7,46약 0.00000000013
각 자리 수에서 반올림한 값과 √2의 차이. 정보호수가 파이썬 decimal 50자리 정밀도로 계산했습니다.

자리를 하나 늘릴 때마다 오차는 수십 분의 1로 줄어듭니다. 60진법 세 자리는 십진법으로 소수 다섯~여섯 자리에 해당하는 해상도라서, 1.41421처럼 소수 다섯 자리까지 적은 십진 표기보다 조금 더 정밀하다고 생각하면 됩니다.

정확한 답이 남아 있어도, 풀이법은 별도의 문제입니다

답이 이 정도로 정확하다면 계산 방법도 그대로 되짚을 수 있을 것처럼 보입니다. 하지만 같은 근삿값에 도달하는 길은 여러 개일 수 있습니다. 값이 맞는다는 검증만으로 과거의 풀이 순서를 하나로 정할 수는 없습니다.

한 가지 현대적인 설명 방법은 두 수의 곱을 2로 유지하면서 둘의 평균을 반복해서 구하는 것입니다. 첫 추정값을 x라고 하면 다른 수는 2/x이고, 두 값의 평균을 새 추정값으로 삼습니다. 다음은 원리를 보여 주기 위한 현대식 재계산이며, 이 점토판의 실제 풀이를 복원했다는 뜻은 아닙니다.

새 추정값 = (x + 2/x) ÷ 2
1.5 → 약 1.416666667
    → 약 1.414215686
    → 약 1.414213562

흥미로운 점은 위 반복 계산의 두 번째 결과 1.414215686이 분수로 577/408이라는 것입니다. 이 분수를 60진법으로 풀면 1;24,51,10,35,17 …이 됩니다. 세 자리에서 그냥 잘라 내면 점토판과 같은 1;24,51,10이 되지만, 반올림하면 넷째 자리 35가 30보다 크므로 1;24,51,11이 됩니다. 정리하면 참값 √2를 반올림해도, 평균법의 둘째 값을 잘라 내도 같은 숫자가 나옵니다. 숫자 하나만으로는 서기가 어느 길을 걸었는지 가릴 수 없다는 뜻이고, 아래에서 풀이 순서를 단정하지 않는 이유이기도 합니다.

왜 가까워질까요? 두 양의 수의 곱이 2일 때 한쪽이 √2보다 크면 다른 쪽은 작습니다. 평균을 취하면 처음의 과도하게 큰 추정값이 내려오고, 반복하면서 두 값이 가까워집니다. 계산 가능성을 이해하는 데는 유용하지만, 이 현대식 절차를 고대 서기의 손 움직임으로 바꾸어 이야기할 근거는 부족합니다.

YBC 7289가 보여 주는 것은 정사각형의 대각선에 적용한 정밀한 수 관계입니다. 정확도는 오늘날 직접 검산할 수 있습니다. 반면 그 수를 누가 어떤 순서로 계산했는지는 추가 사료가 필요한 역사 문제입니다. 두 질문을 분리할 때, 신비화하지 않고도 고대 계산의 성취를 충분히 이해할 수 있습니다.

계산 방법과 참고 자료

60진법 전개와 오차는 정보호수가 파이썬 표준 라이브러리 decimal(50자리 정밀도)과 fractions로 직접 계산했습니다. 점토판 숫자의 판독은 아래 두 연구자의 해설을 따랐습니다.


같이 읽으면 좋은 글