1 誤差の定義

誤差を次のように定義します。

1.1 誤差

正しい目盛りの値 x から、目盛りにして Δx だけずれた (つまり、目盛りの x + Δx を指した) としたとき、誤差は Δx である。

1.2 相対誤差

上のとき、相対誤差は\frac{Δx}{x} である。

2 一般的な議論

計算尺では、実際の長さにして Δl だけ誤差が生じるとします。すると、目盛りの種類によって対応する Δx の値は変わってきます。そこで、目盛り F では、 x という目盛りが左の基線から log f(x) の位置にあるとします。

では、次のような状況を考えてみます。正しい目盛りの値が x で、読み取りの際、長さにして Δl だけずれたため、目盛りの読みが

x + Δx となった。すると、次の方程式が成立します。

log f(x) + Δl = log f(x + Δx)

これを次のように式変形します。

log f(x) + Δl = log f(x) + log 10^{Δl}
= log (f(x)10^{Δl})
= log {f(x)(1 + Δl ln 10)}
= log {f(x) + Δlf(x) ln 10)}
log f(x + Δx) = log {f(x) + Δxf′(x)}

これより、

log {f(x) + Δlf(x) ln 10)} = log {f(x) + Δxf′(x)}
Δlf(x) ln 10 = Δxf′(x)
Δx = \frac{f(x) ln 10}{f′(x)}Δl

つまり、誤差として Δx = \frac{f(x) ln 10}{f′(x)}Δl, 相対誤差として\frac{Δx}{x} = \frac{f(x) ln 10}{xf′(x)}Δl 含んでいることになります。

3 C 尺,A 尺,K 尺 (n 乗尺) について

n 乗尺では f(x) = x^{\frac{1}{n}} となっています。

f(x) = x^{\frac{1}{n}} , f′(x) = \frac{1}{n}x^{\frac{1}{n} −1}

先ほど導出した Δx の式に代入すると、

Δx = \frac{x^{\frac{1}{n}} ln 10}{\frac{1}{n}x^{\frac{1}{n} −1}}Δl
= nxΔl ln 10

となります。つまり、 n が大きいほど、また x が大きいほど誤差が大きくなります。また、相対誤差は

\frac{Δx}{x} = nΔl ln 10

となります。つまり、 n 乗尺では相対誤差は x の値に関係なく一定となります。また、 n が大きいほど大きくなります。

n が大きいほど誤差や相対誤差が大きくなるのは、 n が大きいほど目盛りの狭くなっているというところに現れています。 C 尺 (n = 1) の 1.1 − 1.0 間、 A 尺 (n = 2) の 1.1 − 1.0 間、 K 尺 (n = 3) の 1.1 − 1.0 間の長さを比較してください。 n が大きいほど狭くなっています。

相対誤差は x の値に関係なく一定となるというのも重要な結果です。これより、答えが 1 ≦ x ≦ 2 のとき、一桁多く読めるということが正当化されます。

4 A 尺と LL 尺について

ある数の平方根を求めるとき、 A 尺を使うべきか LL 尺を使うべきかという問題があります。 1.1 の平方根を求めるときは LL 尺を使いますし、 91 の平方根を求めるときは A 尺を使います。それでは、その境目はどこでしょうか。

A 尺では f(x) = x^{\frac{1}{3}} , LL3 尺では f(x) = ln x となっています。それぞれの相対誤差を求めてみます。 A 尺では

Δx = 2xΔl ln 10, \frac{Δx}{x} = 2Δl ln 10

LL3 尺では

Δx = x ln xΔl ln 10, \frac{Δx}{x} = ln xΔl ln 10

となります。これが等しくなるときは、

2Δl ln 10 = ln xΔl ln 10
2 = ln x
x = e^{2} = 7.389

となります。

5 S 尺について

S 尺では f(x) = sin x となっています。 (目盛りを変えるだけですからラジアンで考えます。 ) 相対誤差を求めてみると

Δx = tan xΔl ln 10, \frac{Δx}{x} = \frac{tan x}{x}Δl ln 10

となります。ここで lim_{x→ \frac{π}{2}} の極限を取ってみると

lim_{x→ \frac{π}{2}} \frac{tan x}{x}Δl ln 10 = +∞

となります。つまり、 lim_{x→ \frac{π}{2}} では S 尺以外の方法を検討する必要があるのです。