計算尺の読み取り許容誤差

１．読み取る目盛りの桁数

計算尺を含め、目盛りというのは一般的に目盛りの１０分の１まで読み取るのが普通です。計算尺においても、その傾向は変わりません。

多くの場合、10インチの計算尺では、1～2の範囲では有効数字4桁、2～10までは有効数字3桁まで読み取ることができるとされています。また、5インチの計算尺では、1～2の範囲では有効数字3桁、2～10までは有効数字2桁あるいは3桁まで読み取ることが多いでしょう。

２．計算に伴う読み取り誤差

2.1．誤差の許容範囲(2つの数字の掛け算・割り算)

計算尺のようにアナログの計算機では、計算の時に誤差が生じてしまいます。

２つの数字の掛け算・割り算の時のこの誤差の許容範囲が、全国工業高等学校長協会の検定試験や、商工会議所の検定試験において定められています。この値は１０インチ計算尺の場合です。

• 全国工業高等学校長協会の検定試験では、±2.5/1000
• 商工会議所の検定試験では、±2.76/1000

また、後にこれらが協定を結び、±2.8/1000となりました。

2.2．誤差の許容範囲(3つの数字の掛け算・割り算)

２つの数字の掛け算・割り算と同様、３つの数字の掛け算・割り算においても許容範囲が全国工業高等学校長協会の検定試験や、商工会議所の検定試験において定められています。この値は１０インチ計算尺の場合です。

• 全国工業高等学校長協会の検定試験では、±3/1000
• 商工会議所の検定試験では、±3.22/1000

2.3．具体例

たとえば、6÷3の答えは2になりますが、全国工業高等学校長協会の検定試験の許容範囲は2×(±2.5/1000)=±0.005となり、1.995～2.005となります。しかし、2.005の部分は有効数字３桁で読み取るとすると、切り上げて2.01となります。したがって、6÷3の答えは1.995～2.01が正答となります。

2.4．10インチ計算尺でない場合

もし、５インチの計算尺を用いていた場合はどうなるでしょうか。単純に考えて、長さが半分になるので、誤差は２倍になりそうです。

実際その通りで、５インチ計算尺の誤差の許容範囲は、１０インチ計算尺の２倍で、たとえば、協定後の２つの掛け算・割り算においては±2.8/1000×2=±5.6/1000となります。

一般に、長さがxインチの計算尺の誤差の許容範囲は、１０インチの計算尺の10/x倍となります。