E24系列の誤差

概要

E24系列の真の値と誤差

E24系列の誤差について

前章で

これらの近似値は、以下の数式から求めることができます。
X = 10 n/K 

と書きましたが、

E24の値と真値(計算上の値)との誤差をまとめました。真値を小数点で四捨五入したものを「四捨五入」欄に記載しました。また、有効数字6桁の真値を「有効数字6桁欄に記載しました。あわせて、誤差を「E24と真値の誤差」欄に記載しています。

背景がグレーは、誤差(JISで定義された許容値ではなく、E24の値と真値との計算上の誤差)が1%以上あるものです。E24欄の赤文字は、E24の値と四捨五入値と差がある物です。

表を見ると、 「30」や「33」は真値から4%以上離れていることになります。(アレ?、おいらの計算あっているのかな?)

E24系列の誤差

E24の値と誤差
E24の値四捨五入値有効数値6桁E24と真値の誤差
10 10 10.0000 0.0
11 11 11.0069 -0.1
12 12 12.1153 -1.0
13 13 13.3352 -2.5
15 15 14.6780 2.2
16 16 16.1560 -1.0
18 18 17.7828 1.2
20 20 19.5734 2.2
22 22 21.5443 2.1
24 24 23.7137 1.2
27 26 26.1016 3.4
30 29 28.7298 4.4
33 32 31.6228 4.4
36 35 34.8070 3.4
39 38 38.3119 1.8
43 42 42.1697 2.0
47 46 46.4159 1.3
51 51 51.0897 -0.2
56 56 56.2341 -0.4
62 62 61.8966 0.2
68 68 68.1292 -0.2
75 75 74.9894 0.0
82 83 82.5404 -0.7
91 91 90.8518 0.2




 作成:2018/03/19 20:10:58  (作成
 更新:2018/04/01 19:35:14  (更新