データシートの±(0.5% + 2)という行は、計器が0.5パーセントずれるという主張ではありません。2つの誤差を足したものです。片方は読み値に比例して増え、もう片方はレンジのどこでも同じ大きさで残ります。第1項は表示されている値に対する割合なので、読み値が大きくなるほど大きくなります。第2項は最下位桁の固定カウント数なので、そのレンジのどこでも同じです。表示が100.0 Vの200 Vレンジでは、第1項が0.5 V、第2項が0.2 Vとなり、真の電圧は99.3 Vから100.7 Vのあいだのどこかになります。誤差は、表示の値に比例する項と、桁に固定される項に分けて考える必要があります。
温州の当社工場は1999カウント機と6000カウント機を長年同じ台で組んできましたが、同じ比較が発注の問い合わせのほとんどで間違えます。買い手が±(0.5% + 2)と見積もられた1999カウント機を、±(0.8% + 5)と見積もられた6000カウント機の隣に置き、前者のほうが精度が高いと結論します。レンジの大部分では逆です。読み値がスケール上で高く位置し、1カウントの電圧換算が小さくなるからです。同じ精度表記でも、カウント数が違えば意味が変わります。
パーセントとカウントは別のものを測っている
パーセント項は測定の傾きを決める部品から来ます。分圧器、リファレンス、アナログフロントエンドです。分圧器が0.5パーセントずれていれば、そのレンジのすべての読み値が自分自身の0.5パーセントだけずれます。10 Vは50 mV外し、400 Vは2 V外します。どちらもデータシートでは同じ数字で表されます。同じ数字でも、レンジが変われば電圧に換算した大きさは変わります。
カウント項は性質が違います。表示ステップで表した固定の許容量で、変換器の量子化誤差と、2進数を10進の桁に変えるときの丸めを含みます。電圧ではなくカウントで表されるため、同じ「+2」が200 mVレンジでは0.2 mV、1000 Vレンジでは2 Vになります。だからデータシートは単一の精度数値としては読めませんし、どちらも「0.5%」と書かれた2台が互換とは限りません。分解能の桁数まで含めて比べて初めて、2台は比較できます。
実際の表示で数字を追う
1999カウント機は1レンジを2000ステップに分けるので、1カウントはおよそフルスケールを2000で割ったものです。200 Vレンジのフルスケールは199.9 Vで、1カウントは0.1 Vです。下の表は、典型的な1999カウント機の5つのDC電圧レンジに、同じ±(0.5% + 2)を当てはめたものです。表の各行は、表示がその桁数で出ている場合の値です。
| 表示の読み値 | 1カウントの値 | ±(0.5% + 2)での許容誤差の合計 |
|---|---|---|
| 100.0 mV | 0.1 mV | 0.5 mVに0.2 mVを加えて±0.7 mV |
| 1.000 V | 1 mV | 5 mVに2 mVを加えて±7 mV |
| 10.00 V | 10 mV | 50 mVに20 mVを加えて±70 mV |
| 100.0 V | 100 mV | 0.5 Vに0.2 Vを加えて±0.7 V |
| 700 V | 1 V | 3.5 Vに2 Vを加えて±5.5 V |
最後の列を縦に読むと、問題の形が見えてきます。カウント項はミリボルトレンジでは取るに足らず、1000 Vレンジでは全誤差の3分の1を超えます。400 Vの読み値で1 Vを分解したい買い手を制限しているのは、パーセントではまったくありません。2 Vの読み値で0.1 mVを分解したい買い手は、制限されます。必要な分解能から逆算して、レンジとカウント数を選ぶのが正しい順序です。
最下位桁が完全には信用できない理由
リードを接続せずに電源を入れると、最下位桁が2つの値のあいだで動くことがよくあります。その動きはカウント誤差が目に見えている姿です。変換器が2つの表示ステップの境界に乗る数値を出しており、計器が交互に表示しています。故障ではなく、仕様より悪いということでもありません。表示のばらつきは、計器の状態ではなく変換器の性質から来ています。
実務上の帰結として、最下位桁には頼れる情報がありません。最下位桁が10 mVの計器で12.34 Vという読み値は、表示された桁まで正確な数値ではなく、±(0.5% + 2)の予算まるごとの上下を含んだ12.34 Vとして扱うべきです。最下位桁がもっと安定した計器を求める買い手がいますが、たいてい必要なのはカウント数の多い計器で、気にする桁が最下位でなくなることです。カウント数が増えれば、同じ読み値でも1カウントの重みが小さくなります。
同じ計器でもレンジによって精度が違う
パーセントはレンジではなく読み値に結びつくので、最も不利な測定位置はレンジの下端です。20 Vレンジで2.00 Vを読むとフルスケールの10分の1に位置し、表示の有効桁が減り、カウント項が答えに占める割合が大きくなります。同じレンジで19.00 Vを読めば、同じ計器で絶対値としては5倍良くなります。レンジの下端で測るのは、計器の性能を最も厳しく使う使い方です。
そこから導かれる規則は単純で、計器を使う人に伝える価値があります。振り切れない範囲で読み値をできるだけ高く保つレンジを選ぶことです。12 V前後が予想されるなら20 Vレンジが正しく、200 Vレンジは1桁を無駄にします。現代の計器の多くはこれを自動で行いますが、マニュアルレンジのモデルは選択を操作者に委ね、操作者はたいていダイヤルを元の位置に置いたままにします。レンジを上げすぎると、表示の有効桁が1桁減ります。
データシートが書いていないこと
ほとんどすべての精度の行から3つが欠けています。1つは温度係数で、通常は18〜28度の帯の外で、公表精度の何分の1という形で別に書かれます。夏のバンの荷室に置かれた計器はその帯の外にあり、誤差予算は見出しの行が示さない形で膨らみます。温度の条件は、精度の数値と同じ行に書かれていないことがほとんどです。
2つ目はテストリードの抵抗です。200オームレンジでは、普通のリード1組が0.数オームを寄与し、それが読み値自体の許容差より大きくなることがあります。3つ目は電流レンジのバーデン電圧です。計器は回路に直列に抵抗を挿入し、低電流レンジではその抵抗が測っている電流そのものを変えます。どちらも欠陥ではありません。どちらも、測り方を決めれば小さくできる誤差です。どちらも、データシートの行が記述しているのは計器であって測定ではない、ということを意味します。測定系全体の誤差は、データシートの数値より大きくなることがあります。
誤導されずに2つのデータシートを比べる
2つの計器を比べるには、両方の仕様を同じ読み値、同じ単位に換算します。±(0.5% + 5)の6000カウント機は100.00 Vで1カウント0.01 Vなので、許容は0.5 Vに0.05 Vを加えたものです。±(0.5% + 2)の1999カウント機は100.0 Vで1カウント0.1 Vなので、許容は0.5 Vに0.2 Vを加えたものです。パーセントは一致し、合計は4倍違います。同じ読み値に換算して初めて、2つの仕様は比較できます。
カウント項のないパーセントだけの見積は不完全で、分解能のないカウント項だけの見積は読めません。両方を求めてください。1通のメールで済み、どちらのパンフレットの文字が大きかったかで決まるような比較の曖昧さの大半が消えます。見積の段階でこの2つを求めれば、比較の基準がそろいます。
発注前に聞くべきこと
4つの質問で、精度の要求は発注書に届く前に決まります。使用者が実際に使うのはどのレンジか。その読み値で意味を持つ最小の変化はいくらか。計器は室温からどれだけ離れた場所で保管、使用されるか。入荷検査はどの基準器で合否を判定するか。この4つが決まれば、必要なレンジとカウント数はおのずと絞られます。
答えはたいてい仕様を動かします。12 Vのバッテリーを確認する作業場に6000カウント表示は要りませんし、数ミリボルトでシャントを比べるラボには必要です。サンプル段階の前にこれを決めておけば、届くサンプルは受け入れ試験に通るものになり、コンテナを積んだ後に議論になるものにはなりません。サンプル段階で決めた仕様が、そのまま受け入れ基準になります。
いま2つのデータシートの行を手元に置いているなら、分解したい読み値とそのレンジを添えて、両方を当社の技術チームにお送りください。温州の当社工場の技術者が、その読み値を実際にカバーするカウントクラスとレンジを答え、バッチを決める前に基準器で測った1台で裏づけます。仕様の確認は、発注の前でも後でもなく、サンプルの段階で済ませてください。