マルチメーターのカウント数が実際に変えるもの
6000カウントのマルチメーターが、1999カウントの製品より一般に正確というわけではありません。カウント数が示すのは、表示器がいま選んでいるレンジをどれだけ細かく刻むか、その一点だけです。2Vレンジでは1999カウントの製品も1mV刻み、6Vレンジでは6000カウントの製品も1mV刻みです。5.5Vを測るとき、前者は20Vレンジへ上がる必要があり、そこでの刻みは10mVになります。後者はそのまま6Vレンジに留まれます。 この一例が論点のすべてです。カウント数は「この製品のほうが上」とは言っていません。測定値に対してレンジがどこで息切れするかを示しているだけで、その地点は測定値ごとに違います。私たちは温州で両方のクラスを生産しています。1999カウントのDT9205A+と6000カウントのDM101で、どちらを選ぶかを決める問いは、買い手が最初に口にする問いとはほとんど一致しません。 カウント数が1刻みの幅を決める 表示器はレンジごとに決まった個数の異なる値を表示でき、その個数がカウント数です。1999カウントの製品は1レンジをおよそ2000刻みに分けるので、1刻みの幅はフルスケールを2000で割った値になります。6000カウントの製品は同じ幅を6000刻みに分けるので、1刻みは約3分の1になります。 仕組みはこれだけです。隠れた演算も補間もありません。変換器がある数値を出し、ファームウェアが最も近い表示刻みに丸め、刻みの幅はカウントクラスとレンジで決まります。同じカウント数と同じレンジの2台は、価格差がいくらあっても分解能はまったく同じです。 分解能と精度は別物 刻みが細かいほど、小さな変化が見えます。絶対値が真値に近いとは約束していません。見積依頼の行き違いはほとんどこの区別で起きるので、パーセント＋桁の読み方の記事で詳しく扱っています。仕様書の「桁」と、型番の「カウント」は別の数字だからです。 ±(1%+3)と公称された6000カウントの製品が、±(0.5%+2)の1999カウントの製品より不正確なことはあり得ます。ある測定で10倍細かく見えるとしても、です。精度の行にあるカウントは誤差の予算、型番にあるカウントは表示能力です。同じ言葉を共有しているだけで、中身は無関係です。 同じ測定値、2台の製品、違う刻み 次の表は、技術者が実際に判別する必要のある5つの測定値を、それぞれの製品が選ぶであろうレンジに置いて並べたものです。刻みはレンジ幅から計算した値で、カタログの数字ではありません。DT9205A+は200mV・2V・20V・200V・1000V、DM101は600mV・6V・60V・600V・1000Vを持ちます。 判別したい測定値 1999カウント：レンジと刻み 6000カウント：レンジと刻み 0.15V 200mVレンジ、1刻み0.1mV 600mVレンジ、1刻み0.1mV 1.5V 2Vレンジ、1刻み1mV 6Vレンジ、1刻み1mV 5.5V 20Vレンジ、1刻み10mV 6Vレンジ、1刻み1mV 55V 200Vレンジ、1刻み100mV 60Vレンジ、1刻み10mV…