데이터시트에서 ±(0.5% + 2)라고 적힌 행은 계측기가 0.5퍼센트만큼 틀린다는 주장이 아닙니다. 두 개의 오차를 더한 값입니다. 첫째 항은 디스플레이에 표시된 값의 퍼센트이므로 판독값이 커지면 함께 커집니다. 둘째 항은 마지막 자리의 고정된 카운트 수이므로 그 레인지 어디에서나 같습니다. 200V 레인지에서 100.0V가 표시되면 첫째 항이 0.5V, 둘째 항이 0.2V이므로 실제 전압은 99.3V에서 100.7V 사이에 있습니다.
원저우 공장은 1999카운트와 6000카운트 계측기를 같은 벤치에서 오래 조립해 왔고, 같은 비교가 대부분의 구매 문의에서 잘못됩니다. 구매자가 ±(0.5% + 2)로 견적된 1999카운트 계측기를 ±(0.8% + 5)로 견적된 6000카운트 계측기 옆에 놓고 앞의 것이 더 정확하다고 결론 내립니다. 레인지 대부분에서 사실은 반대입니다. 판독값이 스케일 위에서 더 높이 앉고, 카운트 하나가 볼트로 환산하면 더 작은 값을 갖기 때문입니다.
퍼센트와 카운트는 서로 다른 것을 잽니다
퍼센트 항은 측정의 기울기를 정하는 부품에서 나옵니다. 전압 분배기, 기준 전압원, 아날로그 프런트엔드입니다. 분배기가 0.5퍼센트 어긋나 있으면 그 레인지의 모든 판독값이 자기 값의 0.5퍼센트만큼 어긋납니다. 10볼트는 50mV 틀리고 400볼트는 2볼트 틀리지만, 데이터시트에는 두 경우 모두 같은 숫자로 적힙니다.
카운트 항은 성격이 다릅니다. 디스플레이 스텝 단위로 정해진 고정 허용량이고, 컨버터의 양자화 오차와 이진수를 십진 자리로 바꿀 때 생기는 반올림을 함께 덮습니다. 볼트가 아니라 카운트로 표기되므로 같은 “+2″가 200mV 레인지에서는 0.2mV, 1000V 레인지에서는 2V입니다. 데이터시트를 단일 정확도 수치로 읽을 수 없는 이유가 여기 있고, 둘 다 “0.5%”라고 적힌 두 계측기가 서로 대체 가능하지 않은 이유도 여기 있습니다.
실제 디스플레이로 숫자를 풀어 보기
1999카운트 계측기는 레인지를 2000스텝으로 나누므로 카운트 하나는 대략 풀스케일을 2000으로 나눈 값입니다. 200V 레인지의 풀스케일은 199.9V이고 카운트 하나는 0.1V입니다. 아래 표는 일반적인 1999카운트 계측기의 직류 전압 다섯 레인지에 같은 ±(0.5% + 2) 사양을 적용한 결과입니다.
| 디스플레이 판독값 | 카운트 하나의 값 | ±(0.5% + 2)에서 허용되는 총오차 |
|---|---|---|
| 100.0mV | 0.1mV | 0.5mV에 0.2mV를 더해 ±0.7mV |
| 1.000V | 1mV | 5mV에 2mV를 더해 ±7mV |
| 10.00V | 10mV | 50mV에 20mV를 더해 ±70mV |
| 100.0V | 100mV | 0.5V에 0.2V를 더해 ±0.7V |
| 700V | 1V | 3.5V에 2V를 더해 ±5.5V |
마지막 열을 위에서 아래로 읽으면 문제의 모양이 드러납니다. 카운트 항은 밀리볼트 레인지에서는 사소하고, 1000V 레인지에서는 총오차의 3분의 1이 넘습니다. 400볼트 판독값에서 1볼트를 분해해야 하는 구매자는 퍼센트에 전혀 제한받지 않습니다. 2볼트 판독값에서 0.1밀리볼트를 분해해야 하는 구매자는 제한받습니다.
마지막 자리를 끝까지 믿을 수 없는 이유
리드를 연결하지 않고 계측기를 켜면 마지막 자리가 두 값 사이를 오가는 경우가 많습니다. 그 움직임은 카운트 오차가 눈에 보이는 것입니다. 컨버터가 두 디스플레이 스텝의 경계에 걸친 숫자를 만들고 있어 계측기가 번갈아 표시합니다. 고장이 아니고, 사양보다 나쁜 계측기라는 뜻도 아닙니다.
실무적 결론은 마지막 자리에 의지할 만한 정보가 없다는 것입니다. 마지막 자리가 10mV인 계측기에서 12.34V라는 판독값은, 표시된 자리까지 정확한 숫자가 아니라 ±(0.5% + 2) 예산 전체를 오차 범위로 잡은 12.34V로 다루어야 합니다. 구매자가 마지막 자리가 덜 흔들리는 계측기를 요청하는 경우가 있는데, 실제로 필요한 것은 카운트가 더 많은 계측기입니다. 그래야 관심 있는 자리가 마지막 자리가 아니게 됩니다.
같은 계측기도 레인지에 따라 정확도가 다르다
퍼센트가 레인지가 아니라 판독값에 묶여 있으므로, 측정하기에 가장 나쁜 자리는 레인지의 아래쪽입니다. 20V 레인지에서 2.00V를 읽으면 풀스케일의 10분의 1 지점이고, 디스플레이의 유효 자릿수가 줄어 카운트 항이 답에서 차지하는 몫이 커집니다. 같은 레인지에서 19.00V를 읽으면 같은 계측기로 절대값 기준 다섯 배 좋습니다.
따라서 규칙은 단순하고, 계측기를 쓰는 사람에게 그대로 전달할 만합니다. 넘지 않는 선에서 판독값이 최대한 높게 유지되는 레인지를 고르십시오. 12V 근처가 예상되면 20V 레인지가 맞고 200V 레인지는 자릿수 하나를 버리는 선택입니다. 요즘 계측기는 대부분 이 선택을 자동으로 하지만, 수동 레인지 모델은 선택을 운용자에게 맡기고, 운용자는 대개 다이얼을 원래 있던 자리에 둡니다.
데이터시트가 빠뜨리는 것
거의 모든 정확도 행에서 세 가지가 빠집니다. 첫째는 온도 계수로, 보통 18도에서 28도 사이의 구간을 벗어난 부분에 대해 표시 정확도의 정도당 비율로 따로 적힙니다. 여름에 밴 뒤에 실어 둔 계측기는 그 구간 밖에 있고, 오차 예산은 대표 행이 보여 주지 않는 방식으로 커집니다.
둘째는 테스트 리드의 저항입니다. 200옴 레인지에서 평범한 리드 한 쌍은 0.1옴대의 값을 더하는데, 이것이 판독값 자체의 허용 오차보다 클 수 있습니다. 셋째는 전류 레인지의 부담 전압입니다. 계측기가 회로와 직렬로 저항을 넣고, 낮은 전류 레인지에서는 그 저항이 측정 대상 전류 자체를 바꿉니다. 둘 다 결함이 아닙니다. 둘 다 데이터시트의 행이 측정이 아니라 계측기를 설명한다는 뜻입니다.
두 데이터시트를 속지 않고 비교하기
두 계측기를 비교하려면 두 사양을 같은 단위의 같은 판독값으로 환산하십시오. 100.00V에서 ±(0.5% + 5)인 6000카운트 계측기는 카운트당 0.01V를 분해하므로 허용량이 0.5V에 0.05V를 더한 값입니다. 100.0V에서 ±(0.5% + 2)인 1999카운트 계측기는 카운트당 0.1V를 분해하므로 허용량이 0.5V에 0.2V를 더한 값입니다. 퍼센트는 같고 총합은 네 배 차이입니다.
카운트 항 없이 퍼센트만 적은 견적은 불완전하고, 분해능 없이 카운트 항만 적은 견적은 읽을 수 없습니다. 둘 다 요청하십시오. 메시지 한 통이면 되고, 그 한 통이 어느 브로슈어의 글자가 더 컸는지로 갈리던 비교에서 모호함 대부분을 걷어 냅니다.
발주 전에 물어야 할 것
네 가지 질문이면 정확도 요구가 발주서에 닿기 전에 정리됩니다. 사용자가 실제로 어느 레인지에서 작업하는가. 그 판독값에서 의미 있는 가장 작은 변화는 얼마인가. 계측기를 상온에서 얼마나 떨어져 보관하고 사용하는가. 입고 검사에서 합격과 불합격을 가르는 기준기는 무엇인가.
답에 따라 사양이 바뀌는 경우가 많습니다. 12V 배터리를 확인하는 작업장에 6000카운트 디스플레이는 필요 없고, 몇 밀리볼트에서 션트를 비교하는 실험실에는 필요합니다. 샘플 단계 전에 이 결정을 내리면 도착하는 샘플이, 컨테이너를 적재한 뒤에야 논쟁하게 될 샘플이 아니라 합격 시험을 통과할 수 있는 샘플이 됩니다.
지금 두 장의 데이터시트 행을 들고 있다면, 분해해야 하는 판독값과 그 값이 놓인 레인지를 함께 적어 원저우 공장 엔지니어링 팀에 보내십시오. 어떤 카운트 등급과 어떤 레인지가 그 판독값을 실제로 덮는지 알려 주고, 배치를 확정하기 전에 기준기로 측정한 유닛으로 뒷받침합니다.