Qué significa ±(0,5 % + 2) en la hoja de datos de un multímetro

Una línea que dice ±(0,5 % + 2) no afirma que el instrumento se equivoque medio por ciento. Son dos errores que se suman. El primero es un porcentaje de la lectura que muestra el display, así que crece con ella. El segundo es un número fijo de cuentas en el último dígito, que en esa escala siempre vale lo mismo.

En la fábrica de Wenzhou montamos instrumentos de 1999 y de 6000 cuentas en la misma mesa, y la comparación se equivoca casi siempre en el mismo punto. Un comprador pone un medidor de 1999 cuentas con ±(0,5 % + 2) al lado de uno de 6000 cuentas con ±(0,8 % + 5) y concluye que el primero es mejor. En buena parte de la escala ocurre lo contrario.

El porcentaje y las cuentas miden cosas distintas

El término porcentual viene de las piezas que fijan la pendiente: el divisor de tensión, la referencia, el frontal analógico. Si el divisor se desvía un 0,5 %, cada lectura de esa escala se desvía un 0,5 % de sí misma. Diez voltios fallan por 50 mV y cuatrocientos voltios fallan por dos voltios, y la hoja de datos describe las dos cosas con el mismo número.

El término en cuentas es de otra naturaleza. Es un margen fijo en pasos de display y cubre el error de cuantificación del convertidor, más el redondeo que ocurre al pasar de binario a dígito decimal. Como está expresado en cuentas y no en voltios, el mismo “+2” vale 0,2 mV en la escala de 200 mV y 2 V en la de 1000 V.

Recorriendo la especificación en un display de 1999 cuentas

Un instrumento de 1999 cuentas divide cada escala en unos 2000 pasos, de modo que una cuenta es aproximadamente el fondo de escala dividido por dos mil. En la escala de 200 V el fondo es 199,9 V y una cuenta vale 0,1 V. La tabla aplica la misma especificación ±(0,5 % + 2) a las cinco escalas de tensión continua habituales.

Al leer la última columna aparece la forma del problema. El término en cuentas es irrelevante en la escala de milivoltios y representa más de un tercio del error total en la de 1000 V. Quien necesita resolver un voltio sobre una lectura de cuatrocientos voltios no está limitado por el porcentaje.

Por qué el último dígito nunca es de fiar

Encienda el instrumento sin puntas conectadas y el último dígito suele oscilar entre dos valores. Ese movimiento es el error de cuentas a la vista: el convertidor produce un número que cae justo en el límite entre dos pasos del display y el equipo alterna. No es una avería ni indica que el medidor esté por debajo de su especificación.

La consecuencia práctica es que el último dígito no lleva información utilizable. Una lectura de 12,34 V en un instrumento cuyo último dígito vale 10 mV debe tratarse como 12,34 V con todo el presupuesto de ±(0,5 % + 2) aplicado, no como un número exacto hasta el dígito mostrado.

El mismo instrumento es más preciso en unas escalas que en otras

Como el porcentaje va atado a la lectura y no a la escala, el peor sitio para medir es el fondo de una escala. Leer 2,00 V en la escala de 20 V deja el instrumento a una décima parte del fondo, con menos dígitos significativos y con el término en cuentas pesando más en la respuesta. Leer 19,00 V en la misma escala es cinco veces mejor en términos absolutos, con el mismo equipo.

La regla que sale de ahí es una sola y conviene transmitirla a quien use el medidor: elegir la escala que deje la lectura lo más alta posible sin pasarse. La mayoría de los instrumentos actuales lo hacen solos, pero un modelo de rango manual deja la decisión en el operario, y el operario suele dejar el selector donde estaba.

Lo que la hoja de datos no dice

Faltan tres cosas en casi todas las líneas de precisión. La primera es el coeficiente de temperatura, que suele ir aparte como fracción de la precisión declarada por grado fuera de una banda de 18 a 28 grados. Un medidor que pasa el verano en la parte de atrás de una furgoneta está fuera de esa banda.

La segunda es la resistencia de las puntas. En la escala de 200 ohmios, un par de puntas corrientes aporta unas décimas de ohmio, que puede ser mayor que la tolerancia de la propia lectura. La tercera es la caída de tensión en las escalas de corriente. Ninguna de las tres es un defecto: las tres significan que la línea de la hoja de datos describe el instrumento, no la medición.

Comparar dos hojas de datos sin equivocarse

Para comparar hay que llevar las dos especificaciones a la misma lectura y a la misma unidad. Un instrumento de 6000 cuentas con ±(0,5 % + 5) a 100,00 V resuelve 0,01 V por cuenta, así que su margen es 0,5 V más 0,05 V. Uno de 1999 cuentas con ±(0,5 % + 2) a 100,0 V resuelve 0,1 V por cuenta, así que su margen es 0,5 V más 0,2 V.

Una cotización que da solo el porcentaje, sin el término en cuentas, está incompleta. Una que da el término en cuentas sin la resolución no se puede leer. Conviene pedir los dos datos: es un mensaje y elimina buena parte de la ambigüedad de una comparación que, si no, acaba decidiéndose por el tamaño de letra del folleto.

Cuatro preguntas antes de la orden de compra

Cuatro preguntas fijan el requisito de precisión antes de que llegue a convertirse en una orden. ¿En qué escala va a trabajar realmente el usuario? ¿Cuál es el cambio más pequeño de esa lectura que importa? ¿A qué distancia de la temperatura ambiente va a estar el instrumento? ¿Contra qué referencia va a aceptar o rechazar un lote la inspección de entrada?

Las respuestas suelen mover la especificación. Un taller que revisa baterías de 12 V no necesita un display de 6000 cuentas, y un laboratorio que compara derivaciones de unos pocos milivoltios sí. Decidirlo antes de la muestra significa que la muestra que llega es la que puede pasar la inspección, y no la que hay que discutir con el contenedor ya cargado.

Si ahora mismo tiene dos líneas de hoja de datos delante, envíe las dos a nuestro equipo de ingeniería junto con la lectura que necesita resolver y la escala en la que cae. Los ingenieros de nuestra fábrica en Wenzhou le dirán qué clase de cuentas y qué escala cubren de verdad esa lectura, y lo respaldarán con una unidad medida contra referencia antes de comprometer un lote.