Significat de la resolució i la precisió dels instruments de visualització digital
Quan seleccioneu un mesurador de pinça FLUKE, una de les seves especificacions tècniques diu: Pantalla digital: resolució de 6000 comptes. Què significa "6000 count"? A més, què significa l'especificació de precisió "1,6 % ± 6 recomptes {40 A}"?
Per als instruments de visualització digital, la magnitud elèctrica corresponent a un dígit menys significatiu de l'interval mínim es defineix com a capacitat de resolució. Per exemple, es diu que un cert multímetre digital té una capacitat de resolució màxima de 10 μV, que reflecteix la sensibilitat de l'instrument. Quan la capacitat de resolució s'expressa com a percentatge, és a dir, la relació entre el dígit visualitzable més petit i el dígit visualitzable màxim, s'anomena resolució.
El terme "compte de 6000" fa referència a la sensibilitat de resolució de la pantalla del mesurador, és a dir, la seva capacitat per identificar petits senyals elèctrics. En poques paraules, suposem que el senyal d'entrada oscil·la entre 0 i 1 V. L'instrument mostra el valor digital convertit pel convertidor A/D. En altres paraules, el rang 0-1 V es divideix en 6000 parts (recomptes), on 0 V correspon a 0 i 1 V correspon a 6000. Per tant, una resolució més alta produeix resultats més precisos quan es mesuren variacions de senyal menor. Preneu com a exemple els mesuradors de pinça 317/319. Tenen quatre tubs de visualització digital. Com que el dígit més significatiu pot mostrar 5 o 6 i el dígit mínim que es pot mostrar és 1, es tracta de comptadors de 3-3/4 dígits amb una lectura màxima de 5999 (nominalment 6000). La seva resolució és 1/5999, aproximadament un 0,016 %.
"1,6% ±6 recomptes" indica la precisió de l'instrument. Tingueu en compte que hi ha una separació entre "1,6 %" i "±6 recomptes", és a dir, s'apliquen dos formats d'expressió de precisió. Per a l'interval de 40 A: un terme és de l'1,6 % i l'altre terme és de ±6 comptes.
