Coneixement de la resolució del multímetre
El valor de tensió corresponent a l'últim dígit del multímetre digital en el rang de tensió més baix s'anomena resolució, que reflecteix la sensibilitat del mesurador.
La resolució dels instruments digitals digitals augmenta amb l'augment dels dígits de visualització. Els indicadors de màxima resolució que poden aconseguir els multímetres digitals amb diferents dígits són diferents, per exemple: 100 μV per a un multímetre de 31/2-dígits.
L'índex de resolució del multímetre digital també es pot visualitzar per resolució. La resolució és el percentatge del nombre més petit (que no sigui zero) que el mesurador pot mostrar al nombre més gran.
Per exemple, el nombre mínim que pot mostrar un multímetre digital general de 31/2-dígits és 1, i el nombre màxim pot ser 1999, de manera que la resolució és igual a 1/1999≈0. 05 per cent.
Cal assenyalar que la resolució i la precisió pertanyen a dos conceptes diferents. El primer caracteritza la "sensibilitat" de l'instrument, és a dir, la capacitat de "reconèixer" tensions minúscules; aquest últim reflecteix la "precisió" de la mesura, és a dir, el grau de coherència entre el resultat de la mesura i el valor real.
No hi ha cap connexió necessària entre els dos, de manera que no es poden confondre i la resolució (o resolució) no s'ha de confondre amb semblança. La precisió depèn de l'error complet i de l'error de quantificació del convertidor A/D intern i del convertidor funcional de l'instrument.
Des de la perspectiva de la mesura, la resolució és un indicador "virtual" (que no té res a veure amb l'error de mesura), i la precisió és un indicador "real" (determina la mida de l'error de mesura). Per tant, no és possible augmentar arbitràriament el nombre de dígits de visualització per millorar la resolució de l'instrument.
