Não confunda resolução com precisão.A resolução é o menor valor que você pode medir com um instrumento de medição. Nos instrumentos digitais é a variação que ocorre no último dígito.
Exemplo, uma balança com resolução de 0,0001 g significa que podemos medir uma massa até a quarta casa da grama, ou seja 0,1 mg, e que é possível medir diferenças de massa até 0,1 mg. A precisão está relacionada com a dispersão dos resultados em torno de um valor médio e pode ser quantificada através do desvio padrão das medições.
Por exemplo, se com uma balança de resolução 0,01 g você medir uma mesma massa 3 vezes e obter os resultados 0,25 g, 0,23g e 0,27 g o desvio padrão será igual a ± 0,02 g e você poderá relatar que a precisão dessa medição foi, portanto, igual a ± 0,02 g. Mas se os resultados fossem 0,25 g, 0,24g e 0,26 g o desvio padrão seria igual a ± 0,01 g. Da mesma forma, você poderia afirmar que a precisão foi de ± 0,01 g.
A precisão não é sinônimo de incerteza de medição.
