Uma medida de quão bem um número se aproxima de outro. Resultado de por exemplo, a precisão de um computado muitas vezes reflete a extensão a que erros na computação causam a diferir o resultado matematicamente exato. Precisão pode ser expressa em termos de dígitos significativos (por exemplo, "O resultado é precisão de seis dígitos") ou, mais geralmente, em termos de preservação de propriedades matemáticas relevantes (por exemplo, "O resultado tem o sinal algébrico correto).