O măsură de cât de bine un număr apropie altul. De exemplu, precizia unui rezultat calculat reflectă adesea măsura în care erorile în calcul face să difere de rezultatul matematic exact. Precizia poate fi exprimată în termeni de cifre semnificative (de exemplu, "Rezultatul este corect la şase cifre") sau mai mult, în general, în ceea ce priveşte păstrarea proprietăţilor relevante matematice (de exemplu, "Rezultatul este corect semnul algebric").