Home >  Term: precizie
precizie

O măsură cantitativă a densităţii de numere reprezentate. De exemplu, într-un format binar în virgulă mobilă, care are o precizie de 53 biţi semnificative, există 253 numere reprezentate între oricare două puteri adiacente a două (în intervalul de numere normale). A nu se confunda cu o precizie de precizie, care exprimă cât de strâns un număr apropie altul.

0 0

Creator

  • Zanardi
  • (Romania)

  •  (V.I.P) 61917 points
  • 100% positive feedback
© 2024 CSOFT International, Ltd.