Metrohm 899 Coulometer - Manuel (Page 118)

10.9 Algorithmes de calcul dans 899 Coulometer
￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
108 ￭￭￭￭￭￭￭￭
899 Coulometer
1 ≤ n ≤ 20 et 1 ≤ k ≤ 5.
Valeur moyenne :
Écart-type absolu :
Écart-type relatif (en %) :
Explications
Le calcul statistique est réalisé sur la base des valeurs mathématiques exac-
tes.
En format numérique 64 bits, la mantisse de nombres à virgule flottante
s'étend à 15 chiffres après la virgule en représentation décimale.
La précision peut être définie en sélectionnant le préfixe de l'unité (milli,
micro) et le nombre de chiffres après la virgule.
Exemple :
Le résultat affiché 1234,56789158763 mg/l possède une mantisse à
15 chiffres. Il faut l'arrondir à trois chiffres après la virgule en application
de la méthode d'arrondissage :
￭ 1234,568 mg/L.
Si le même résultat est exprimé en g/l (1,23456789158763 g/l) et aussi
arrondi à trois chiffres après la virgule, on obtient
￭ 1,235 g/L.
En d'autres termes, vous obtenez le plus faible niveau de perte de préci-
sion dы а l'arrondi si vous configurez l'application et le format numérique
de façon à ce que les nombres affichés possèdent le plus de chiffres avant
la virgule.
Des écarts peuvent être observés en recalculant l'ensemble des statistiques
en utilisant une calculatrice ou un tableur PC. Ceci est lié aux différents
formats numériques binaires utilisés par ces calculateurs.
Remarque
Les pertes de précision évoquées et dues à l'arrondi que l'on observe au
niveau de la mantisse restent du domaine théorique. La plupart du
temps, elles sont en-deçà de l'ordre de grandeur de l'incertitude de
mesure (erreur de balance, de dosage, de mesurage).