Metrohm 899 Coulometer - Manuel (Page 117)

￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
10 Annexe
899 Coulometer
￭￭￭￭￭￭￭￭ 107
10.9 Algorithmes de calcul dans 899 Coulometer
Format numérique
Le logiciel du 899 Coulometer se conforme à la norme répandue IEEE 754
(IEEE Standard for Binary Floating-Point Arithmetic for Microprocessor Sys-
tems) pour ses calculs. En d'autres termes, les nombres sont utilisés sous la
forme de « double précision » (64 bits) dans les calculs. Les nombres déci-
maux sont convertis en nombres binaires en interne et utilisés sous cette
forme pour les calculs. Leur affichage à l'écran et dans les rapports fait de
nouveau appel aux nombres décimaux, autrement dit les nombres binaires
sont à nouveau convertis en nombres décimaux. Pour pouvoir vérifier soi-
même si les calculs réalisés en interne sont bien conformes à la norme IEEE
754, les nombres sont présentés à la précision exacte dans les rapports de
calcul. Un écart minimal peut apparaître entre un nombre saisi au départ
sous la forme décimale et sa représentation interne à la précision exacte,
et ce au niveau des dernières décimales. Cet écart provient de l'absence
de correspondance binaire exacte pour tout nombre décimal. Si par ex.,
vous saisissez la prise d'essai 50,3 mg, le rapport de calcul en « double
précision » présentera le nombre 5,02999999999999E+01.
Méthode d'arrondissage
Les valeurs mesurées et les résultats sont arrondis à un nombre défini de
décimales (arrondi commercial, conforme au guide de la pharmacopée
américaine USP). Si le chiffre occupant la première décimale appelée à dis-
paraître est 1, 2, 3 ou 4, le nombre est arrondi vers le bas tandis que s'il
s'agit de 5, 6, 7, 8 ou 9, le nombre est arrondi vers le haut. Les nombres
négatifs sont arrondis d'après leur montant, en s'éloignant de zéro.
Exemples :
2,33 devient 2,3
2,35 devient 2,4
2,47 devient 2,5
–2,38 devient –2,4
–2,45 devient –2,5
Statistiques
La moyenne arithmétique tout comme les écarts-types absolu et relatif des
résultats sont calculés :
Il est possible d'exploiter au maximum cinq résultats provenant d'une
détermination (1
≤ k ≤ 5) sur le plan statistique. Une série statistique ne
peut contenir que 20 déterminations au maximum (1 ≤ n ≤ 20).
La convention suivante s'applique aux formules présentées ci-dessous :