Metrohm 848 Titrino plus - Manuel (Page 141)

￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
10 Annexe
848 Titrino plus
￭￭￭￭￭￭￭￭ 131
Réponse de l'appareil Commentaire
OK Fonction exécutée
E1 Méthode non trouvée
E2 Variable non valide
E3 Fonction non valide
10.8 Algorithmes de calcul dans 848 Titrino plus
Format numérique
Le logiciel du 848 Titrino plus se conforme à la norme répandue IEEE 754
(IEEE Standard for Binary Floating-Point Arithmetic for Microprocessor Sys-
tems) pour ses calculs. En d'autres termes, les nombres sont utilisés sous la
forme de « double précision » (64 bits) dans les calculs. Les nombres déci-
maux sont convertis en nombres binaires en interne et utilisés sous cette
forme pour les calculs. Leur affichage à l'écran et dans les rapports fait de
nouveau appel aux nombres décimaux, autrement dit les nombres binaires
sont à nouveau convertis en nombres décimaux. Pour pouvoir vérifier soi-
même si les calculs réalisés en interne sont bien conformes à la norme IEEE
754, les nombres sont présentés à la précision exacte dans les rapports de
calcul. Un écart minimal peut apparaître entre un nombre saisi au départ
sous la forme décimale et sa représentation interne à la précision exacte,
et ce au niveau des dernières décimales. Cet écart provient de l'absence
de correspondance binaire exacte pour tout nombre décimal. Si par ex.,
vous saisissez la prise d'essai 50,3 mg, le rapport de calcul en « double
précision » présentera le nombre 5,02999999999999E+01.
Méthode d'arrondissage
Les valeurs mesurées et les résultats sont arrondis à un nombre défini de
décimales (arrondi commercial, conforme au guide de la pharmacopée
américaine USP). Si le chiffre occupant la première décimale appelée à dis-
paraître est 1, 2, 3 ou 4, le nombre est arrondi vers le bas tandis que s'il
s'agit de 5, 6, 7, 8 ou 9, le nombre est arrondi vers le haut. Les nombres
négatifs sont arrondis d'après leur montant, en s'éloignant de zéro.
Exemples :
2,33 devient 2,3
2,35 devient 2,4
2,47 devient 2,5
–2,38 devient –2,4
–2,45 devient –2,5