Plages de calcul, nombre de chiffres et précision – HP Calculatrice scientifique HP 300s Manuel d'utilisation

Page 92

Advertising
background image

85

Une ERREUR d'empilement se produit lorsque le calcul que
vous effectuez dépasse la capacité de la la mémoire en pile.

Plages de calcul, nombre de chiffres et
précision

La plage de calcul, le nombre de chiffres utilisés pour le calcul
interne, et la précision du calcul dépend du type de calcul que
vous effectuez.

Plage de calculs et précision

Gammes d'entrée de calcul de fonction et
précision

Plage de calculs

±1

✕10

-99

to ±9,9999999

✕10

-99

or 0

Nombre de chiffres pour
les calculs internes

15 chiffres

Précision

En général, ±1 au 10ème chiffre pour un
seul calcul. La précision pour l'affichage
exponentiel est de ±1 au chiffre le moins
significatif. Les erreurs sont cumulées
dans le cas de calculs consécutifs.

Fonctions

Plage de saisie

sin

DEG

0 ≦

< 9

✕ 10

9

RAD

0 ≦

< 157079632.7

GRA

0 ≦

< 1

✕ 10

10

(1)

2

(2)

3

(3)

4

(4)

5

(5) 4

(1)

(2)

(

(3)

(

(4)

+

(5)

(6)

(

(7)

+

Empilement numérique

Commande d'empilement

x

x

x

x

Juniper.book Page 85 Friday, August 24, 2012 2:00 AM

Advertising