Casio fx-55 PLUS - Manuel (Page 16)

F-15
Plages, nombre de chiffres et
précision des calculs
La plage de calcul, le nombre de chiffres utilisés pour le calcul en interne
et la précision des calculs dépendent du type de calcul que vous êtes en
train d’effectuer.
Plage et précision des calculs
Plage de calcul
±1 Ч 10
–99 а
±9,999999999 Ч 10
99 ou 0
Nombre de chiffres pour le
calcul en interne
15 chiffres
Précision En général,
± 1 dans le 10ème chiffre
pour un calcul unique. La précision pour
l’affichage exponentiel est
± 1 dans le
chiffre moins significatif. Les erreurs
s’accumulent en cas de calculs consécutifs.
Plages de saisie et précision des calculs de fonctions
Fonctions Plage de saisie
10
x –9,999999999
× 10
99

x
 99,99999999
' x 0
 x  1 × 10
100
x 2
|
x
|  1 × 10
50
x –1
| x |  1 × 10
100 ; x G 0
°’ ”
| a |, b , c  1 × 10
100 ; 0
 b , c
L’affichage valeur des secondes est sujet à une erreur
de
±1 à la deuxième position décimale.
x
y
x
 0 : –1 × 10
100

y log x
 100
x = 0 : y  0
x
 0 :
y = n ,
m
2 n +1
( m , n sont des entiers)
Toutefois : –1
× 10
100

y log
|
x
|  100
a
b
/
c
Le total du entier, du numérateur et du dénominateur
doit être 10 chiffres ou moins (y compris les signes de
division).
RanInt#( a , b ) a

b ; | a
|, |
b
|  1 × 10
10 ; b – a
 1 × 10
10
Simp n 1
 n  9999 ( n est un entier)
La précision est en principe comme indiqué dans « Plage et précision des
calculs » ci-dessus.
La fonction de type
x
y
exige des calculs internes consécutifs, ce qui peut
entraîner l’accumulation des erreurs associées à chaque étape du calcul.
L’erreur est cumulative et a la tendance à devenir très grande dans
le voisinage de certains points singuliers et au point d’inflexion d’une
fonction.
La plage des résultats de calcul pouvant être affichés sous la forme
π est
| x |
 10 6
. Notez toutefois qu’une erreur de calcul interne peut empêcher
l’affichage des résultats de calcul sous la forme
π. Elle peut aussi entraîner
l’affichage sous la forme
π de résultats de calcul au lieu de la forme
décimale attendu.
•
•
•
•