Inhaltsverzeichnis
Werbung
k Berechnungsbereiche, Stellenzahl und Genauigkeit
Die nachstehende Tabelle zeigt den allgemeinen Rechenbereich (Bereich für Ein- und Ausgabe
von Werten), die Stellenzahl für die internen Berechnungen und die Berechnungsgenauigkeit.
Rechenbereich
Interne Berechnung
Genauigkeit
A Eingabebereiche und Genauigkeit der Berechnung nach Funktionen
Funktionen
DEG
x
sin
RAD
GRA
DEG
x
cos
RAD
GRA
DEG
x
tan
RAD
GRA
–1
x
sin
0 < |
–1
x
cos
–1
x
0 < |
tan
x
sinh
0 < |
x
cosh
–1
x
0 < |
sinh
–1
x
cosh
1 <
0 < |
x
tanh
–1
x
0 < |
tanh
x
x
log
/ln
0 <
x
10
–9,999999999×10
x
e
–9,999999999×10
'
x
0 <
2
x
|
x
–99
±1×10
bis ±9,999999999×10
15 Stellen
Generell ±1 an der 10. Stelle bei einer einzelnen Berechnung. Bei
Berechnungsergebnissen im Exponentialformat beträgt der Fehler
±1 bei den niederstwertigen Stellen der Mantisse. In fortlaufenden
Berechnungen sind die Fehler kumulativ.
0 < |
x
| < 9×10
0 < |
| < 157079632,7
x
0 < |
x
| < 1×10
0 < |
| < 9×10
x
0 < |
x
| < 157079632,7
0 < |
x
| < 1×10
x
, außer wenn |
Wie sin
x
, außer wenn |
Wie sin
x
, außer wenn |
Wie sin
x
| < 1
x
| < 9,999999999×10
x
| < 230,2585092
x
| < 4,999999999×10
x
< 4,999999999×10
| < 9,999999999×10
x
x
| < 9,999999999×10
x
< 9,999999999×10
99
x
<
99
x
<
100
x
< 1×10
50
| < 1×10
99
Eingabebereich
9
10
9
10
x
| = (2
n
–1)×90.
x
| = (2
n
–1)×
x
| = (2
n
–1)×100.
99
99
99
99
–1
99
< 99,99999999
< 230,2585092
G-75
oder 0
π
/2.
Werbung
Inhaltsverzeichnis
