Inhaltsverzeichnis
Werbung
Rechenbereiche, Anzahl der Stellen
und Genauigkeit
Der Rechenbereich, die für die internen Berechnungen verwendete Anzahl
der Stellen und die Rechnungsgenauigkeit hängen von dem Rechnungstyp
ab, den Sie ausführen.
Rechnungsbereich und Genauigkeit
Rechnungsbereich
Anzahl der Stellen für
interne Berechnungen
Genauigkeit
Eingabebereiche und Genauigkeit von
Funktionsrechnungen
Funktion
x
sin
x
cos
x
tan
x
–1
sin
x
–1
cos
x
–1
tan
x
sinh
x
cosh
x
sinh
–1
x
–1
cosh
x
tanh
x
–1
tanh
x
x
log
/ln
x
10
± 1 × 10
15 Stellen
Normalerweise beträgt die Genauigkeit ± 1
an der 10. Stelle für eine einzelne Rechnung.
Die Genauigkeit für die Exponentialanzeige
beträgt ± 1 an der am wenigsten signifikanten
Stelle. Die Fehler summieren sich im Falle von
fortlaufenden Rechnungen.
|
|
x
DEG
0
|
|
x
RAD
0
|
|
x
GRA
0
|
|
x
DEG
0
|
|
x
RAD
0
|
|
x
GRA
0
Gleich wie sin
DEG
× 90.
Gleich wie sin
RAD
× π /2.
Gleich wie sin
GRA
× 100.
|
|
x
0
1
|
|
9,999999999 × 10
x
0
|
|
x
0
230,2585092
|
|
4,999999999 × 10
x
0
4,999999999 × 10
x
1
|
|
9,999999999 × 10
x
0
|
|
9,999999999 × 10
x
0
9,999999999 × 10
x
0
–9,999999999 × 10
bis ± 9,999999999 × 10
–99
Eingabebereich
9 × 10
9
157079632,7
1 × 10
10
9 × 10
9
157079632,7
1 × 10
10
, ausgenommen wenn |
x
, ausgenommen wenn |
x
, ausgenommen wenn |
x
99
99
99
99
–1
99
x
99
99,99999999
G-58
99
oder 0
| = (2
x
n
–1)
| = (2
x
n
–1)
| = (2
x
n
–1)
Quicklinks ausblenden:
Werbung
Inhaltsverzeichnis
