Erläuterungen; Beispiel (64-Bit-Zahlenformat) - Metrohm 916 Ti-Touch Handbuch

￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭￭
916 Ti‑Touch
Relative Standardabweichung (in %):
Erläuterungen
In die Statistik gehen die Einzelwerte in der gewählten Präzision ein (Run-
den, Abschneiden oder Volle Genauigkeit).
Wenn für die Gleitkommazahl in dezimaler Darstellung das 32-Bit-Zahlen-
format angewendet wird, ergeben sich 7 signifikante Stellen. Beim 64-Bit-
Zahlenformat sind es 15 signifikante Stellen.
Die Genauigkeit kann durch die Wahl des Präfixes der Einheit (Milli, Mikro)
und der Anzahl Nachkommastellen gesteuert werden.

Beispiel (64-Bit-Zahlenformat):

Das angezeigte Resultat 1234.56789158763 mg/L hat 15 signifikante
Stellen. Es soll gemäss obigem Rundungsverfahren auf drei Nachkomma-
stellen gerundet werden:
1234.568 mg/L.
￭
Wenn das gleiche Resultat in g/L ausgedrückt (1.23456789158763 g/L)
und ebenfalls auf drei Nachkommastellen gerundet wird, ergibt sich
1.235 g/L.
￭
D.h. Sie erhalten die geringsten Genauigkeitsverluste durch das Runden,
wenn Sie die Applikation und das Zahlenformat so wählen, dass die ange-
zeigten Zahlen möglichst viele Vorkommastellen aufweisen.
Eine vollständige Nachberechnung der Statistik mittels Taschenrechner
oder PC-Kalkulationsprogrammen kann Abweichungen aufweisen. Dies ist
in den unterschiedlichen verwendeten binären Zahlenformaten dieser
Rechner begründet.
HINWEIS
Die beschriebenen Genauigkeitsverluste durch Runden im Bereich der
signifikanten Stellen haben nur eine theoretische Relevanz. Sie liegen
meist um Grössenordnungen niedriger als beispielsweise die aus dem
Probeneinmass resultierenden Unsicherheiten.
32 Anhang
￭￭￭￭￭￭￭￭
489