Herunterladen Inhalt Inhalt Diese Seite drucken

Erläuterungen - Metrohm 870 KF Titrino plus Handbuch

Vorschau ausblenden Andere Handbücher für 870 KF Titrino plus:
Inhaltsverzeichnis

Werbung

■■■■■■■■■■■■■■■■■■■■■■
870 KF Titrino plus
Rundungsverfahren
Messwerte und Resultate werden auf die definierte Anzahl Dezimalstellen
gerundet (kaufmännisches Runden, gemäss Amerikanischem Arzneimittel-
buch USP). Wenn die Ziffer an der ersten wegfallenden Dezimalstelle 1, 2,
3 oder 4 ist, wird abgerundet, wenn diese Ziffer 5, 6, 7, 8 oder 9 ist,
wird aufgerundet. Negative Zahlen werden nach ihrem Betrag gerundet,
d. h. weg von Null.
Beispiele:
aus 2.33 wird 2.3
aus 2.35 wird 2.4
aus 2.47 wird 2.5
aus –2.38 wird –2.4
aus –2.45 wird –2.5
Statistik
Es werden der arithmetische Mittelwert sowie die absolute und relative
Standardabweichung von Resultaten berechnet:
Sie können maximal fünf Resultate (1 ≤ k ≤ 5) statistisch auswerten, die in
einer Bestimmung berechnet werden. Eine Statistikserie kann maximal 20
Bestimmungen beinhalten (1 ≤ n ≤ 20).
Für nachstehende Formeln gilt folgende Konvention:
1 ≤ n ≤ 20 und 1 ≤ k ≤ 5.
Mittelwert:
Absolute Standardabweichung:
Relative Standardabweichung (in %):
Erläuterungen
In die Statistik gehen die Einzelwerte in voller Genauigkeit ein.
Beim 64-Bit-Zahlenformat ergeben sich für die Gleitkommazahl in dezima-
ler Darstellung 15 signifikante Stellen.
Die Genauigkeit kann durch die Wahl des Präfixes der Einheit (Milli, Mikro)
und der Anzahl Nachkommastellen gesteuert werden.
Beispiel:
10 Anhang
■■■■■■■■
81

Quicklinks ausblenden:

Werbung

Inhaltsverzeichnis
loading

Inhaltsverzeichnis