Berechnungsmethoden; Geltende/Signifikante Ziffern - Mitutoyo DP - 1VR Bedienungsanleitung

DP-1VR

9. Berechnungsmethoden

9.1 Verwendete / angezeigte Ziffern ("DIGITS")
Wenn als 'signifikante' Ziffer A verzeichnet sind, werden alle vom Messgerät erfassten
Ziffern, wie auch die Nachkommastellen, angezeigt.
Bezeichnung
DATA
N
MAX
MIN
2
σn Standardabweichung (n)
σn-1 Standardabweichung (n-1)
P Prozentsatz Ausschuss
Cp
Cpk
LSL
USL
DIV Anzahl Histogramm-Balken
8
Zentralwert (8-Kontrolle)
8-UCL
8-LCL
2
Zentralwert (2-Kontrolle)
2-UCL
2-LCL
Unbedingt beachten!
Der Bereich für die Anwendung des Berechnungsfehlers wird in den Detail-Angaben zum
Berechnungsfehler angegeben; siehe Punkt 9.3.
38
'Signifikante' Ziffern
Bedeutung
Messdaten
Anzahl Daten
Maximalwert
Minimalwert
Bereich
Prozessfähigkeitsindex
(Streuung)
Prozessfähigkeitsindex
(Niveau)
Oberer Grenzwert
Unterer Grenzwert
obere Eingriffsgrenze
untere Eingriffsgrenze
obere Eingriffgrenze
untere Eingriffgrenze
99MBE021 (D)
Angezeigte
signifikante Ziffer
(Nachkommastellen)
A
0
A
A
A
A+2
A+2
3 (**.***%)
3
3
A
A
festgelegt auf 10
A+2
A+2
A+2
A+2
A+2
A+2
Fehler
(Rundungsfehler)
-
-
-
-
-
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1
-
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1
Letzte Ziffer ±1