Inhaltsverzeichnis
Werbung
6.6a Rechenbeispiel 1, gemessene Werte mit 2 Dezimalen hinter dem Komma:
o
Gemessen bei 22
C:
nD Flüssigkeit : 1.3300
Dispersionskorrektur Z : 40.0
Gefundene Werte A und B. Diese Werte sind der Kolonne nD in der Tabelle 6.7 entnommen:
A = 0.02484
B = 0.03304
Gefundener Wert σ. Dieser Wert ist der Kolonne Z in der Tabelle entnommen:
σ = -0.500 (negativer Werd da Z größer als 30 ist)
D
= A + σB
FC
D
= 0.02484 + (0.03304 x -0.500)
FC
D
= 0.00832
FC
6.6b Rechenbeispiel 2, gemessene Werte mit mehr als 2 Dezimalen hinter dem Komma:
o
Gemessen bei 20
C:
ND destilliertes Wasser: 1.3330*
Dispersionskorrektur Z : 41.62*
*In der Tabelle kommen die gemessenen nD Werte 1.3330 und der "Z" Wert 41.62 nicht vor,
berechnen Sie deshalb die Werte "A", "B" und "σ" wie folgt:
Entnehmen Sie der Tabelle den nD Wert 1.33 (oder den betreffenden "Z" Wert) und lesen Sie
den Wert ab (in diesem Fall – 5x10
angegebenen "A" Wert.
1.3330 -1.33 = 0.003, der Korrekturwert ist also: 3 x – 5 x 10
Der für 1.33 angegebene "A" Wert ist 0.02484. Der richtige "A" Wert für nD 1.3330 ist somit:
0.02484 + 0.000015 = 0.024825.
Wiederholen Sie diese Schritte auch für die "B" und "σ" Werte.
Ergebnisse:
A = 0.024825
B = 0.032983
σ = -0.5716 (negativer Wert da Z größer als 30 ist)
D
= A + σB
FC
D
= 0.024825 + (0.032983 x -0.5716)
FC
D
= 0.005972
FC
7
-6
per 0.001). Addieren Sie dies mit dem für 1.33
-6
= 0.000015
Werbung
Inhaltsverzeichnis
