Interner Gespeicherter Doppelpräzisions-Zahlenzugriff - Agilent Technologies OpenLAB CDS ChemStation Edition Referenzhandbuch

6
Systemeignungsevaluierung
Interner gespeicherter Doppelpräzisions-Zahlenzugriff
Interner gespeicherter Doppelpräzisions-Zahlenzugriff
Für Validierungszwecke kann eine manuelle Neuberechnung der
ChemStation- Ergebnisse wie Kalibrierkurven, Korrelationskoeffizienten,
theoretische Trennböden usw. notwendig sein. Dabei muss das in der
ChemStation verwendete Zahlenformat berücksichtigt werden.
Für alle in der ChemStation intern gespeicherte Zahlen wird der „C"
Datentyp DOUBLE verwendet. Dies bedeutet, dass für jede Zahl 14
signifikante Stellen gespeichert werden. Die Implementierung dieses
Datentyps folgt der Microsoft- Implementierung des IEEE- Standards für
den Datentyp „C" und die damit verbundenen Rundungsregeln (siehe
Microsoft- Dokumentationen Q42980, Q145889 und Q125056).
Entsprechend der unbegrenzten Zahl von Parametern, die für die Berechnung
der Kalibriertabelle verwendet werden können, ist es nicht möglich, den
exakten Fehler zu berechnen, der sich durch die Fortpflanzung und
Aufaddierung von Rundungsfehlern ergibt. Gründliches Testen mit
verschiedenen Kalibrierkurven- Konstruktionen hat jedoch gezeigt, dass eine
Genauigkeit auf bis zu 10 Stellen garantiert werden kann. Da die
Wiederholbarkeit von chromatographischen Analysen die Fläche, Höhe und
Retentionszeit betreffend 3 signifikante Stellen besitzt, ist die Verwendung von
10 signifikanten Stellen während der Berechnung ausreichend. Aus diesem
Grund werden bei der Kalibrierung und anderen Tabellen maximal 10
signifikante Stellen angegeben.
Wird für die Validierung eine externe (manuelle) Berechnung benötigt, so
wird empfohlen, alle für die interne Berechnung verwendeten Stellen zu
benutzen. Die Verwendung der angezeigten und/oder gerundeten Daten bei
der externen Berechnung kann durch Rundungsfehler zu anderen Ergeb-
nissen führen, als die ChemStation ermittelt hat.
Im folgenden Abschnitt wird beschrieben, wie alle intern gespeicherten
Stellen für Zahlen, die typischerweise für manuelle Berechnungen benötigt
werden, erreicht werden können. In allen Fällen muss vor der Eingabe der
aufgelisteten Befehle eine Datendatei geladen und ein Report mit der
geeigneten Reportvorlage erstellt werden. Alle Befehle werden in der
ChemStation- Befehlszeile eingegeben, die vom Menü View aus verfügbar
gemacht werden kann. Die Angaben in der Datei „C:\CHEM32\TEMP.TXT"
können mit NOTEPAD oder einem geeigneten Texteditor angezeigt werden.
140 Referenz zu Ihrer ChemStation Edition