Werbung
Vitesse de calcul
Plage des valeurs à
virgule flottante
Fonction
Entrées
Sorties
Paramètre(s)
Par défaut
Traitement des
exceptions
PMX
12.1 Voies de calcul internes
Pour tous les blocs fonctionnels, on a, sauf indication
contraire :
Égale à la vitesse de mesure (par défaut 19 200/s)
Simple précision pour virgule flottante selon IEEE 754
Plage env. +/3,4*10
12.2 Description des calculs
12.2.1 Ajustage
12.2.1.1 Ajustage deux points
Ajustage linéaire d'un signal
0ut0 = m * in= + b
avec
m = y2 − y1 / x2 - x1
b = y2 − m ∗ x2
in0
Signal ajusté out0
- Deux points d'appui (x1|y1) et (x2|y2)
x : valeurs d'entrée
y : valeurs de sortie
x0=y0=0 ; x1=y1=1 ; donc m=1, b=0
En cas de dépassement de plage, NaN est édité.
Par ex. pour x1 = x2 :
A3257-5.1 HBM: public
Description des calculs
38
163
Werbung
