浮動小数点値の式 - Teradata Database - Teradata Vantage NewSQL Engine - CASE関数、比較演算子、浮動小数点値の式。

Teradata Vantage™ SQL関数、演算子、式および述部

Product
Teradata Database
Teradata Vantage NewSQL Engine
Release Number
16.20
Published
2019年3月
Language
日本語
Last Update
2019-10-29
dita:mapPath
ja-JP/xzf1512079057909.ditamap
dita:ditavalPath
ja-JP/xzf1512079057909.ditaval
dita:id
B035-1145
Product Category
Software
Teradata Vantage

浮動小数点値が関係する計算では、予想外の結果が出ることがあります。浮動小数点値の計算を実行し、結果を予測値と比較すると、意図した結果にならない場合がほとんどです。

浮動小数点値の計算結果を比較する代わりに、エラーを参照して、結果が意図したものより大きいか小さいかを確認します。以下に例を示します。

   SELECT i, SUM(a) as sum_a, SUM(b) as sum_b
   FROM t1
   GROUP BY i
   HAVING ABS(sum_a - sum_b) > 1E-10;