浮動小数点値の式 - Teradata Database - Teradata Vantage NewSQL Engine - CASE関数、比較演算子、浮動小数点値の式。

浮動小数点値が関係する計算では、予想外の結果が出ることがあります。浮動小数点値の計算を実行し、結果を予測値と比較すると、意図した結果にならない場合がほとんどです。

浮動小数点値の計算結果を比較する代わりに、エラーを参照して、結果が意図したものより大きいか小さいかを確認します。以下に例を示します。

   SELECT i, SUM(a) as sum_a, SUM(b) as sum_b
   FROM t1
   GROUP BY i
   HAVING ABS(sum_a - sum_b) > 1E-10;