浮動小数点値の式 - Advanced SQL Engine - Teradata Database

Teradata Vantage™ - SQL関数、式、および述部

Product
Advanced SQL Engine
Teradata Database
Release Number
17.05
17.00
Published
2020年6月
Language
日本語
Last Update
2021-03-30
dita:mapPath
ja-JP/tpt1555966086716.ditamap
dita:ditavalPath
ja-JP/tpt1555966086716.ditaval
dita:id
B035-1145
Product Category
Software
Teradata Vantage

浮動小数点値が関係する計算では、予想外の結果が出ることがあります。浮動小数点値の計算を実行し、結果を予測値と比較すると、意図した結果にならない場合がほとんどです。

浮動小数点値の計算結果を比較する代わりに、エラーを参照して、結果が意図したものより大きいか小さいかを確認します。以下に例を示します。

   SELECT i, SUM(a) as sum_a, SUM(b) as sum_b
   FROM t1
   GROUP BY i
   HAVING ABS(sum_a - sum_b) > 1E-10;