浮動小数点値の式 - Advanced SQL Engine - Teradata Database

Teradata Vantage™ - SQL関数、式、および述部

Product
Advanced SQL Engine
Teradata Database
Release Number
17.10
Published
2021年7月
Language
日本語
Last Update
2021-09-23
dita:mapPath
ja-JP/djk1612415574830.ditamap
dita:ditavalPath
ja-JP/wrg1590696035526.ditaval
dita:id
B035-1145
Product Category
Software
Teradata Vantage

浮動小数点値が関係する計算では、予想外の結果が出ることがあります。浮動小数点値の計算を実行し、結果を予測値と比較すると、意図した結果にならない場合がほとんどです。

浮動小数点値の計算結果を比較する代わりに、エラーを参照して、結果が意図したものより大きいか小さいかを確認します。以下に例を示します。

   SELECT i, SUM(a) as sum_a, SUM(b) as sum_b
   FROM t1
   GROUP BY i
   HAVING ABS(sum_a - sum_b) > 1E-10;