select (1/4)
結果は、私がこのデータ型の変換計算の問題Sql Server 2008を使用していますか?
select (1/4.0)
ようにしようと、私は
0.2500000
あり、実際の結果を得た.025.Andあり、実際の結果が必要
0
です私は多くの計算機能を持っていますが、この問題のために結果が正しくないことがあります。この問題の永続的な解決策を提示してください。 2桁の精度については
select (1/4)
結果は、私がこのデータ型の変換計算の問題Sql Server 2008を使用していますか?
select (1/4.0)
ようにしようと、私は
0.2500000
あり、実際の結果を得た.025.Andあり、実際の結果が必要
0
です私は多くの計算機能を持っていますが、この問題のために結果が正しくないことがあります。この問題の永続的な解決策を提示してください。 2桁の精度については
、この試す:3桁の精度について
ROUND(AVG(CAST((1/4.0) as float)), 2)
を:
ROUND(AVG(CAST((1/4.0) as float)), 3)
など
しかし、私はたくさんの機能を持っているので、他のオプションは私にとっては難しいですか? –
多くの機能をどういう意味ですか?これは、浮動小数点の2点精度を取得する適切な方法です... –
あなたも、はい、あなたを
select cast(1/4.0 as numeric(3,2))
を使用することができますあなたが持っている値のデータ型を認識しなければなりません計算で使う私はこれに技術的な解決策はないと思っています。ただの現実です。 –