固定小数点から浮動小数点へ

私のアルゴリズムへの入力として、10でスケーリングされた整数値が得られます。したがって、実際には10になると、実際には1になります。私はそれを計算のために小数表現に変換し、次に出力のために変換する必要があります。私は倍数に変換すると、変換中にある精度を失うリスクがあると思います。この問題を解決する正しい方法は何ですか。固定小数点から浮動小数点へ

出典

2011-12-23 SiberianGuy

精度の要件は何ですか？それは "この問題を解決する正しい方法"が何であるかを決定します。 – Oded

[decimal]（http://msdn.microsoft.com/en-us/library/364x0z75（v = vs80）.aspx）を使用することを検討しましたか？ – Adam

必要条件は、これらの変換中に正確さが失われないことです。 – SiberianGuy

decimal typeは、10ベースの計算では（浮動小数点よりも）高い精度を提供します。これが私が使用するものです。

出典

2011-12-23 10:59:33 nirbruner

、または単に___あなたの計算__スケーリングされたバージョンを使用するには？ – Adam

固定小数点から浮動小数点へ

答えて

関連する問題