フロートを3dpに丸めますか？

Question

小数点以下第3位までの浮動小数点数はどのように丸めますか？

私はこれを持っている：

3つの小数点以下の桁数に丸めますが最後に0の束を残し

(round(1000.0f * currentHue)/1000.0f) 

。

Answer 1

ほとんどの数値は、浮動小数点で正確に表現することはできません。その精度が必要な場合は、適切な科学ライブラリを選択してください。うまく印刷したい場合は、フォーマッタを使用してください -

NSLog(@"%.3f", currentHue); 

Answer 2

これは非常に毛深い方法です...しかし、それは動作するはずです。

float x = [[NSString stringWithFormat:@"%1.3f",(round(1000.0f * currentHue)/1000.0f)] floatValue];