significant-digits

0熱

3答えて

シグネチャを保存したまま固定幅のテキストファイルとしてMathematicaリストを書き出すには？

私の最初の質問は、データをMathematicaを使って固定幅フォーマットでどのようにエクスポートするのですか？私の2番目の質問は、どのように私はほとんどの0を保存する必要があります。例えば、私は数が2未満桁仮数を有する場合、それもしながら、それはゼロパディングを介して2に整合され、詳細に 1.12300 11.12 111.123 2.10 22.123 222.00 としてテキストフ

5熱

2答えて

Java/Androidで少なくとも1つの有効数字の2倍のフォーマット

私はそれらを表示しているときに、私の二重の値のすべてを、設定された桁数にフォーマットするDecimalFormatオブジェクトを持っています。私は通常小数点以下2桁までフォーマットしたいと思いますが、私は常に少なくとも1桁の有効桁が必要です。たとえば、私の値が0.2の場合、私のフォーマッタは0.20を吐き出し、それは素晴らしいことです。しかし、私の値が0.000034なら私のフォーマッタは0.00

2熱

1答えて

有効数字に丸めて小数点以下の桁数をRにする

signif()関数は、指定された値の有効数字の有効数字に基づいて値を四捨五入します。この機能は数字の桁すべてに適用されますので、の異なる注文数は四捨五入され、切り捨てられます。例えば、このベクターx ... x <- c(100.1303421, 10.03421, 1.3421, 0.0003421) lapply(x, signif, 2) #> [[1]] #> [1] 10

0熱

1答えて

Integer C++からn LSBを取得する

したがって、符号なしのintが関数に渡されています。今度は、その整数のn LSBビットを取得し、それを使用してサイズ2^nの配列内の場所にアクセスする必要があります。だから私の配列のサイズが1024であり、N = 10 場合たとえば、私は現在、これをやっている： unsigned int location = my_unsigned_int << n; locationがあまりにもされて終わ

6熱

3答えて

NSNumberFormatterが最大3桁を表示する

私のUILabelsの1つに最大3桁しか表示しないようにしたいと思います。関連する値が3.224789ならば、私は3.22を見たいと思います。値が12.563の場合は12.5を、値が298.38912の場合は298を表示したいと思います。これを達成するためにNSNumberFormatterを使用しようとしていますが、最大有効数字を3に設定するとそれは常に小数点以下3桁です。コードは次のとおりです

6熱

6答えて

C++の有効数字

C++で有効数字を含む数学を行うにはどうすればよいですか？私はこれを、化学および物理実験の測定データで正確に動作させたい。例：65/5 = 10.不必要な小数点以下の桁を取り除き、いくつかの桁を0に置き換える必要があります。ありがとうございます！

1熱

1答えて

NumPyでの浮動小数点仮数と指数の抽出

NumPyで浮動小数点数の仮数と指数を抽出したいと考えています。指数を整数で取得するのは問題ありません。仮数部をビットフィールドとして取得することは、さらに便利になります。私はPython浮動小数点数がhexメソッドを持っていることを知っています。しかし、numpy.float32、numpy配列、およびufuncsを使用したいと思います。私はまた、私は整数としてので、バイナリ文字列としてflo

-3熱

2答えて

Rの凡例の値がNe + nの形式に短縮されました

フィンランドの森林地図をRで印刷しようとしています。地図はきれいに描画されますが、凡例の数字の一部は全長では表示されませんが、 3e + 06。これは、凡例の行のサイズが長すぎる場合に発生するようです。これは、一部のユーザーにとっては問題である可能性があります。私は完全な数字を表示するように変更する方法を探していました。この問題を解決するためのアイデアは、私が数日間にわたってこれと戦ってきたこ