floating-point

0熱

1答えて

C++ Visual Studioのfloatからunsigned intに直接バイトをコピーするには？

浮動小数点型を直接符号なし整数に変換しようとしていますが、その代わりに、直接的に他のものにバイトをコピーするだけの、黙示的変換数（Cスタイルまたは静的キャストはありません）はありません。 Windows Visual Studio 2015では、浮動小数点数と符号なし整数のサイズが同じです（4バイト）ので、その点で問題はないと思います。。。私は解決策を考え出しましたが、私がしたいことをするため

-4熱

3答えて

long doubleの指数を反転すると、私は非常識な結果になります

long doubleの指数を逆転しようとしています。 x = 3.5e1356とします。私はxを3.5e-1356にしたい。 newNumberは元の数とは関係ありません1.14732677619641872902e-1357 で、このコードの後に long double x = 3.5e1356L; int exponent; long double fraction = frexpl

0熱

3答えて

C++で浮動小数点数を削除する方法

浮動小数点数の型を保持したままで浮動小数点数を削除したいと思います。（すなわち3.14159fは、3.0Fになるはずです）私は、これまで二度タイプをキャストされて何ができるか。 float f = 3.14159f; float r = static_cast<float>(static_cast<int>(f)); これは正しい方法ですか？それとも簡単な方法がありますか？ありがとう

1熱

1答えて

浮動小数点の丸めを使用する理由は？

CSAppという氏は述べています：「偶数に向かって丸め、最も現実の状況でこの統計的な偏りを回避それは下向きの時間の約50％を、時間とラウンドの上方約50％を丸めます。」それを証明する方法は？

1熱

1答えて

Python Cassandra浮動小数点精度の損失

私はPythonとCassandraのデータを前後に送信しています。私は私のpythonプログラムと私のCassandraテーブルのデータ型に組み込みのfloat型を使用しています。私が数字955.99をpythonからCassandraに送ると、データベースには955.989999と表示されます。私が送信した値を返すためにPythonでクエリを送信すると、今度は955.989990234375に

0熱

1答えて

Python：浮動小数点型配列の配列を大量に保持する方法は比較的小さいですか？

私は、cv2パッケージで多くのイメージを読み込むことによって作成された配列があります。私はグレースケールで画像を読むので、ピクセル値は0から255までです。この場合、データのタイプはuint8です。これは、各データ要素のサイズが1バイトであることを意味します。私は各イメージを使ってリストを作成し、配列のリストを配列の配列に変換したいと思っています。その後、このデータをモデルに入力する必要があります

1熱

3答えて

JavaScriptで20個以上の小数点を表示するにはどうすればいいですか？

私はpiの数字を表示するウェブページを作っています。私はtoFixedメソッドを使ってpi変数を20桁のpiで表示することができましたが、もっと表示できるかどうかは疑問です。小数点以下の桁数は、変数のメモリサイズによって制限されますか？ 20桁以上を表示する方法はありますか？ EDIT：piの値を計算するためにChudnovskyアルゴリズムを使用していることを明確にすべきでした。私はvar変数の

1熱

1答えて

精度が1の累乗に引き上げられたときの精度が失われる

Decimalを使用して私のプログラムで精度の問題が発生しました。シンプルREPRO： from decimal import Decimal print Decimal(1910944005427272400562113336049664) print Decimal(1910944005427272400562113336049664)**1 print int(Decimal(19

0熱

2答えて

Coldfusion長い数値を科学的表記に変更する

データベースを入力値で更新しようとしましたが、データがJSONを介して更新coldfusionファイルに次のように渡されました：customValue:"6436534653465346347734653465346"。挿入/更新クエリはこの値をとるだけで、<cfqueryparam>というタグ（<cfqueryparam value="#VARNETJSONInput.customValue#"

-2熱

3答えて

Stringに10進数が含まれていて、最も近いIntegerに変換されているかどうかをチェックする方法は？

文字列にJavaで整数または10進数が含まれているかどうかを確認するにはどうすればよいですか？さらに、10進数の場合は最も近い整数に丸めて、それを文字列に戻したいと考えています。言って、私は値「23」または「33.42」のようにすることができ、「量」と呼ばれる文字列を持って、この場合、私は、「33.42」に「33」を以下は何をされて変換したいI試してみました：私は「ダブル」を解析しようとして