ieee-754

    2熱

    4答えて

    挙動（+0.0）

    、 float f = -0.0; // Negative 及び結果はtrueなり負のゼロ f == -0.0f と比べ。どちらの場合も真であることが結果なぜ しかし float f = 0.0; // Positive と負のゼロ f == -0.0f と比較しても、結果はtrue代わりのfalse でしょうか？ここで がa MCVE to test it (live on co
    c++ floating-point ieee-754 2017-08-21

    1熱

    2答えて

    正規化で倍精度比較の精度に問題があるのはなぜですか？次のように任意の二重値の実際の平方根を計算する問題について

    、プログラミングインタビューの要素の著者は、2つの二重値aとbとの差が計算されるsolutionを提示： typedef enum { SMALLER, EQUAL, LARGER } Ordering; Ordering Compare(double a, double b) { // Uses normalization for precision problem. d
    floating-point precision ieee-754 2017-07-03

    -1熱

    1答えて

    非常に長いバイナリ文字列として浮動小数点定数を符号化する

    最近、私はNIST SP800-22で説明されているランダム性のための15個のテストを実装しようとしていました。私の関数の実装を確認するために、NISTのドキュメントがそれぞれのテストに対して提供するサンプルを実行しています。これらのテストの中には、非常に長いビット列（最大100万ビット）が必要なものがあります。たとえば、例の1つでは、入力は「最初の100,000ビットがe」です。それでは、質問：
    python binary ieee-754 2017-07-07

    0熱

    1答えて

    最小浮動小数点X s.t. 1/Xは無限ではありません

    最小の単精度浮動小数点数と倍精度浮動小数点は、IEEE 754でその逆数がまだ等しくないようになりますか？ 編集：私はちょうどそれがどのように動作するかを理解したいので、私はそれを聞いてるのよ
    floating-point ieee-754 2017-08-31

    0熱

    1答えて

    C＃で16進数をIEEE 754浮動小数点に変換

    C＃で8バイト長の16進数を浮動小数点数に変換する必要があります。たとえば ： 4030000000000000は16.0 C0622EB860000000は-14.46 4090000000000000する必要がありますする必要があります1024.0 である必要があり、私が動作しているようにこのコードを発見したが、それは置いていません10より大きく-10より小さい数字の場合は、 の点が正しく表示
    c# hex ieee-754 2017-07-16

    1熱

    1答えて

    浮動小数点の丸めを使用する理由は？

    CSAppという氏は述べています： 「偶数に向かって丸め、最も現実の状況でこの統計的な偏りを回避 それは下向きの時間の約50％を、時間とラウンドの上方約50％を丸めます。」 それを証明する方法は？
    floating-point rounding ieee-754 2017-07-16

    4熱

    1答えて

    バイナリ浮動小数点を10進小数に変換するにはどうすればよいですか？

    私は宿題に取り掛かっています。バイナリ浮動小数点数を小数部に変換する必要があります。私はプロセスを理解しているように感じますが、私は正しい答えを得ていません。ここに私の思考プロセスがあります。 Iバイナリフロートを有する：0 000 101 3ビットの指数フィールドのバイアスが3：2^(3-1)-1 = 3 仮数が1.101（ベース2） 指数ビットの値になります、0から指数ビット数-3を引いた値が
    assembly binary floating-point ieee-754 2017-09-09

    0熱

    1答えて

    浮動小数点フォーマットに必要な最小ビット数

    以下の数値を表現し、すべての要件を満たすために必要な最小ビット数を計算するタスクがあります。 分番号：10 max。番号：10000000 精度：数値の0.001％。 私はこのタスクをどのように処理するかについてはあまりよく分かりません。 IEEEなどの浮動小数点形式で表現する必要があります。 Number必要なビット数が5ビット（指数ビット）だと思うので、2^31で十分です。負の数を表示する必要
    binary floating-point computer-science precision ieee-754 2017-09-11

    -1熱

    1答えて

    符号なし整数範囲[uint（a1）uint（a2）]のビット列を浮動小数点範囲[float（a1）float（a2）]に再解釈することは可能ですか？

    こんにちはは、1つの有効な浮動小数点数を持つ終わる可能性ビットの32ビット列を再解釈する場合： UINT：1101004800、フロート：20.000000 は、今私は、静的解析ツールで働いていると言います単一の値ではなく値の範囲に対する操作を定義します。 私が考えているこのような操作の1つは、符号なしの値の32ビットのビットストリング値をフロートに再解釈することです。 float [float（
    floating-point range static-analysis ieee-754 unsigned-integer 2017-09-15

    0熱

    1答えて

    Arduino浮動小数点文字列

    文字列を1つの浮動小数点数に変換しようとしています。文字列の長さは4バイトです。それは、長い文字列の部分文字列である String B = ""; ： B = input.substring(6,14); これは私が一つの浮動小数点値に変換しようとしている文字列になり、それは次のように定義されました。 オンラインは、私は次のコードが見つかりました： float y = *(float*)&
    string arduino floating-point ieee-754 2017-06-15
最新の質問