ieee-754

    0熱

    1答えて

    最後の10進数が5でない場合、どのようにバイナリからIEEE754に変換しますか？

    私はこの上で見つけることができるすべてのもの小数がゼロに解決されるまで2により単に乗算に言いますが、これだけ作品最後の小数点以下は私の特定のケース5. ある場合に変換する数がどのようにIだろう、98765.4321ですこれ（または解決しない他の10進数）をIEEE754に変換しますか？
    math binary floating-point ieee-754 2016-10-17

    1熱

    1答えて

    C++で異なるIEEE浮動小数点丸めモードを使用する

    私は、GPUとCPUで同じ浮動小数点結果を保証する必要があります。 IEEEは私の世話をしてくれて、いくつかの丸めオプションを遵守するうえで素晴らしい標準を提供してくれたことを理解しています。 CUDAの部分はソートされています（さまざまな丸めモードの組み込み関数があります）。これが単なる動機です。 ホスト側のC++コード - 特定の丸めモードで浮動小数点演算を実行するにはどうすればよいですか（特
    c++ rounding ieee-754 idiomatic 2016-08-29

    3熱

    2答えて

    正規化された分数に0.5を掛けてIEEE 754表現の仮数を得るのはなぜですか？

    pack754()関数についての質問がSection 7.4 of Beej's Guide to Network Programmingにあります。 この関数は浮動小数点数fをそのIEEE 754表現に変換します。ここで、bitsは数値を表すビットの総数、expbitsは指数のみを表すためのビット数です。 この質問のために、bitsが32として指定され、expbitsが8として指定されているので
    c floating-point ieee-754 2016-10-18

    3熱

    1答えて

    Canは浮動小数点として正確に表現できますか？

    私は0.1を浮動小数点数として正確に表すことはできないことを学びました。教科書の議論では、0.1は、バイナリベースの科学記法の一種として書くことはできませんでしたが、私は決して人々がどのように特定されていませんその引数。これに関連して、今私の質問は 浮動小数点として正確に表現できますか？ ここでは、IEEE-754 binary64の形式について説明します。
    floating-point double ieee-754 2016-08-31

    9熱

    1答えて

    GCCの-fno-finite-math-onlyに相当するMSVC？

    GCCでは、-ffast-mathを有効にして浮動小数点計算を高速化します。我々がNaNとInfの浮動小数点値の適切な動作に依存しているとしてではなく、我々はまた、-fno-finite-math-onlyをオンにし、その値を取ることの最適化は、MSVCの場合はNaN/Infのは 、-ffast-mathと「同等」とは明らかに/fp:fastではありません。しかし、GCCの-ffast-mathと
    c++ visual-c++ ieee-754 2016-10-21

    1熱

    1答えて

    52以上の指数を持つすべての整数であっても64ビット浮動小数点

    にされている、私はそれを締結する修正アム： 64ビット浮動小数点で52以上の指数を持つすべての整数は偶数になりますか？たとえば、指数が53であり、仮数が0000000000000000000000000000000000000000000000000001である場合、数字は100000000000000000000000000000000000000000000000000010 - 末尾が10で
    binary ieee-754 2016-09-03

    2熱

    1答えて

    無限大と整数倍の複素乗算/除算

    実際の浮動小数点演算では、追加シンボルINF（無限大）、NAN、符号付きゼロがあります。複雑な計算の場合、これはより困難です。 1は、乗算、除算 (a + ib)(c + id) = (ac - db) + i(ac+bd) (a + ib)/(c + id) = ((ac + db) + i(ac-bd))/(c*c + d*d) ための「ナイーブ」のルールを使用している場合1は、ほぼすべ
    math floating-point ieee-754 complex-numbers 2016-09-04

    1熱

    1答えて

    16進数をIEEE 754に変換する

    http://www.h-schmidt.net/FloatConverter/IEEE754.htmlのようなWebサイトを使用して、16進数の文字列'424E4B31'をfloat32に変換すると、51.57343が得られます。 私は同じようStackExchangeのソリューションを使用して、しかし、文字列を変換するためのPythonを使用する必要があります。なぜそれが違う...私は2.95
    python ieee-754 2016-09-16

    2熱

    2答えて

    二倍の数値への変換PythonのIEEE-754

    doubleのデータを64ビットの10進数値に変換しようとしています。私は変換のためにhttps://en.wikipedia.org/wiki/Double-precision_floating-point_format に従っています。 は、私は以下のスクリプトでそれを試してみました： a = '\x3f\xd5\x55\x55\x55\x55\x55\x55' # Hexbyte repre
    python double decimal ieee-754 2016-09-20

    1熱

    1答えて

    JavaScriptの0.3のリテラル表現

    0.3をChromeコンソールに入力すると、0.3が返されます。 これは基本的に言っています： "内容は0.3のNumberリテラルで入力しました。便宜的にコンソールに戻ってその表現を再生しますが、実際には正確に表現することはできません。私が思いつく最高の近似は0.30000000000000004 "ですか？
    javascript floating-point ieee-754 2016-09-21
最新の質問