floating-accuracy

    -1熱

    1答えて

    浮動小数点が負にオーバーフローする

    符号付き整数は、符号ビットが0から1に反転され、正の整数が負になるような整数オーバーフローを持つ可能性があることがわかります。 浮動小数点数でも同じことが起こりますか？実験的に、数が大きすぎる場合は、それはちょうどInfになります。しかし、仮名や指数をあふれさせることは可能ではないでしょうか？同様の問題を引き起こしますか？
    floating-point numbers precision floating-accuracy integer-overflow 2017-09-09

    1熱

    1答えて

    モデルの精度は変わらず、ゼロのままです

    私は2つの隠れた層を持つニューラルネットワークを構築しました。隠された最初の2つについては、ReLUのアクティベーションを使用し、最後のレイヤーではシグモイド関数を使用しました。モデルを起動すると、損失関数は減少しますが、精度はゼロのままです。 Epoch: 9/150 Train Loss: 6.1869 Train Acc: 0.0005 Epoch: 9/150 Validation Lo
    python-3.x tensorflow neural-network floating-accuracy 2017-10-30

    -2熱

    1答えて

    標準形で表現された非常に小さな値を計算するためにスウィフトを使用する

    最初の20要素の核の比電荷を計算するのは長々とした宿題でした。科学計算機で同じ数式に異なる数を入力することに20回も苦しんでいないことを望む人であるので、私はそれをコード化しようとしました。しかし、私は実現： スウィフトがネイティブ 小さな数字は、私はAの2つの入力を取り、そしてZは、私が信じていることが呼ばれた問題 を引き起こすように見える標準のフォームで使用するのは難しいです核種数とそれぞれ陽
    swift double precision floating-accuracy exponent 2017-09-12

    0熱

    2答えて

    浮動小数点の丸め誤差が報告された結果を範囲内に移動しました

    私は、特定のテスト結果の下限と上限を合わせてテスト結果をレポートする機能を開発中です。これらの3つの値は、指定された式（aX + b）/ c（XはtestResult/lowerLimit/upperLimit）で変換され、a、bおよびcは浮動小数点数です。 報告された試験結果が変換前の指定された範囲内/外にある場合は、報告された結果の妥当性を保証するために、変換後も限界内/外になければならない。
    c floating-point rounding floating-accuracy 2017-12-22

    0熱

    1答えて

    特定の浮動小数点計算はなぜそれほど変わるのですか？ （例：123456789f +1 = 123456792）

    私は浮動小数点演算、発生した出席エラー、発生するエラー、さらに結果がどういう結果になるのかを理解しようとしています。 1）0.1 + 0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 -1.0 = -1.1102230246251565E-16：ここでは、現在働いている特に3例は別名0.1 10回を追加すると、1.0よりわずかに少ない数値が得られます。しかし、
    floating-point precision floating-accuracy 2017-11-18

    1熱

    1答えて

    文字列とint形式の浮動小数点の違い。どうして？

    ナノ秒で現在の時刻が必要です。 文字列"%.9f" % float_timeは、1502872986.6536936 です。あなたは最後に76を見ることができます。 int(float_time*10**9)と同じ時刻を書き込もうとすると、最後には15028729866536936 と96になります。どうして？そして、それはナノフォーマットを得るための正しい方法ですか？ from time imp
    python python-3.x precision floating-accuracy nanotime 2017-08-16

    2熱

    3答えて

    C++の科学定数にdoubleを使用するのは安全ですか？

    Iは 、同様にいくつかの科学的定数を使用してC++のいくつかの計算を実行する電子の有効質量（M）9.109e-31キロ 電子1.602e-19 Cの電荷 ボルツマン定数（k）は1.38×10-23 時間8.92e-13 私はSQRT（（2kT）/ M）、のような計算 を有します これらの定数と結果にdoubleを使用するのは安全ですか？
    c++ floating-accuracy 2017-11-29

    0熱

    2答えて

    Ray- /セグメント交差テストのpython

    にフロート精度のbczを失敗した私は、ガレス・リース偉大指示に従ってpythonでray- /セグメントの交差点を見つけるために、機能を実装しようとしています： https://stackoverflow.com/a/14318254/7235455とhttps://stackoverflow.com/a/565282/7235455 交差点がある場合 from math import radia
    python floating-point geometry floating-accuracy 2017-09-04

    0熱

    2答えて

    Excel 2013 - ビッグナンバーの正確なサポート？

    私はエクセル2013を使用して、私が持っている一つのセルでいる：560127029342507827200000 しかし、Excelは示しています：右resultを =26*25*24*23*22*21*20*19*18*17*16*15*14*13*12*11*10*9*8*7 がある560,127,029,342,508,000,000,000 設定は次のとおりです。 質問： どのように私は正
    excel office365 floating-accuracy 2017-09-06

    0熱

    1答えて

    反転時にdouble値が閉じられる

    入力は以下の関数でID（1ul剰余）に縮小されますか？ public static double invertTwice(double value) { double inverse = 1.0/value; return 1.0/inverse; } また、関数はアイデンティティ（モジュロ1 ULP）であるため、最大間隔[min, max]は何ですか？ [1E-320
    java floating-point double floating-accuracy 2017-07-31
最新の質問