floating-accuracy

    2熱

    2答えて

    OracleとJava（IEEE 754）のdouble値の差

    OracleのBINARY_DOUBLEとJavaのDoubleは、IEEE 754標準を使用しています。 しかし、その精度に違いがあります。たとえば値については ： 456.67d オラクル： declare a BINARY_DOUBLE := 456.67d; begin SYS.DBMS_OUTPUT.PUT_Line(TO_CHAR(a,'9.99999999999
    java oracle floating-point floating-accuracy ieee-754 2017-04-21

    0熱

    1答えて

    tesseractのPythonの精度

    tesseract ocr画像ファイルを文字列に変換して実行しました。 今、私はどうすればaccuarcyをチェックするためにどのように basewidth = 2700 img = Image.open('D:OCR\\page1.png') wpercent = (basewidth/float(img.size[0])) hsize = int((float(img.size[1])*
    python ocr tesseract floating-accuracy 2017-03-07

    1熱

    1答えて

    浮動小数点値を比較すると予期せぬ動作が発生する

    float値を比較すると予期せぬ動作が起こりますが、浮動小数点では問題が四捨五入される可能性がありますが、 #include <stdio.h> int main() { float alpha = 0.0f; int finish = 0; while (finish == 0) { alpha += 0.05f; if (
    c gcc floating-point floating-accuracy 2017-01-24

    0熱

    1答えて

    不正計算

    C＃で (0.406 * 10000.0)戻り 4060.0000000000005代わりに 4060.0が ノーチェック機能を書かれている理由 。小数点以下は二重の値で、以下は私が使用しているコードです。 d is 0.406の値とn is 4の値と機能はtrue代わりにfalse I、代替ソリューションを使用することに開いているが返されたときに上記の文章に記載された問題が発生します。 publ
    c# math floating-point floating-accuracy calculation 2017-05-04

    0熱

    1答えて

    ダブルに推奨される最小イプシロンは何ですか？

    私はGauss EliminatorをCで作成しようとしています。これは時々、行列が数値的に特異であるかどうかをチェックする必要があります。ある数（double）が非常に非常に小さい場合です。 if(0 == matrix->items[from]){ fprintf(stderr,"Matrix is still singular after attempting pivot. Ex
    c floating-accuracy 2017-03-20

    4熱

    1答えて

    IEEE754フロートで+0.0> -0.0が保持されないのはなぜですか？

    IEEE754浮動小数点数は、signed zeroの概念を持っている、すなわち、片面制限として理解することができる-0.0と+0.0ための2つの異なるビットパターンが存在する：= LIM δ→0±δ：0±。この規格は、（署名された）無限大（+Infおよび-Inf（1./±0.が±Infとなる）との一貫性のためにこれらの数値を提供し、丸め誤差の軽減に役立つという証拠がいくつかあります。 彼らが異な
    floating-accuracy ieee-754 2017-01-30

    2熱

    2答えて

    ifと 'equal'演算子で使用すると、floatは異なる出力をなぜ返すのですか？以下のコードをご覧ください：

    float f=2.2; if (f==2.2) printf("abc"); else printf("xyz"); このコードはxyzを出力しますが、2.2ではなく2.2を指定すると出力はabcです。
    c if-statement floating-point precision floating-accuracy 2017-02-03

    0熱

    1答えて

    論理エラー？潜水2 intそれは浮動小数点になります

    私は戦闘シミュレータを書いています。私の攻撃者クラスは攻撃を開始し、ディフェンダークラスはそれをブロックすることになっています。マネージャは結果を計算してプリントする私のメインクラスです。私の問題は、私のhighRatio、mediumRatio、lowRatio変数です。それらが1に等しくない場合、それらのすべてがゼロに設定される。何が起こっている可能性についての任意のアイデア？ //ディフェン
    java floating-point precision floating-accuracy 2017-02-06

    3熱

    2答えて

    fused-multiply-add浮動小数点の不正確さを処理する一般的な方法

    昨日私は数時間後に多かれ少なかれ次のようなことをしていたコードに絞り込んだプロジェクトのバグを追跡していましたこの：コンパイルと実行後 #include <iostream> #include <cmath> #include <cassert> volatile float r = -0.979541123; volatile float alpha = 0.375402451;
    c++ floating-point precision floating-accuracy fma 2017-02-09

    0熱

    1答えて

    エポックケラスの間に精度が低下します

    私はニューラルネットワークを作成しようとしましたが、精度は各エポックを変更しません。私はケラスを使用しているので、各エポックが評価されるたびに精度の変化を見ることができ、それは低く始まり、少しずつ上がり、毎回example outputのまったく同じ値に戻ります。私はバッチサイズの変更、速度の学習、データのビット単位の変更を試みましたが、同じことを行うたびに、おそらく異なる精度値で行われます。他の
    neural-network python-3.5 keras floating-accuracy loss 2017-02-15
最新の質問