floating-point

    0熱

    1答えて

    Pythonでplceholderのfeed_dictを定義する

    私はPythonで良くありません。 Pythonを使用してTensforflowのプレースホルダにfeed_dictを定義する方法を知りたいと思います。私は私の質問を見て、最も近いのはC++であったhere。 feed_dictせずにそれを見 (<tf.Tensor 'Mul:0' shape=<unknown> dtype=float32>,) ： と仮定私は、次のテンソルを持って prin
    python tensorflow floating-point placeholder 2017-08-23

    0熱

    1答えて

    コードの説明とプロセッサ

    によって、小数点の比較は最近、私はプログラムに出くわした：私はどのようにコードが印刷さはいを理解 float a = 0.7; if(a < 0.7) printf("Yes"); else printf("No"); 。しかし、同じ不平等の右側には0.7ではない。 'a'と '0.7'のバイナリ値は同じではありませんか？ なぜ0.7ですか、0.7として使用されますが、
    c floating-point processor 2017-08-24

    2熱

    1答えて

    正規化操作を元に戻すときの精度問題

    私はいくつかの正規化操作を行っていますが、驚いたことに、操作を元に戻そうとすると、既定の6小数点精度であるassert_array_almost_equalに対して100％の不一致が発生します。これはなぜ起こるのですか？それは私の最大値の精度に起因することができますか？もしそうなら、どのようにしてnumpy.ndarray.max()の精度を上げることができますか？ from __future__
    python numpy floating-point precision 2017-08-24

    0熱

    2答えて

    Node.jsの最大安全浮動小数点数のNode.jsで

    、Number.MAX_SAFE_INTEGERのような最大安全浮動小数点数はありますか？ 私はそれから0.13を減算するために使用できる（おおよその）数を見つけるために少し実験を持っていた： console.log(Math.floor(Number.MAX_SAFE_INTEGER)); // 9007199254740991 console.log(Math.floor(Number.MA
    javascript node.js floating-point 2017-08-29

    -1熱

    1答えて

    なぜ＆ "14ビットInt"コードに "double"が作用するのですか？

    私はなぜこのコードが動作するのか、-1.0と+1.0の間の倍精度を14ビットの整数に変換するために、なぜ&の理由を説明してもらえますか？ data14でどのように値が選択されましたか、そして何が起こっていますか？あなたが操作の正しい順序を解析することができる場合 double data = 0.5; if (data < -1.0) { data = -1.0; } else if
    floating-point bit-manipulation bitwise-operators 2017-08-30

    0熱

    1答えて

    同じ関数を同じ入力で実行すると、なぜPythonの時間が2倍になりますか？

    以下のPythonコードは二度同じ機能を実行しようとするとランタイムを出力します def test_f(f1,ip): st = time.time() f1(*ip) print(time.time()-st) test_f(math.sin,[100]) test_f(math.sin,[100]) 3つのテストの出力は以下の通りです： 7.152557
    python performance math floating-point 2017-08-31

    0熱

    1答えて

    最小浮動小数点X s.t. 1/Xは無限ではありません

    最小の単精度浮動小数点数と倍精度浮動小数点は、IEEE 754でその逆数がまだ等しくないようになりますか？ 編集：私はちょうどそれがどのように動作するかを理解したいので、私はそれを聞いてるのよ
    floating-point ieee-754 2017-08-31

    0熱

    1答えて

    タイプの値には、最初と宛先のコントローラでメンバーが定義されていません

    prepareForSegue関数で宛先コントローラに送信する2つの浮動小数点があります。私は両方の変数に私の変数を設定しているが、私は上記のエラーに遭遇している。 if segue.identifier == "secondmapsegue" { let destination = segue.destination as! MapsView let index
    swift floating-point mkmapview segue viewcontroller 2017-09-01

    2熱

    1答えて

    Javascript CPU上でGLSL浮動小数点演算を再現する方法Uint8array

    Uint8array（3d x、y、z座標のリスト）にデータがあります。私はいくつかの浮動小数点演算を実行する必要があります。この3次元ベクトル上で（行列回転変換乗算）を行う。私は計算のためにhttp://glmatrix.net/ライブラリを使用しています。 データは、頂点データがこれまで8 [x,y,z,w,r,g,b,a] のセットでフォーマットされてUint8Arrayとしてそれをパッケー
    javascript floating-point glsl webgl typed-arrays 2017-09-01

    0熱

    2答えて

    Ray- /セグメント交差テストのpython

    にフロート精度のbczを失敗した私は、ガレス・リース偉大指示に従ってpythonでray- /セグメントの交差点を見つけるために、機能を実装しようとしています： https://stackoverflow.com/a/14318254/7235455とhttps://stackoverflow.com/a/565282/7235455 交差点がある場合 from math import radia
    python floating-point geometry floating-accuracy 2017-09-04
最新の質問