integer-overflow

    0

    1答えて

    私は正常に動作し、このコードを持っている: long nodeDistance(node_t a, node_t b) { long d1 = abs(a.passi_1 - b.passi_2); long d2 = abs(a.passi_2 - b.passi_2); return d1 + d2; } を私はリンクリストの上にそれを呼び出し、それがもっと

    3

    2答えて

    この問題を解決するスマートな方法はありますか? uint32_t a = 16637510; uint32_t b = 45627362; uint32_t c = 0; c = a * 100000/b //overflows c = (a * 100/b)*1000 //gives 36000 私は、結果c = 36463またはそれ以上の結果を得る必要があります。高速で、浮動小数点

    0

    1答えて

    私はコードを使ってWilson Primesを楽しみにしていますが、コードスイングに戻すためにコードを使用しようとしていますが、 ! +1 173によって、私にオーバーフローエラーが返されます。ここで私が使用していたコードされています import math x = 2 while x < 1000: if math.factorial(x-1) + 1 % x == 0 and (

    1

    1答えて

    +記号を使用して2つの整数を加算しようとしています。キャリーなしの合計はa^bとして計算でき、キャリーは(& b)< <として計算できます。1. 0x7FFFFFFFは32ビット整数の最大数ですが、マスクは何をするのですか?なぜキャリーとは、各繰り返しでMASKを使ってmodにする必要がありますか?結果がMAX_INTより大きい場合、〜((& MAX_INT)^ MAX_INT)は何をしますか?

    0

    2答えて

    これは計算に問題があります。このコードは、N = 57までのNのすべての値に対して機能しますが、58以上のNに対してオーバーフローエラー(34、 'Result too large')をスローします。ありがとう。 import numpy as np import scipy.integrate import scipy.optimize import warnings warnings.

    0

    1答えて

    928mbファイルは正常に動作しますが、soapサービスに1.08GBを送信しようとするとこのオーバーフローエラーが発生します(mtomチャンク転送、_service reference.csはwsdl )。 var httpsTransportBindingElement = new HttpsTransportBindingElement { MaxReceivedMessageS

    0

    1答えて

    SSASで名前付き計算を整数キーから四半期に実行しようとしています。 IntegerDateKey下: SalesDateKey 20100101 20100101 20100101 20100102 20100102 20100102 20100102 これは動作しないとにかかわらず、私はそれをキャストする方法、私はそれが

    0

    2答えて

    私はVBAの初心者です。最近、私はいくつかのコードを入力し、私のコードのサンプルは次のとおりです: Dim n As Long n = Range("A1", Range("A1").End(xlDown)).Rows.Count For i = 3 To n Range("P" & i).Value = WorksheetFunction.IfError(Range("N" & i).Va

    0

    1答えて

    私は配列で送信したいカップルのユーザーIDを取得しましたが、非常に長い整数の配列を作成するための正しいSwift 3の構文を理解することはできません。私は@という接頭辞をキャストしてas AnyObjectを使ってみましたが、うまくいかなかったのです。 idArray = [10211420262370680、10211420262370680]は エラーましょう:int型 に保存されたときに、整

    5

    1答えて

    std::chrono::durationの1種類を別の種類に変換する必要がありますが、値が表現できないため、そのような変換が不可能な場合はいつ知る必要があります。 これを確認するための標準ライブラリの機能が見つかりませんでした。 cppreference pageは、値が範囲外の場合に何が起こるかを指定しません。浮動小数点から整数への変換は、未定義の動作(私の場合、整数から整数に変換する必要があ