integer-overflow

    0熱

    1答えて

    SQLモードはNO_UNSIGNED_SUBTRACTIONですが、範囲外のエラーが発生する

    クライアントをMySQL 5.4から5.7にアップグレードすると、「BIGINT UNSIGNEDの値が範囲外です...」というエラーが発生しました。 my.cnfを編集してsql_mode = "NO_UNSIGNED_SUBTRACTION"を設定し、実際にそのモードを使用していることを確認するためにSHOW VARIABLESを使用しました。それは、unsigned int型の列は、私は新し
    mysql integer-overflow unsigned-integer 2017-08-29

    1熱

    1答えて

    C++の整数オーバフローから "auto"は安全ですか？

    私はこのようなコードを記述する場合：だから auto n = 2048 * 2048 * 5; char* buf = new char[n]; を、C++ 17の整数オーバーフローから安全auto控除タイプですか？
    c++ c++17 integer-overflow auto 2017-09-02

    1熱

    1答えて

    ルールまたはトリガによって予期しないオーバーフローエラーが発生する

    テーブル内のすべての行に対して特定のトリガが必要なシナリオがあります。 私が知る限り、これを行う最も簡単な方法は、データをまったく変更しないものとして定義されたダムアップデートを実行することです。実行するだけです。一つの簡単な例があり、この1： update PFUNC set CODCOLIGADA = CODCOLIGADA これは上記の例を実行し、今まで私たちは、私は非常に奇妙なエラーが
    sql-server triggers rule integer-overflow 2017-07-19

    -1熱

    1答えて

    浮動小数点が負にオーバーフローする

    符号付き整数は、符号ビットが0から1に反転され、正の整数が負になるような整数オーバーフローを持つ可能性があることがわかります。 浮動小数点数でも同じことが起こりますか？実験的に、数が大きすぎる場合は、それはちょうどInfになります。しかし、仮名や指数をあふれさせることは可能ではないでしょうか？同様の問題を引き起こしますか？
    floating-point numbers precision floating-accuracy integer-overflow 2017-09-09

    0熱

    1答えて

    整数オーバーフロー/アンダーフロー

    整数オーバーフローとアンダーフローについて学習していますが、負の入力nを与えることでjの値を制御できるかどうか疑問に思っていましたか？例えば int i = n; size_t j = i; printf("%lu",j); 私は「J」の値は255になりたい場合は、それは私にその出力を与える負の数「n」を作ることは可能ですか？
    c integer-overflow unsigned-integer 2017-09-20

    2熱

    1答えて

    整数のラップアラウンドをCで

    私はかなりの時間からcでプログラミングしています。しかし、整数ラップアラウンドが発生するプログラムでは決して働きませんでした。整数が4バイト割り当てられている場合、整数の範囲は-2,147,483,648から2,147,483,647になります。私たちが限界を超えれば、それはただラップアラウンドします。 ラップアラウンドがどのように起こるかを調べるために、次のプログラムで作業していました。 #in
    c integer-overflow 2017-08-03

    0熱

    1答えて

    大きな乗算をするときにintオーバーフローを避ける

    プログラミングコンテストに参加するためのトレーニングをしていますので、そのような問題でよく慣れるようにしています。私は特に何かに問題を抱えてきました。驚くほど大きな数字のためにintがオーバーフローしました。この特定の問題が解決方法を知りたいと思います：Amelia and Rabbit Island。これは私のコードです：問題で #include <iostream> int main(){
    c++ modulo integer-overflow 2017-11-11

    0熱

    3答えて

    なぜ2つの正の整数の積は負の整数ですか？

    このセメスターは、システムのプリラムミングコースを受講しました。 なぜ50000 * 50000が負の値になるのですか？ 私はこれの論理を理解しようとします。 は、ここではスライドのスクリーンショットは、 slide image
    integer-overflow systems-programming 2017-09-28

    0熱

    1答えて

    bernoulli番号を格納すると、小数点モジュールを使用した後でもPythonでオーバーフローエラーが発生しています

    pythonで最初の1000個のbernoulli番号を辞書に格納しようとしています。最初は、そのまま数字を保存しました。だから私はオーバーフローエラーが発生しました。さて、私は以前の答えを調べた後、小数点モジュールを使うことを考えました。 だからここでは -5218507479961513801890596392421261361036935624312258325065379143295948
    python integer decimal integer-overflow bernoulli-numbers 2017-11-18

    0熱

    2答えて

    Python 3での計算からオーバーフローエラーを修正する方法はありますか

    私はミルの定数を使って素数を計算するプログラムを作成しましたが、とにかく膨大な計算が行われます。たとえば、1.306 ... ** 5661 オーバーフローエラーが発生します。これをどうすれば解決できますか？私はxrangeを試してみましたが、それはPython 3にはもう存在しないので私を助けませんでした。私はそれを減らす方法を知らない。 誰でも私に助けを与えることができますか？どうもありがとう
    python python-3.x integer-overflow 2017-11-27
最新の質問