integer-overflow 相关问题

当操作的结果大于可由基础整数类型表示的最大值时,会发生整数溢出。

“模拟” JavaScript中的32位整数溢出

JavaScript可以很好地处理以下数学:var result =(20000000 * 48271)%0x7FFFFFFF;但是在某些编程语言中,第一次int * int乘法会导致值太大,以致...

回答 3 投票 11

为什么golang常数可能会溢出int64而不是float64?

为什么在下面的代码片段中常量会溢出int64而不是float64?包主要导入“ fmt” const Big = 1 << 100 func needInt(x int64)int64 {return x / 10} func needFloat(...

回答 2 投票 -3

使用带有uint64_t类型的内置溢出函数

我目前正在编写一个程序,该程序大量使用uint64_t类型,以增强跨平台的兼容性。碰巧的是,我的程序中有很多溢出的可能性,所以...

回答 2 投票 2

指针变量在存储大于1024的整数并且某些地址似乎被锁定时溢出。在C中

如何在具有pnumber [2%4] [2%4]的情况下写入2D指针,如何获得显示3个以上密码的pnumber?我正在编写一个程序,用C写帕斯卡 三角形。当...

回答 1 投票 1

C:如何迭代所有有符号的int值,从INT_MIN到INT_MAX?

我想遍历所有可能的有符号int值,从INT_MIN到INT_MAX。 (int x = INT_MIN; x <= INT_MAX; x ++)的显而易见的代码do_something(x);由于未定义而损坏...

回答 1 投票 2

(-2147483648> 0)在C ++中返回true?

-2147483648是具有32位的整数类型的最小整数,但是似乎它将在if(...)语句中溢出:if(-2147483648> 0)std :: cout <

回答 4 投票 240

MATLAB int32在第18位溢出

我正在尝试使用MATLAB模拟32位有符号整数算法。 int32函数的行为不符合预期:acc = 0 inc = 40000 accu = int32(accu + inc)accu = int32(accu + inc)accu = ...

回答 1 投票 2

带溢出的有符号整数乘法

我想解决以下问题:假设我们有两个int64_t数字a和b。而且,如果乘积符合int64_t数据类型,并且乘法结果的最低64位导致...

回答 1 投票 1

具有相同数据类型的相同逻辑代码在Java中传递,但在C ++中不传递?

我正在解决一个leetcode问题,我们必须找到可能增加目标的集合数。给定一个具有所有正数且无重复的整数数组,请找到...

回答 1 投票 0

如何在C ++中处理最大为2 ^ 9000000的整数

我知道的最大的正整数数据类型是unsigned long long。有没有办法在C ++中处理2 ^ 9000000的整数。我在代码块中使用gcc编译器,但也可以在...

回答 1 投票 3

如何测试有符号或无符号整数的最高有效位?

给出一个保证为某种整数的clock_t数据类型,如何使用可移植的C代码测试最高有效位的值?换句话说,我需要这个的定义...

回答 3 投票 1

检查数字是否为2 [保留]的幂

//这里A是要检查的数字,它是一个字符串int power0ftwo(string A){int i,m,n,num = 0; n = A.size(); for(i = 0; i ] >>>

回答 1 投票 -1

Force PHP整数溢出

[我们有一些整数算法,由于历史原因,它必须在PHP上与在某些静态类型的语言中相同的作用。自从我们上次升级PHP以来,溢出的行为...

回答 6 投票 8

如何获得R中111111111 * 111111111的正确答案?

我向我的女儿展示了R中两个111..111数乘法的魔术图案,例如> options(scipen = 999)> 1 ^ 2 [1] 1> 11 ^ 2 [1] 121> 111 ^ 2 [1] 12321> 1111 ^ 2 [1] 1234321&...

回答 1 投票 5

如何有效判断我存储的值是否在TypedArray的范围内?

在Chrome(以及可能的其他浏览器)中,当我将值存储到超出其范围的TypedArray时,该值将被截断:const arr = new Uint16Array(1); arr [0] = 100000; console.log(arr [0]); // ...

回答 1 投票 1

Haskell长度列表+阶乘

我对Haskell非常陌生。我一直在尝试实现n_choose_r,但是由于某种原因,我的阶乘函数返回了奇怪的值。 Main.hs阶乘0 = 1阶乘n = n *阶乘(n-1)...

回答 1 投票 2

寄存器AL和AX在哪里溢出?

请告诉我以下汇编(伪)代码的结果是什么?我们将寄存器EAX的所有位都设置为0,因此依次将AH,AL和AX也设置为0。但是当我减去...

回答 1 投票 2

破解密码本的平方根算法中的整数范围

在Java中,有一种算法针对平方根来破解代码书,如下所示:int sqrt(int n){return sqrt_helper(n,1,n); } int sqrt_helper(int n,int min,int max){如果(max

回答 3 投票 0

有没有一种安全的方式来获得有符号整数的无符号的绝对值,而不会触发溢出?

考虑一个典型的绝对值函数(其中为参数的缘故整体式最大尺寸的变长):无符号长ABS(长的输入);一个天真的实现,这可能看起来...

回答 2 投票 12

如何检查在C符号整数溢出没有未定义的行为?

有(1)://假设x,y是非负如果(X>最大 - y)的误差;和(2)://假设x,y是非负INT总和= X + Y;如果(总和<X ||总和<y)的误差;伟驰最好还是有...

回答 3 投票 26

© www.soinside.com 2019 - 2024. All rights reserved.