GNU Octave 失败 hex2dec

Question

遇到失败，将一些 HEX 转换为 DEC conversions

b = '0x170d21b9' 
bdec = hex2dec(b)

返回

bdec = NaN

但应该是 386736569

上例中如何将十六进制数转换为整数？

Answer 1

离开 0x。这是在某些语言中用来表示数字是十六进制的符号，但实际上并不是数字的一部分。 Octave 的 hex2dec 函数不使用它。输入b = '170d21b9'，你会得到bdec = 386736569。