JSで32ビット符号付き整数に対してのビット演算でハマった

JSで32ビット符号付き整数に対してのビット演算でハマった

2021-02-173 min read

目次

  1. 概要
  2. 参考にしたサイト

概要

JSでサブネットマスクの計算を行おうとしたとき、ビット演算でハマりました。その時のメモです。

JSでサブネットマスクの計算

JSでビット演算子を利用する場合 32ビットを超える整数を扱う場合は論理右シフト>>>などを利用して変換するなどの対応が必要そうです。

具体例

例えば64などの32ビット符号付き整数の範囲に収まる数値に対して論理和を計算すると次のような結果となります。

※符号付き32ビット整数は -2の32乗から2の32乗-1 (−2,147,483,648 から 2,147,483,647) を表現できます。

console.log(64); // 64
console.log(64 | 0); // 64
console.log(-64 | 0); // -64
console.log(2147483647 | 0); // 2147483647

しかし32ビット符号付き整数の範囲内で計算できれば良いのですが、 例えば、192.168.0.1 のようなIPアドレスの値を10進数に変換する場合 3232235521 となります。 このように、この範囲を超えた数値を計算しようとした際に意図せず負の値となっていました。

console.log(2147483648 | 0); // -2147483648
console.log(3232235521 | 0); // -1062731775

この計算では32ビットで表せる数値を全て符号なしの整数として表現したかったので、変換する方法を探したところ "符号なし右シフト演算子" で符号なしの表現に変換することができました。

console.log((2147483648 | 0) >>> 0); // 2147483648
console.log((3232235521 | 0) >>> 0); // 3232235521

参考にしたサイト

JavaScriptのビット演算な罠

符号なし右シフト (>>>) - MDN

32ビット - Wikipedia

javascriptでビット演算をしてみよう! - SystemGathering

Tags
javascript(109)
linux(54)
node.js(53)
amazon%20aws(47)
typescript(44)
%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0(36)
%E7%94%BB%E5%83%8F%E5%87%A6%E7%90%86(30)
html5(29)
php(24)
centos(24)
python(22)
%E7%AB%B6%E6%8A%80%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%9F%E3%83%B3%E3%82%B0(21)
mac(21)
mysql(20)
canvas(19)
opencv(17)
%E9%9B%91%E8%AB%87(16)
docker(16)
wordpress(15)
atcoder(14)
apache(12)
%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92(12)
%E3%83%87%E3%83%BC%E3%82%BF%E3%83%99%E3%83%BC%E3%82%B9(12)
amazon%20s3(12)
red%20hat(12)
prisma(12)
ubuntu(11)
github(10)
git(10)
vue.js(10)
%E7%94%BB%E5%83%8F%E5%87%A6%E7%90%86100%E6%9C%AC%E3%83%8E%E3%83%83%E3%82%AF(10)
mariadb(10)
react(9)
aws%20cdk(9)
css3(8)
%E5%8F%AF%E8%A6%96%E5%8C%96(8)
%E5%B0%8F%E3%83%8D%E3%82%BF(8)
nestjs(8)
amazon%20lightsail(7)
next.js(7)
%E3%83%96%E3%83%AD%E3%82%B0(6)
cms(6)
oracle(6)
perl(6)
gitlab(6)
iam(5)
amazon%20ec2(5)
%E8%B3%87%E6%A0%BC%E8%A9%A6%E9%A8%93(5)
aws%20amplify(5)
curl(4)
Author
githubzennqiita
ただの備忘録です。

※外部送信に関する公表事項