壁に平行なベクトルを利用する。
壁に平行なベクトルの求め方

進行方向のベクトル(F)を内積をつかって法線に投影してベクトルを求め(aN)、それらを足したベクトル(F + aN)が壁に平行なベクトル(P)となった。

反射ベクトル(R)は平行ベクトル(P)と進行ベクトルを法線に投影したベクトル(aN)を足したベクトルになる。※壁の法線は正規化されていること。
R = P + aNの式に
P = F + aNを代入して、R = F + 2(aN)
a = dot(-F, N)なので、R = F + 2(dot(-F,N)N)になり
マイナスを外に出して
R = F – 2dot(F, N)N