不知道楼主现在问题解决了没有……不过或许可以有另一种思路

首先可以把上面的等式重写为：（下面的操作都是在 Z/NZ 的群中）
aM ≡ b
bM ≡ a

因为 Z/NZ 是一个环，所以移项（以及等式两边同时加减）可得：
① (a + b)M ≡ (a + b)
② (a - b)M ≡ (b - a)

然后分类讨论。
若 M∈[0] 那么根据 ② 式就有：
b - a ≡ 0，即 a ≡ b
代入 ① 式可得
a + b ≡ 0
因此 a ≡ b ≡ 0

若 M∈[1] 那么根据 ② 式就有：
a - b ≡ b - a，即 a ≡ b

若 M∈[-1] 那么根据 ① 式就有：
a + b ≡ -(a + b)，即 a + b ≡ 0

若 M∈Z/NZ - [0] - [1] - [-1]，那么根据 ① 式就有：
a + b ≡ 0，即 a ≡ -b
将其带入 ② 中，可得
(-b - b)M ≡ 2b
-2bM ≡ 2b
2b(M + 1) ≡ 0
因为 M 不在 [-1] 中，所以 2b ≡ 0

总结：
- 如果 M 是 N 的倍数，那么 a 和 b 都是 N 的倍数
- 如果 M = kN + 1，k 为任意整数，那么 a 和 b 的余数相同
- 如果 M = kN - 1，k 为任意整数，那么 a + b 是 N 的倍数
- 如果 M 是其他情况，那么 a + b 是 N 的倍数且 2b 是 N 的倍数

可能还有些错误和不完整的地方