\(\sqrt{n^2+n+X}=m\)

の両辺を2乗し

\(n^2+n+X=m^2\)

を考えます。一般に、この手の問題は項の数が少なかったり、変数の次数が揃っていた方が嬉しくなります。そこで「平方完成」をすることで1次の項を消すことを考えます。

\((n+\frac{1}{2})^2+X-\frac{1}{4}=m^2\)

ここでは整数になるかどうかみたいな話をしているので、分数が出てくるのは嫌です。そこで全てが整数になるように両辺を4倍します。

\((2n+1)^2+4X-1=4m^2\)

あとは移項して公式解説同様に因数分解すればよいです。