整数 \(g\) について、\(f(g) = Bg + \frac{A}{\sqrt{g}}\) の最小値が求まればよいです。

相加相乗平均の不等式より、 \( f(g) = Bg + \frac{A}{2\sqrt{g}} + \frac{A}{2\sqrt{g}} \geq 3(\frac{A^2B}{4})^{1/3} \)、またこの等号が成立するのは \(g = (\frac{A}{2B})^{2/3}\) のときです。

\(f\) の凸性より、\((\frac{A}{2B})^{2/3}\) の切り上げと切り捨てのみを調べればよいです。