Cho x, y là các số thực dương thỏa mãn . Biết giá trị lớn nhất của của biểu thức bằng trong đó a là số nguyên tố. Tính ab2

Với x, y > 0 ta có \(\ln \frac{{\sqrt {1 + xy} }}{{x + y}} = \frac{{{x^2} + {y^2} + xy - 1}}{2} \Leftrightarrow \ln \frac{{1 + xy}}{{{{\left( {x + y} \right)}^2}}} = {\left( {x + y} \right)^2} - \left( {xy + 1} \right)\)

\( \Leftrightarrow \ln \left( {1 + xy} \right) + \left( {1 + xy} \right) = \ln {\left( {x + y} \right)^2} + {\left( {x + y} \right)^2}\,\,\left( 1 \right)\)

Xét hàm số \(f\left( u \right) = \ln u + u\,\,\,\,\left( {u > 0} \right)\) có \(f'\left( u \right) = \frac{1}{u} + 1 > 0,\forall u > 0 \Rightarrow \) hàm số f(u) đồng biến trên khoảng \(\,\left( {0; + \infty } \right)\).

Khi đó \(\left( 1 \right) \Leftrightarrow f\left( {1 + xy} \right) = f{\left( {x + y} \right)^2}\) \( \Leftrightarrow 1 + xy = {\left( {x + y} \right)^2} \Leftrightarrow {\left( {x + y} \right)^2} - xy = 1.\)

Đặt \(t = x + y\left( {t > 0} \right) \Rightarrow xy = {t^2} - 1\). Khi đó \(P = \frac{{{t^2} - 1}}{t}\).

Áp dụng bất đẳng thức \(xy \le {\left( {\frac{{x + y}}{2}} \right)^2} \Rightarrow {t^2} - 1 \le \frac{{{t^2}}}{4} \Rightarrow {t^2} \le \frac{4}{3} \Rightarrow t \in \left( {0;\frac{2}{{\sqrt 3 }}} \right]\).

Xét hàm số \(f\left( t \right) = \frac{{{t^2} - 1}}{t}\) với \(t \in \left( {0;\frac{2}{{\sqrt 3 }}} \right]\). Ta có \(f'\left( t \right) = \frac{{{t^2} + 1}}{{{t^2}}} > 0,\forall t \Rightarrow \) Hàm số f(t) đồng biến trên \(\left( {0;\frac{2}{{\sqrt 3 }}} \right]\).

\( \Rightarrow \mathop {\max }\limits_{\left( {0;\frac{2}{{\sqrt 3 }}} \right]} f\left( t \right) = f\left( {\frac{2}{{\sqrt 3 }}} \right) = \frac{{\sqrt 3 }}{6} \Rightarrow \left\{ \begin{array}{l} a = 3\\ b = 6 \end{array} \right.\)