Giải bất phương trình: \((4x^2 + x - 1)\sqrt{x^2 + x + 2} \leq (4x^2 + 3x + 5)\sqrt{x^2 - 1} + 1\)

ĐK: \(\bigg \lbrack \begin{matrix} x \leq -1\\ x \geq 1 \ \ \end{matrix}\)
Đặt \(u = \sqrt{x^2 + x + 2},\ v = \sqrt{x^2 - 1} \ (u, v \geq 0)\) ta có
\(4x^2 + x - 1 = u^2 + 3v^2,\ 4x^2 + 3x + 5 = 3u^2 + v^2\)
Bất phương trình đã cho có dạng
\((u^2 + 3v^2)u\leq (3u^2 + v^2)v + 1 \Leftrightarrow (u - v)^3 \leq 1 \Leftrightarrow u - v \leq 1 \Leftrightarrow u \leq v + 1\)
Xét \(\sqrt{x^2+x+2} \leq \sqrt{x^2-1} + 1\)
\(\Leftrightarrow x^2+x+2 \leq x^2 - 1 + 2\sqrt{x^2-1} + 1\)
\(\Leftrightarrow 2\sqrt{x^2-1} \geq x + 2\)
\(\Leftrightarrow \begin{bmatrix} \left\{\begin{matrix} x+2<0 \hspace{2,5 cm}\\ x^2-1\geq 0\hspace{2,3 cm} \end{matrix}\right.\\ \left\{\begin{matrix} x+2\geq 0 \hspace{2,5 cm}\\ 4(x^2-1) \geq x^2 + 4x + 4 \end{matrix}\right. \end{matrix} \Leftrightarrow \begin{bmatrix} x < -2 \hspace{1,9 cm}\\ \left\{\begin{matrix} x \geq -2\hspace{1,7 cm}\\ 3x^2 - 4x - 8 \geq 0 \end{matrix}\right. \end{matrix}\)
\(\Leftrightarrow \Bigg \lbrack \begin{matrix} x < -2 \\ \left\{\begin{matrix} x \geq -2 \ \ \ \\ \bigg \lbrack \begin{matrix} x\leq \frac{2-2\sqrt{7}}{3}\\ x\geq \frac{2+2\sqrt{7}}{3} \end{matrix} \end{matrix}\right. \end{matrix} \Leftrightarrow \Bigg \lbrack \begin{matrix} x \leq \frac{2-2\sqrt{7}}{3}\\ x \geq \frac{2+2\sqrt{7}}{3} \end{matrix}\)

Vậy tập nghiệm của bất phương trình là \(\bigg ( - \infty ; \frac{2-2\sqrt{7}}{3} \bigg ] \cup \bigg [ \frac{2+2\sqrt{7}}{3}; +\infty \bigg )\)