Cho phương trình: \({x^2} - 2\left( {m - 2} \right)x + {m^2} - 3m + 3 = 0\), với m là tham số.

Ta có \(\Delta ' = {\left( {m - 2} \right)^2} - \left( {{m^2} - 3m + 3} \right) = 1 - m\)

Phương trình có hai nghiệm \({x_1},{x_2} \Leftrightarrow \Delta ' \ge 0 \Leftrightarrow m \le 1\)

Khi đó  \(x{ & _1} + {x_2} = 2m - 4;{x_1}{x_2} = {m^2} - 3m + 3\)

Do đó \(3{x_1}{x_2} - x_1^2 - x_2^2 - 5 = 0 \Leftrightarrow 5{x_1}{x_2} - {\left( {{x_1} + {x_2}} \right)^2} - 5 = 0\)

\( \Leftrightarrow 5\left( {{m^2} - 3m + 3} \right) - {\left( {2m - 4} \right)^2} - 5 = 0 \Leftrightarrow {m^2} + m - 6 = 0\)

\( \Leftrightarrow \left[ \begin{array}{l}
m =  - 3\\
m = 2
\end{array} \right.\). Đối chiếu điều kiện ta được giá trị m cần tìm là m = -3