Cho phương trình: ${x^2} - 2\left( {m - 2} \right)x + {m^2} - 3m + 3 = 0$, với m là tham số.

Ta có $\Delta ' = {\left( {m - 2} \right)^2} - \left( {{m^2} - 3m + 3} \right) = 1 - m$

Phương trình có hai nghiệm ${x_1},{x_2} \Leftrightarrow \Delta ' \ge 0 \Leftrightarrow m \le 1$

Khi đó  $x{ & _1} + {x_2} = 2m - 4;{x_1}{x_2} = {m^2} - 3m + 3$

Do đó $3{x_1}{x_2} - x_1^2 - x_2^2 - 5 = 0 \Leftrightarrow 5{x_1}{x_2} - {\left( {{x_1} + {x_2}} \right)^2} - 5 = 0$

$\Leftrightarrow 5\left( {{m^2} - 3m + 3} \right) - {\left( {2m - 4} \right)^2} - 5 = 0 \Leftrightarrow {m^2} + m - 6 = 0$

$\Leftrightarrow \left[ \begin{array}{l} m =  - 3\\ m = 2 \end{array} \right.$. Đối chiếu điều kiện ta được giá trị m cần tìm là m = -3