Tìm tất cả các giá trị của tham số m để hàm số \(y = - m{x^4} + ({m^2} - 1){x^2} + m + 1\) có ba cực trị.

Với \(m = 0 \Rightarrow y = 1 - {x^2} \Rightarrow\) hàm số có một điểm cực trị

Với \(m\neq 0\) ta có \(y = - m{x^4} + ({m^2} - 1){x^2} + m + 1 \)

\(\Rightarrow y' = - 4m{x^3} + 2({m^2} - 1)x;\forall x \in \mathbb{R}\) 

Phương trình \(y' = 0 \Leftrightarrow ({m^2} - 1)x - 2m{x^3} = 0 \)

\(\Leftrightarrow \left[ \begin{array}{l} x = 0\\ 2m{x^2} = {m^2} - 1(*) \end{array} \right.\) 

Để hàm số đã cho có ba điểm cực trị khi và chỉ khi (*) có hai nghiệm phân biệt khác 0

Điều này xảy ra khi: 

\(\frac{{{m^2} - 1}}{m} > 0 \Leftrightarrow \left[ \begin{array}{l} m > 1\\ - 1 < m < 0 \end{array} \right..\)