Giả sử đồ thị hàm số \(y = ({m^2} + 1){x^4} - 2m{x^2} + {m^2} + 1\) có 3 điểm cực trị là A, B, C mà \({x_A} < {x_B}

\(\begin{array}{l}
y' = 4\left( {{m^2} + 1} \right){x^3} - 4mx = 4x\left[ {\left( {{m^2} + 1} \right){x^2} - m} \right]\\
 + y'\left( 0 \right)4x\left[ {\left( {{m^2} + 1} \right){x^2} - m} \right] = 0 \Leftrightarrow \left[ \begin{array}{l}
x = 0\\
x =  \pm \sqrt {\frac{m}{{{m^2} + 1}}} \left( {m > 0} \right)
\end{array} \right.
\end{array}\) 

+ Với m > 0 thì đồ thị hàm số có 3 điểm cực trị (với \(x_A, x_B, x_C\)) là:

\(A\left( { - \sqrt {\frac{m}{{{m^2} + 1}}} ; - \frac{{{m^2}}}{{{m^2} + 1}} + {m^2} + 1} \right);B\left( {0;{m^2} + 1} \right);C\left( {\sqrt {\frac{m}{{{m^2} + 1}}} ; - \frac{{{m^2}}}{{{m^2} + 1}} + {m^2} + 1} \right)\) 

+ Quay tam giác ABC quanh AC thì được khối tròn xoay có thể tích là:

\(V = 2.\frac{1}{3}\pi {r^2}h = \frac{2}{3}\pi B{I^2}.IC = \frac{2}{3}\pi {\left( {\frac{{{m^2}}}{{{m^2} + 1}}} \right)^2}\sqrt {\frac{m}{{{m^2} + 1}}}  = \frac{2}{3}\pi \sqrt {\frac{{{m^9}}}{{{{\left( {{m^2} + 1} \right)}^5}}}} \) 

+ Xét hàm số \(f\left( x \right) = \frac{{{m^9}}}{{{{\left( {{m^2} + 1} \right)}^5}}}\) 

Có: \(f'\left( x \right) = \frac{{{m^8}\left( {9 - {m^2}} \right)}}{{{{\left( {{m^2} + 1} \right)}^6}}};f'\left( x \right) = 0 \Leftrightarrow m = 3\left( {m > 0} \right)\) 

Ta có BBT:

Vậy thể tích cần tìm lớn nhất khi m  = 3