Giá trị lớn nhất của biểu thức P=(x-y)^2 là bao nhiêu biết {x^2} + 2xy + 3{y^2} = 4

Với y=0 ta có $x =  \pm 2 \Rightarrow P = 4.$

Với $y \ne 0,$ ta có: $\frac{P}{4} = \frac{{{{\left( {x - y} \right)}^2}}}{{{x^2} + 2xy + 3{y^2}}} = \frac{{{{\left( {\frac{x}{y}} \right)}^2} - 2\frac{x}{y} + 1}}{{{{\left( {\frac{x}{y}} \right)}^2} + 2\frac{x}{y} + 3}}$

Đặt $t = \frac{x}{y},$ ta có: $\frac{P}{4} = \frac{{{t^2} - 2t + 1}}{{{t^2} + 2t + 3}}$

Xét hàm số $f(t) = \frac{{{t^2} - 2t + 1}}{{{t^2} + 2t + 3}}$

$f'(t) = \frac{{4({t^2} + t - 2)}}{{{{({t^2} + 2t + 3)}^2}}};f'(t) = 0 \Leftrightarrow \left[ \begin{array}{l}t = 1\\t =  - 2\end{array} \right.$

Bảng biến thiên:

Vậy $\max f(t) = 3 \Rightarrow \max P = 12.$