Tìm tập hợp các điểm M(x,y,z) nằm trên mặt phẳng (P) sao cho tam giác MAB có diện tích nhỏ nhất

Ta có \(\overrightarrow {AB} = \left( {1; - 1;2} \right)\), vtpt của (P) \(\overrightarrow {{n_{\left( P \right)}}} = \left( {3;1; - 1} \right)\)

Dễ thấy: \(\overrightarrow {AB} .\overrightarrow {{n_{(P)}}} = 0\)

Suy ra AB song song với (P) và hai điểm A, B nằm cùng 1 phía với mặt phẳng (P).

Điểm \(M\in (P)\) sao cho tam giác ABM có diện tích nhỏ nhất:

Suy ra \({S_{\Delta ABC}} = \frac{{AB.d(M;AB)}}{2}\) nhỏ nhất hay d(M,AB) nhỏ nhất.

Điều này xảy ra khi: \(M \in \Delta = \left( P \right) \cap \left( Q \right)\) với (Q) là mặt phẳng đi qua AB và vuông góc với (P).

Suy ra vtpt của Q: \($\overrightarrow {{n_{\left( Q \right)}}} = \left[ {\overrightarrow {AB} ,\overrightarrow {{n_{\left( P \right)}}} } \right] = \left( { - 1;7;4} \right)\)

PTTQ \(\left( Q \right): - 1\left( {x - 1} \right) + 7y + 4\left( {z - 2} \right) = 0 \Leftrightarrow x - 7y - 4z + 7 = 0\)

Vậy quỹ tích M là \(\left\{ \begin{array}{l} x - 7y - 4z + 7 = 0\\ 3x + y - z + 5 = 0 \end{array} \right..\)