Xét các điểm A(0;0;1), B(m;0;0), C(0;n;0) và D(1;1;1) và m>0, n<0 và m+n=1 biết rằng khi m, n thay đổi tồn tại một mặt cầu cố định tiếp xúc với mặt phẳng (ABC) và đi qua D

Gọi I(a,b,c) và R là tâm và bán kính của mặt cầu cố định trong đề bài.

Ta có: \(ID = \sqrt {{{(a - 1)}^2} + {{(b - 1)}^2} + {{(c - 1)}^2}} = R\,(*).\)  

Phương trình mặt phẳng (ABC) là: \(\frac{x}{m} + \frac{y}{n} + z = 1\)  

Nên khoảng cách từ I đến mặt phẳng (ABC) là: \(d\left( {I,(ABC)} \right) = \frac{{\left| {\frac{a}{m} + \frac{b}{n} + c - 1} \right|}}{{\sqrt {\frac{1}{{{m^2}}} + \frac{1}{{{n^2}}} + 1} }}\) 

Vì \(m + n = 1\) nên \(\frac{1}{{{m^2}}} + \frac{1}{{{n^2}}} + 1 = {\left( {\frac{1}{m} + \frac{1}{n}} \right)^2} - \frac{2}{{m.n}} + 1 = \frac{1}{{{m^2}{n^2}}} - \frac{2}{{mn}} + 1 = {\left( {1 - \frac{1}{{mn}}} \right)^2}.\) 

Do đó: \(d\left( {I,(ABC)} \right) = \frac{{\left| {an + bm + cmn - mn} \right|}}{{1 - mn}} = R.\) Ta xét hai trường hợp:

(1) Nếu \(an + bm + cmn - mn = R(1 - mn)\) thì thay n=1-m vào ta có:

\(\begin{array}{l} a(1 - m) + bm + cm(1 - m) - m(1 - m) = R - Rm(1 - m)\\ \Leftrightarrow {m^2}(R + c - 1) + m(a - b - c - R + 1) - a + R = 0. \end{array}\)

Đẳng thức này đúng với mọi \(m\in(0;1)\) nên \(R + c - 1 = a - b - c - R + 1 = - a + R = 0\) 

Hay a=b=R, c=1-R thay vào (*) thì: \(\sqrt {2{{(R - 1)}^2} + {R^2}} = R\) hay R=1.

(2) Nếu \(an + bm + cmn - mn = - R(1 - mn)\) thì tương tự trên ta có:

\(- R + c - 1 = a - b - c + R + 1 = - a - R = 0\) hay \(a = b = - R,c = R + 1.\)

Suy ra: \(\sqrt {2{{(R + 1)}^2} + {R^2}} = R\) hay \(R=-1\) không thỏa yêu cầu bài toán.

Vậy mặt cầu cần tìm là: \({(x - 1)^2} + {(y - 1)^2} + {z^2} = 1.\)