Mặt cầu (S) có bán kính nhỏ nhẩt, đi qua O, A, B và tiếp xúc với mặt phẳng (P) có tâm là:

Giả sử, phương trình mặt cầu là \(\left( S \right):{\left( {x - a} \right)^2} + {\left( {y - b} \right)^2} + {\left( {z - c} \right)^2} = {R^2}\)

Vì A, B, O\( \in \left( S \right)\) nên \(\left\{ {\begin{array}{*{20}{c}}{{a^2} + {b^2}{{\left( {4 - c} \right)}^2} = {R^2}}\\{{{\left( {2 - a} \right)}^2} + {b^2} + {c^2} = {R^2}}\\{{a^2} + {b^2} + {c^2} = {R^2}}\end{array} \Leftrightarrow \left\{ {\begin{array}{*{20}{c}}{a = 1}\\{c = 2}\\{b =  \pm \sqrt {{R^2} - 5} }\end{array}} \right.} \right.\) \( \Rightarrow \left( {1; \pm \sqrt {{R^2} - 5} ;2} \right)\)

Khi đó \(d\left( {I;\left( P \right)} \right) = R \Leftrightarrow \frac{{\left| {11 \pm \sqrt {{R^2} - 5} } \right|}}{3} = R \Leftrightarrow \left[ {\begin{array}{*{20}{c}}{R = \frac{{21}}{4}}\\{R = 3}\end{array}} \right.\).

Vì R nhỏ nhất nên \(R = 3 \Rightarrow I\left( {1;2;2} \right).\)