Trong không gian với hệ tọa độ Oxyz, cho mặt cầu , điểm M(1;1;2) và mặt phẳng .

Mặt cầu (S) có tâm O(0;0;0) và bán kính R = 3

Ta thấy điểm \(M \in (P)\) và \(OM = \sqrt 6 < R\) nên mặt phẳng (P) cắt mặt cầu (S) theo một đường tròn (C) tâm H. Suy ra \(OH \bot (P).\)

Từ giả thiết, ta có \(\Delta\) đi qua M  và cắt đường trong (C) tại hai điểm A, B \((do{\rm{ }}\Delta \subset (P))\).

Gọi K là trung điểm của AB, nên \(HK \bot AB\) và AB nhỏ nhất khi và chỉ khi HK lớn nhất.

Mà \(\Delta HKM\) vuông tại K nên \(HK \le HM = const,\) hay \(H{K_{\max }} = HM \Rightarrow K \equiv M.\)

Vậy \(A{B_{\min }}\) khi \(K \equiv M(1;1;2).\) Khi đó đường thẳng \(\Delta\) đi qua M(1;1;2), có vtcp \(\overrightarrow {{u_\Delta }} = \left[ {\overrightarrow {{n_{(P)}}} ,\overrightarrow {HM} } \right].\)

Phương trình OH đi qua O, vec-tơ chỉ phương

\(\overrightarrow {{n_{(P)}}} = (1;1;1):\left\{ \begin{array}{l} x = 1\\ y = t\\ z = t \end{array} \right.,(t \in R).\)

Do \(\left\{ H \right\} = OH \cap (P)\) nên \(H\left( {\frac{4}{3};\frac{4}{3};\frac{4}{3}} \right)\)

\( \Rightarrow HM = \left( { - \frac{1}{3}; - \frac{1}{3};\frac{2}{3}} \right).\)

\( \Rightarrow \overrightarrow {{u_\Delta }} = \left[ {\overrightarrow {{n_{(P)}}} ;\overrightarrow {HM} } \right] = (1; - 1;0) = \overrightarrow u .\)

Vậy \(a = - 1,b = 0 \Rightarrow T = a - b = - 1.\)