Cho mặt cầu và đường thẳng . Tìm m để d cắt (S) tại hai điểm phân biệt A,B sao cho các mặt phẳng tiếp diện của (S) tại A và tại B vuông góc với nhau.

Để thỏa mãn yêu cầu đề bài thì trước tiên d phải cắt mặt cầu, tức là phương trình \({(2 - t)^2} + {t^2} + {(m + 1)^2} - 2(2 - t) + 4(m + t) + 1 = 0\) có hai nghiệm phân biệt \( \Leftrightarrow 3{t^2} + 2(m + 1)t + {m^2} + 4m + 1 = 0\)

Phương trình có hai nghiệm phân biệt khi

\(\Delta ' > 0 \Leftrightarrow {(m + 1)^2} - 3{m^2} - 12m - 3 > 0\)

\( \Leftrightarrow {m^2} + 5m + 1 < 0.\)

Với phương trình có hai nghiệm phân biệt, áp dụng định lý Viet ta có \({t_1}{t_2} = \frac{{{m^2} + 4m + 1}}{3}\); \({t_1} + {t_2} = \frac{{ - 2}}{3}(m + 1)\).

Khi đó \(\overrightarrow {IA} = (1 - {t_1};{t_1};m + 2 + {t_1})\), \(\overrightarrow {IB} = (1 - {t_2};{t_2};m + 2 + {t_2}).\)

Vậy  

\(\overrightarrow {IA} .\overrightarrow {IB} = (1 - {t_1})(1 - {t_2}) + {t_1}{t_2} + (m + 2 + {t_1})(m + 2 + {t_2}) = 0\)

\(\Leftrightarrow 3{t_1}{t_2} + (m + 1)({t_1} + {t_2}) + {(m + 2)^2} + 1 = 0\)

\( \Leftrightarrow {m^2} + 4m + 1 - \frac{2}{3}{(m + 1)^2} + {(m + 2)^2} + 1 = 0\)

\( \Leftrightarrow \left[ \begin{array}{l} m = - 1\\ m = - 4 \end{array} \right.\) (TM).