Tìm giá trị m để đường thẳng d:y = x + m cắt (C):y=2x-1/x-1 tại hai điểm phân biệt sao cho tam giác OAB vuông tại A hoặc B

Phương trình hoành độ giao điểm \(\frac{{2x - 1}}{{x - 1}} = x + m \Leftrightarrow {x^2} + \left( {m - 3} \right)x + 1 - m = 0\,\,\left( * \right)\).

Ta có \(d\) cắt \(\left( C \right)\) tại hai điểm phân biệt khi chỉ khi \(\left\{ \begin{array}{l}\Delta  = {m^2} - 2m + 5 > 0\\{\left( 1 \right)^2} + \left( {m - 3} \right).1 + 1 - m \ne 0\end{array} \right.\) (luôn đúng với mọi \(m\)).

Gọi \({x_1},{x_2}\) là hai nghiệm phương trình \(\left( * \right)\), ta có \(\left\{ \begin{array}{l}{x_1} + {x_2} = 3 - m\\{x_1}{x_2} = 1 - m\end{array} \right.\) và \(\left( C \right)\) cắt \(d\) tại \(A\left( {{x_1};{x_1} + m} \right),\,\,B\left( {{x_2};{x_2} + m} \right)\).

Vectơ \(\overrightarrow {AB}  = \left( {{x_2} - {x_1};{x_2} - {x_1}} \right)\) cùng phương với vectơ \(\vec u = \left( {1;1} \right)\).

Tam giác \(OAB\) vuông tại \(A\) khi chỉ khi \(\overrightarrow {OA} .\vec u = 0 \Leftrightarrow 2{x_1} + m = 0\).

Ta có hệ phương trình \(\left\{ \begin{array}{l}{x_1} + {x_2} = 3 - m\\{x_1}{x_2} = 1 - m\\2{x_1} =  - m\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}2{x_1} =  - m\\2{x_2} = 6 - m\\ - m\left( {6 - m} \right) = 4 - 4m\end{array} \right. \Rightarrow \left[ \begin{array}{l}m = 1 + \sqrt 5 \\m = 1 - \sqrt 5 \end{array} \right.\).