Tìm giá trị m để đường thẳng d:y = x + m cắt (C):y=2x-1/x-1 tại hai điểm phân biệt sao cho tam giác OAB vuông tại A hoặc B

Phương trình hoành độ giao điểm $\frac{{2x - 1}}{{x - 1}} = x + m \Leftrightarrow {x^2} + \left( {m - 3} \right)x + 1 - m = 0\,\,\left( * \right)$.

Ta có $d$ cắt $\left( C \right)$ tại hai điểm phân biệt khi chỉ khi $\left\{ \begin{array}{l}\Delta  = {m^2} - 2m + 5 > 0\\{\left( 1 \right)^2} + \left( {m - 3} \right).1 + 1 - m \ne 0\end{array} \right.$ (luôn đúng với mọi $m$).

Gọi ${x_1},{x_2}$ là hai nghiệm phương trình $\left( * \right)$, ta có $\left\{ \begin{array}{l}{x_1} + {x_2} = 3 - m\\{x_1}{x_2} = 1 - m\end{array} \right.$ và $\left( C \right)$ cắt $d$ tại $A\left( {{x_1};{x_1} + m} \right),\,\,B\left( {{x_2};{x_2} + m} \right)$.

Vectơ $\overrightarrow {AB}  = \left( {{x_2} - {x_1};{x_2} - {x_1}} \right)$ cùng phương với vectơ $\vec u = \left( {1;1} \right)$.

Tam giác $OAB$ vuông tại $A$ khi chỉ khi $\overrightarrow {OA} .\vec u = 0 \Leftrightarrow 2{x_1} + m = 0$.

Ta có hệ phương trình $\left\{ \begin{array}{l}{x_1} + {x_2} = 3 - m\\{x_1}{x_2} = 1 - m\\2{x_1} =  - m\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}2{x_1} =  - m\\2{x_2} = 6 - m\\ - m\left( {6 - m} \right) = 4 - 4m\end{array} \right. \Rightarrow \left[ \begin{array}{l}m = 1 + \sqrt 5 \\m = 1 - \sqrt 5 \end{array} \right.$.