Cho hình chóp S.ABC có đáy ABC là tam giác vuông tại \(B,AB = 3a,BC = 4a\). Cạnh bên SA vuông góc với mặt phẳng đáy.

Gọi N là trung điểm của BC, dựng hình bình hành ABNP.

Ta có: \(AB//NP,AB \not\subset \left( {SPN} \right) \Rightarrow AB//\left( {SPN} \right)\). Mà

\(SM \subset \left( {SPN} \right) \Rightarrow d\left( {AB;SM} \right) = d\left( {AB;\left( {SPN} \right)} \right) = d\left( {A;\left( {SPN} \right)} \right)\) 

Kẻ \(AH \bot SP,\left( {H \in SP} \right)\left( 1 \right)\) 

Ta có: \(BC \bot AB,BC \bot SA \Rightarrow BC \bot \left( {SAB} \right)\). Mà

\(AP//BC \Rightarrow AP \bot \left( {SAB} \right) \Rightarrow AP \bot AB\) 

Mặt khác: \(SA \bot AB \Rightarrow AB \bot \left( {SAP} \right) \Rightarrow AB \bot AH\left( 2 \right)\) 

Từ (1), (2) suy ra \(d\left( {A;\left( {SPN} \right)} \right) = AH \Rightarrow d\left( {AB;SM} \right) = AH\) 

\(\Delta ABC\) vuông tại B \( \Rightarrow AC = \sqrt {A{B^2} + B{C^2}}  = \sqrt {{{\left( {3a} \right)}^2} + {{\left( {4a} \right)}^2}}  = 5a\) 

\(SA \bot \left( {ABC} \right) \Rightarrow \left( {SC;\left( {ABC} \right)} \right) = SCA = {60^0}\)

\(\Delta SAC\) vuông tại A \( \Rightarrow SA = AC.\tan C = 5a.\tan {60^0} = 5a\sqrt 3 \) 

\(AP = BN = \frac{{BC}}{2} = \frac{{4a}}{2} = 2a\) 

\(\Delta SAP\) vuông tại A có \(AH \bot SP \Rightarrow \frac{1}{{A{H^2}}} = \frac{1}{{S{A^2}}} + \frac{1}{{A{P^2}}} = \frac{1}{{75{a^2}}} + \frac{1}{{4{a^2}}} = \frac{{79}}{{300{a^2}}} \Rightarrow AH = \frac{{10\sqrt 3 a}}{{\sqrt {79} }}\) 

\( \Rightarrow d\left( {AB;SM} \right) = \frac{{10\sqrt 3 a}}{{\sqrt {79} }}\).