Cho hình chóp \(S.ABCD\) có đáy \(ABCD\) là hình vuông cạnh \(a,SAB\) là tam giác đều và \(\left( {SAB} \right)\) vuông góc với \(\left( {ABCD} \right).\) Tính \(\cos \varphi \) với \(\varphi \) là góc tạo bởi \((SAC)\) và \((SCD).\)

Gọi \(H;M\) là trung điểm của \(AB;BC\).  \(DM\) cắt \(CH;AC\) lần lượt tại \(K\) và \(I\) .

+ Ta có \(\left\{ \begin{array}{l}\left( {SAB} \right) \bot \left( {ABCD} \right)\\\left( {SAB} \right) \cap \left( {ABCD} \right) = AB\end{array} \right.\)  mà \(SH \bot AB\) (do tam giác \(SAB\) đều có \(SH\) là đường trung tuyến)

Suy ra \(SH \bot \left( {ABCD} \right)\)

+ Xét \(\Delta BHC = \Delta CMD\left( {c - g - c} \right) \Rightarrow \widehat B = \widehat {DMC}\)

 mà \(\widehat B + \widehat {BCH} = 90^\circ  \Rightarrow \widehat {KMC} + \widehat {KCM} = 90^\circ \) \( \Rightarrow \widehat {MKC} = 90^\circ  \Rightarrow MD \bot CH\)

Ta có \(MD \bot CH\,\left( {cmt} \right);\,MD \bot SH\) (do \(SH \bot \left( {ABCD} \right)\)) nên \(MD \bot \left( {SHC} \right) \Rightarrow MD \bot SC\)

+ Trong \(\left( {SHC} \right)\) kẻ \(KE \bot SC\) tại \(E.\)

Ta có \(KE \bot SC\) và \(MD \bot SC \Rightarrow SC \bot \left( {EKD} \right)\)

Lại có  \(\left\{ \begin{array}{l}\left( {SDC} \right) \bot \left( {KED} \right)\\\left( {SAC} \right) \bot \left( {KED} \right)\\\left( {SDC} \right) \cap \left( {KED} \right) = DE\\\left( {SAC} \right) \cap \left( {KED} \right) = IE\end{array} \right. \Rightarrow \) góc giữa \((SAC)\) và \((SCD)\) là góc tạo bởi \(EI;ED\).

+ Vì \(MC//AD \Rightarrow \dfrac{{IA}}{{IC}} = \dfrac{{ID}}{{IM}} = \dfrac{{AD}}{{MC}} = \dfrac{{2a}}{a} = 2\)

\( \Rightarrow ID = \dfrac{2}{3}MD = \dfrac{2}{3}\sqrt {D{C^2} + M{C^2}}  = \dfrac{2}{3}\sqrt {{a^2} + \dfrac{{{a^2}}}{4}}  = \dfrac{2}{3}.\dfrac{{a\sqrt 5 }}{2} = \dfrac{{a\sqrt 5 }}{3}\)

Và \(\dfrac{{IA}}{{IC}} = 2 \Rightarrow IC = \dfrac{1}{3}AC = \dfrac{{a\sqrt 2 }}{2}\)

+ Xét tam giác vuông \(DMC\) có \(CK\) là đường cao nên \(CK.MD = MC.CD \Leftrightarrow CK.\dfrac{{a\sqrt 5 }}{2} = a.\dfrac{a}{2} \Rightarrow CK = \dfrac{a}{{\sqrt 5 }}\)

+ Ta có \(\Delta CEK\) đồng dạng với \(\Delta CHS\) \( \Rightarrow \dfrac{{EK}}{{SH}} = \dfrac{{CK}}{{CS}}\) \( \Rightarrow EK = \dfrac{{SH.CK}}{{CS}} = \dfrac{{\dfrac{{a\sqrt 3 }}{2}.\dfrac{a}{{\sqrt 5 }}}}{{\sqrt {H{S^2} + C{H^2}} }} = \dfrac{{\dfrac{{{a^2}\sqrt 3 }}{{2\sqrt 5 }}}}{{a\sqrt 2 }} = \dfrac{{a\sqrt 3 }}{{2\sqrt {10} }}\)

+ Tam giác \(KEC\) vuông tại E nên \(EC = \sqrt {C{K^2} - E{K^2}}  = \sqrt {{{\left( {\dfrac{a}{{\sqrt 5 }}} \right)}^2} - {{\left( {\dfrac{{a\sqrt 3 }}{{2\sqrt {10} }}} \right)}^2}}  = \dfrac{a}{{2\sqrt 2 }}\)

+ Tam giác \(IKC\) vuông tại K nên \(KI = \sqrt {I{C^2} - C{K^2}}  = \sqrt {\dfrac{{2{a^2}}}{9} - \dfrac{{{a^2}}}{5}}  = \dfrac{a}{{3\sqrt 5 }}\)

+ Xét tam giác \(EKI\) vuông tại K (vì \(MD \bot \left( {SHC} \right) \Rightarrow DK \bot KE\) ) có

\(EI = \sqrt {E{K^2} + K{I^2}}  = \sqrt {\dfrac{{3{a^2}}}{{40}} + \dfrac{{{a^2}}}{{45}}}  = \dfrac{{a\sqrt 7 }}{{6\sqrt 2 }}\)

+ Xét tam giác \(ECD\) vuông tại E (do \(SC \bot \left( {EDK} \right) \Rightarrow SC \bot ED\)) có

\(ED = \sqrt {C{D^2} - E{C^2}}  = \sqrt {{a^2} - {{\left( {\dfrac{a}{{2\sqrt 2 }}} \right)}^2}}  = \dfrac{{a\sqrt 7 }}{{2\sqrt 2 }}\)

+ Xét tam giác \(EID\) ta có \(\cos IED = \dfrac{{I{E^2} + E{D^2} - I{D^2}}}{{2IE.ED}} = \dfrac{{\dfrac{{7{a^2}}}{{72}} + \dfrac{{7{a^2}}}{8} - \dfrac{{5{a^2}}}{9}}}{{2.\dfrac{{a\sqrt 7 }}{{6\sqrt 2 }}.\dfrac{{a\sqrt 7 }}{{2\sqrt 2 }}}} = \dfrac{5}{7} > 0\)

Vậy \(\cos \varphi  = \dfrac{5}{7}.\)

Chọn D.