Cho hình lăng trụ tam giác đều ABC.ABC có đáy ABC là tam giác vuông tại A và AB = AC = a.

Gọi D là đỉnh thứ tư của hình bình hành A'B'C'D'.

Do \(\left\{ \begin{array}{l}
A'B' = A'C'\\
\angle B'A'C' = 90^\circ 
\end{array} \right. \Rightarrow A'B'DC'\) là hình vuông.

\( \Rightarrow AC'//BD \Rightarrow \angle \left( {AC';BA'} \right) = d\left( {BD;BA'} \right) = 60^\circ \) và B'D = a.

Gọi \(O = A'D \cap B'C' \Rightarrow O\) là trung điểm của A'D.

\(\Delta A'B'C'\) vuông cân tại \(A' \Rightarrow A'O = \frac{{a\sqrt 2 }}{2} \Rightarrow A'D = a\sqrt 2 \).

Đặt \(BB' = x \Rightarrow A'B = \sqrt {{x^2} + {a^2}} ;BD = \sqrt {{x^2} + {a^2}} \).

TH1: \(\angle A'BD = 60^\circ \).

Áp dụng định lí cosin trong tam giác A'BD ta có:

\(A'{D^2} = A'{B^2} + B{D^2} - 2A'B.BD.\cos 60^\circ  \Rightarrow 2{a^2} = 2{x^2} + 2{a^2} - 2\left( {{x^2} + {a^2}} \right)\frac{1}{2}\) 

\( \Leftrightarrow 2{x^2} = {x^2} + {a^2} \Leftrightarrow {x^2} = {a^2} \Leftrightarrow x = a\) 

\( \Rightarrow {V_{ABC.A'B'C'}} = BB'.{S_{\Delta ABC}} = a.\frac{1}{2}{a^2} = \frac{{{a^3}}}{2}\)

TH2: \(\angle A'BD = 120^\circ \).

Áp dụng định lí cosin trong tam giác A'BD ta có:

\(A'{D^2} = A'{B^2} + B{D^2} - 2A'B.BD.\cos 120^\circ  \Rightarrow 2{a^2} = 2{x^2} + 2{a^2} + 2\left( {{x^2} + {a^2}} \right)\frac{1}{2}\) 

\( \Leftrightarrow 0 = 3{x^2} + 2{a^2} \Leftrightarrow x = a = 0\) (vo li)

Vậy \({V_{ABC.A'B'C'}} = \frac{{{a^3}}}{2}\).