Trong không gian với hệ tọa độ Oxyz, cho hình chóp M.ABCD có đỉnh M thay đổi luôn nằm trên mặt cầu \(\left( S \right):{{\left( x-2 \right)}^{2}}+{{\left( y-1 \right)}^{2}}+{{\left( z-6 \right)}^{2}}=1\), đáy ABCD là hình vuông có tâm \(H\left( 1;2;3 \right), A\left( 3;2;1 \right)\). Thể tích lớn nhất của khối chóp M.ABCD bằng

Ta có mặt cầu \(\left( S \right)\) có tâm \(I\left( 2;1;6 \right)\), bán kính R=1.

Có \(IH=\sqrt{11}\) và \(IA=3\sqrt{3} \Rightarrow \) hai điểm H, A nằm ngoài mặt cầu.

Hình vuông ABCD có \(HA=2\sqrt{2} \Rightarrow AB=AH\sqrt{2}=4\Rightarrow {{S}_{ABCD}}=16\).

Gọi K là hình chiếu vuông góc của M trên mặt phẳng \(\left( ABCD \right)\) có \({{V}_{M.ABCD}}=\frac{1}{3}MK.{{S}_{ABCD}}=\frac{16}{3}MK\).

Gọi J là hình chiếu của I trên AH. Gọi N là hình chiếu vuông góc của M trên đường thẳng AH.

Ta có \(MK\le MN\le MJ\le IM+IJ\), dấu bằng xảy ra khi M là giao điểm của IJ và mặt cầu (I nằm giữa M và J).

\(\Rightarrow {{V}_{M.ABCD}}\le \frac{16}{3}\left( R+d\left( I,AH \right) \right)\).

Có \(\overrightarrow{AI}=\left( -1;-1;5 \right),\overrightarrow{AH}=\left( -2;0;2 \right) \Rightarrow \left[ \overrightarrow{AI},\overrightarrow{AH} \right]=\left( -2;-8;-2 \right)\)

\(\Rightarrow d\left( I,AH \right)=\frac{\left| \left[ \overrightarrow{AI},\overrightarrow{AH} \right] \right|}{\left| \overrightarrow{AH} \right|}=\frac{\sqrt{{{\left( -2 \right)}^{2}}+{{\left( -8 \right)}^{2}}+{{\left( -2 \right)}^{2}}}}{\sqrt{{{\left( -2 \right)}^{2}}+{{2}^{2}}}}=3 \Rightarrow {{V}_{M.ABCD}}\le \frac{64}{3}\).

Vậy \({{V}_{M.ABCD}}\) lớn nhất bằng \(\frac{64}{3}\).