Cho hình chóp \(S.ABCD\) có đáy \(ABCD\) là hình vuông, \(AB=1\), cạnh bên \(SA=1\) và vuông góc với mặt phẳng đáy \(\left( ABCD \right)\).

Đặt \(DM=x;\,BN=y\,\,\left( 0<x,\,y<1 \right)\)

Ta có \({{S}_{\Delta AMN}}={{S}_{ABCD}}-{{S}_{\Delta ABN}}-{{S}_{\Delta ADM}}-{{S}_{\Delta CMN}}\)\( =1-\frac{1}{2}\left[ x+y+\left( 1-x \right)\left( 1-y \right) \right]\)\( =\frac{1}{2}\left( 1-xy \right)\)

Xét tam giác vuông \(CMN\): \(M{{N}^{2}}\)\( ={{\left( 1-x \right)}^{2}}+{{\left( 1-y \right)}^{2}}\,\,\left( 1 \right)\).

Áp dụng định lí \(\cos \( cho tam giác \(\Delta AMN\): \(M{{N}^{2}}\)\( =A{{M}^{2}}+A{{N}^{2}}-2.AM.AN.\cos 45{}^\circ \)\( =1+{{x}^{2}}+1+{{y}^{2}}-\sqrt{2}.\sqrt{{{x}^{2}}+1}.\sqrt{{{y}^{2}}+1}\,\,\,\,\left( 2 \right)\)

Từ (1) và (2) suy ra

\(\begin{align} & {{\left( 1-x \right)}^{2}}+{{\left( 1-y \right)}^{2}}=1+{{x}^{2}}+1+{{y}^{2}}-\sqrt{2}.\sqrt{{{x}^{2}}+1}.\sqrt{{{y}^{2}}+1} \\ & \Leftrightarrow 2x+2y=\sqrt{2\left( {{x}^{2}}+1 \right)\left( {{y}^{2}}+1 \right)} \\ & \Leftrightarrow {{x}^{2}}+{{y}^{2}}={{x}^{2}}{{y}^{2}}+1-4xy\,\,\left( 3 \right) \\ \end{align}\)

Ta có \({{x}^{2}}+{{y}^{2}}\ge 2xy\,\,\left( 4 \right)\)

Từ (3) và (4) suy ra \({{x}^{2}}{{y}^{2}}+1-4xy\ge 2xy\Leftrightarrow {{\left( xy \right)}^{2}}-6xy+1\ge 0\)

\(\Leftrightarrow \left[ \begin{align} & xy\ge 3+2\sqrt{2}\,\,\left( loai \right) \\ & xy\le 3-2\sqrt{2} \\ \end{align} \right.\)

\(\Rightarrow \)\({{S}_{\Delta AMN}}=\frac{1}{2}\left( 1-xy \right)\ge \sqrt{2}-1\)

\(\Rightarrow \)\({{V}_{S.AMN}}=\frac{1}{3}.SA.{{S}_{\Delta AMN}}\ge \frac{\sqrt{2}-1}{3}\)

Dấu \(''=''\) xảy ra

\(\left\{ \begin{align} & x=y \\ & xy=3-2\sqrt{2} \\ \end{align} \right.\Leftrightarrow x=y=\sqrt{3-2\sqrt{2}}\)

Vậy thể tích nhỏ nhất của khối chóp \(S.AMN\) bằng \(\frac{\sqrt{2}-1}{3}\)