Cho số nguyên dương \(n\) thỏa mãn \(C_n^3C_n^{n - 3} - 2C_n^3C_{n - 1}^2 + C_{n - 1}^2C_{n - 1}^{n - 3} = 14400.\) Thực hiện tìm hệ số của số hạng chứa \({x^9}\) trong khai triển \(T\left( x \right) = {\left( {8{x^6} - 36{x^3} - \dfrac{{27}}{{{x^3}}} + 54} \right)^n},\) với \(x \ne 0.\)

Ta có \(C_n^k = C_n^{n - k},\forall n,k \in \mathbb{N}\left( {k \le n} \right)\)

Do đó

\(C_n^3C_n^{n - 3} - 2C_n^3C_{n - 1}^2 + C_{n - 1}^2C_{n - 1}^{n - 3} = 14400\)

\( \Leftrightarrow {\left( {C_n^2} \right)^2} - 2C_n^3C_{n - 1}^2 + {\left( {C_{n - 1}^2} \right)^2} = 14400\)

\( \Leftrightarrow {\left( {C_n^3 - C_{n - 1}^2} \right)^2} = {120^2}\)

\( \Leftrightarrow \left[ \begin{array}{l}C_n^3 - C_{n - 1}^2 = 120\\C_n^3 - C_{n - 1}^2 =  - 120\end{array} \right.\)

+) \(C_n^3 - C_{n - 1}^2 = 120\) \( \Leftrightarrow \dfrac{{n!}}{{3!\left( {n - 3} \right)!}} - \dfrac{{\left( {n - 1} \right)!}}{{2!\left( {n - 3} \right)!}} = 120\) \( \Leftrightarrow \dfrac{{n\left( {n - 1} \right)\left( {n - 2} \right)}}{6} - \dfrac{{\left( {n - 1} \right)\left( {n - 2} \right)}}{2} = 120\)

\( \Leftrightarrow n\left( {{n^2} - 3n + 2} \right) - 3\left( {{n^2} - 3n + 2} \right) = 720\) \( \Leftrightarrow {n^3} - 6{n^2} + 11n - 726 = 0 \Leftrightarrow n = 11\)

+)\(C_n^3 - C_{n - 1}^2 =  - 120\) \( \Leftrightarrow \dfrac{{n!}}{{3!\left( {n - 3} \right)!}} - \dfrac{{\left( {n - 1} \right)!}}{{2!\left( {n - 3} \right)!}} =  - 120\)\( \Leftrightarrow \dfrac{{n\left( {n - 1} \right)\left( {n - 2} \right)}}{6} - \dfrac{{\left( {n - 1} \right)\left( {n - 2} \right)}}{2} =  - 120\)

\( \Leftrightarrow n\left( {{n^2} - 3n + 2} \right) - 3\left( {{n^2} - 3n + 2} \right) =  - 720\)\( \Leftrightarrow \left( {n - 1} \right)\left( {n - 2} \right)\left( {n - 3} \right) =  - 720\) (vô nghiệm do \(n \ge 3\))

\(T\left( x \right) = {\left( {8{x^6} - 36{x^3} - \dfrac{{27}}{{{x^3}}} + 54} \right)^{11}}\) \( = {\left[ {{{\left( {2{x^2} - \dfrac{3}{x}} \right)}^3}} \right]^{11}} = {\left( {2{x^2} - \dfrac{3}{x}} \right)^{33}}\)

Số hạng tổng quát trong khai triển trên là :

\(C_{33}^k{\left( {2{x^2}} \right)^{33 - k}} \cdot {\left( { - \dfrac{3}{x}} \right)^k} = C_{33}^k{.2^{33 - k}}.{\left( { - 3} \right)^k}.{x^{66 - 3k}}\)

Hệ số của số hạng chứa \({x^9}\) trong khai triển trên ứng với \(k\) là nghiệm của phương trình : \(66 - 3k = 9 \Leftrightarrow k = 19\)

Vậy hệ số cần tìm là \(C_{33}^{19}{.2^{14}}.{\left( { - 3} \right)^{19}}\)