정답 $\displaystyle 441-96=345$

$\displaystyle f(x)= ( x ^ {5} +2x ^ {4} +3x ^ {3} +4x ^ {2} +5x+6) ^ {2}$, $\displaystyle g(x)=( x ^ {8} +x ^ {7} + \cdots +x+1) $라 두자.

$x^{10}$의 계수를 구하려면  $g(x)$에서 상수, $f(x)$에서 $x^{10}$의 계수를 곱하고, $g(x)$에서 $x$의 계수, $f(x)$에서 $x^9$의 계수를 곱하고, 계속해서 $g(x)$에서 $x^8$의 계수, $f(x)$에서 $x^2$의 계수를 곱하여 합하면 된다. 그런데 $g(x)$의 모든 항의 계수(상수항포함)는 모두 $1$이므로 $f(x)$를 전개했을 때 $x^2$의 계수, $x^3$의 계수, $\cdots$, $x^{10}$의 계수를 구하여 합하면 된다. 이 식으로 나타내면

$\displaystyle f(x)=a_0 +a_1 x +a_2 x^2 +\cdots+a_{10} x^{10}$

에서

$\displaystyle a_2 +a_3 + \cdots+a_{10} $

을 구하면 된다. $\displaystyle a_0 =6^2 =36$, $\displaystyle a_1 $는 $\displaystyle (5x+6)^2$에서 일차항의 계수와 같으므로

$\displaystyle a_2 =2\times5\times6 =60 $

또, $\displaystyle f(x)$의 계수의 총합(상수항포함)은 $\displaystyle f(1)= (1+2+3+4+5+6)^2 =441$

따라서 $\displaystyle x^{10}$의 계수는 $\displaystyle 441-96=345$이다.

 

* 참고. $\displaystyle f(x)$의 일차항의 계수는 $\displaystyle f'(0)$이므로

$\displaystyle f'(x)=2 ( x ^ {5} +2x ^ {4} +3x ^ {3} +4x ^ {2} +5x+6) \times ( 5x ^ {4} +8x ^ {3} + 9x^2 +8x +5)$

$\displaystyle  \begin{align}~\therefore~f'(0)&=2\times 6 \times 5 \\&=60  \end{align}$