삼각형 \(ABC\)에서 코사인법칙에 의하여 \(\overline{BC}^2 = 8^2 + 5^2 - 2 \cdot 8 \cdot 5 \cos\dfrac{\pi}{3} = 64 + 25 - 40 = 49\)이므로 \(\overline{BC} = \mathbf{7}\)이다.

사인법칙에 의하여 \(2R = \dfrac{\overline{BC}}{\sin(\pi/3)} = \dfrac{7}{\sqrt{3}/2} = \dfrac{14\sqrt{3}}{3}\)이므로 외접원의 반지름은 \(R = \mathbf{\dfrac{7\sqrt{3}}{3}}\)이다.

또한 삼각형 \(ABC\)의 넓이는 \(S = \dfrac{1}{2} \cdot 8 \cdot 5 \sin\dfrac{\pi}{3} = 10\sqrt{3}\)이고, 내접원의 반지름 \(r\)에 대하여 \(S = \dfrac{1}{2}r(8 + 5 + 7) = 10r\)이므로 \(10r = 10\sqrt{3} \implies r = \mathbf{\sqrt{3}}\)이다.

첫째항이 \(b_1 = 3\)이고 공차가 \(d = 2\)이므로 일반항은 \(b_n = 3 + (n-1)\cdot 2 = \mathbf{2n + 1}\)이며, 첫째항부터 제\(n\)항까지의 합은 \(T_n = \dfrac{n(3 + 2n + 1)}{2} = \mathbf{n(n+2)}\)이다.

따라서 부분분수 분해를 적용하면 \(\dfrac{1}{b_n b_{n+1}} = \dfrac{1}{(2n+1)(2n+3)} = \dfrac{1}{2}\left(\dfrac{1}{2n+1} - \dfrac{1}{2n+3}\right)\)이므로,

구하는 합은 \(S_{15} = \dfrac{1}{2}\displaystyle\sum_{n=1}^{15}\left(\dfrac{1}{2n+1} - \dfrac{1}{2n+3}\right) = \dfrac{1}{2}\left(\dfrac{1}{3} - \dfrac{1}{33}\right) = \dfrac{1}{2} \cdot \dfrac{10}{33} = \mathbf{\dfrac{5}{33}}\)이다.

\(f(x) - k = x^3 - 4x = x(x-2)(x+2)\)는 원점에 대칭인 기함수이고, 구간 \([-2, 0]\)에서 \(x^3 - 4x \ge 0\), 구간 \([0, 2]\)에서 \(x^3 - 4x \le 0\)이다.

따라서 제1항은 \(k\)에 무관한 상수로서 \(\displaystyle\int_{-2}^{2} |x^3 - 4x|\,dx = 2\int_{0}^{2} (4x - x^3)\,dx = 2\left[2x^2 - \dfrac{1}{4}x^4\right]_0^2 = 2(8 - 4) = \mathbf{8}\)이다.

제2항은 \(g(k) = \displaystyle\int_{0}^{2} (k - 4x)^2\,dx = \int_{0}^{2} (k^2 - 8kx + 16x^2)\,dx = 2k^2 - 16k + \dfrac{128}{3} = 2(k-4)^2 + \dfrac{32}{3}\)이다.

따라서 \(I(k) = 8 + 2(k-4)^2 + \dfrac{32}{3} = 2(k-4)^2 + \dfrac{56}{3}\)이므로(제2항만 고려 시 \(\dfrac{32}{3}\)), 실수 \(k = \mathbf{4}\)일 때 제2항은 최솟값 \(\mathbf{\dfrac{32}{3}}\)(전체 \(I(4) = \mathbf{\dfrac{56}{3}}\))을 갖는다.

\(3t^2 - 8t + 4 = (3t-2)(t-2)\)이므로 \(F(x) = \displaystyle\int_{a}^{x} (3t^2 - 8t + 4)\,dt = t^3 - 4t^2 + 4t - C(a)\)이다. 삼차함수 \(y = t^3 - 4t^2 + 4t = t(t-2)^2\)는 \(t = 2\)에서 \(t\)축에 접하므로, \(G(x) = |F(x)|\)가 실수 전체에서 미분가능하려면 \(x\)축과의 교점이 중근인 \(x = 2\) 또는 극댓값 점 \(x = \dfrac{2}{3}\)가 되어야 한다. 특히 \(t(t-2)^2 = 0\)에서 중근을 가지려면 \(C(a) = 0\), 즉 \(a = 0\) 또는 \(a = \mathbf{2}\)이다.

또한 \(f(t) = 3(t-1)(t-k)\)일 때 \(a = 1\)이면 \(F(1) = 0, F'(1) = 0\)으로 \(x = 1\)에서 중근을 가지며, 공식에 의해 \(\displaystyle\int_{1}^{k} 3(t-1)(t-k)\,dt = -\dfrac{1}{2}(k-1)^3 = -4\)이므로 \((k-1)^3 = 8 \implies k - 1 = 2 \implies k = \mathbf{3}\)이다.

\(x \to \infty\)일 때 \(\lim_{x \to \infty} \dfrac{3x^2 - \sin x}{2x^2 + 1} = \lim_{x \to \infty} \dfrac{3 - \frac{\sin x}{x^2}}{2 + \frac{1}{x^2}} = \dfrac{3}{2}\)이고, \(\lim_{x \to \infty} \dfrac{3x^2 + 2x\cos x}{2x^2 + 1} = \lim_{x \to \infty} \dfrac{3 + \frac{2\cos x}{x}}{2 + \frac{1}{x^2}} = \dfrac{3}{2}\)이다.

따라서 함수의 극한의 대소 관계(조임정리)에 의하여 \(\lim_{x \to \infty} h(x) = \mathbf{\dfrac{3}{2}}\)이다. 또한 정적분과 미분의 관계에 의해 두 번째 극한은 피적분함수 \(q(x) = \dfrac{3x^2}{2x^2+1}\)의 \(x = 1\)에서의 함숫값 \(q(1) = \dfrac{3}{2+1} = \mathbf{1}\)이다.

점 \(P\)의 속도 \(v(t) = p'(t)\)는 최고차항의 계수가 \(3\)인 이차함수이고 \(t = 1, 3\)에서 부호가 바뀌므로 \(v(t) = 3(t-1)(t-3) = 3t^2 - 12t + 9\)이다.

\(p(0) = 2\)이므로 부정적분을 구하면 \(p(t) = \mathbf{t^3 - 6t^2 + 9t + 2}\)이며, \(p(4) = 64 - 96 + 36 + 2 = \mathbf{6}\)이다.

또한 \(p(0)=2, p(1)=6, p(3)=2, p(4)=6\)이므로 시각 \(t=0\)부터 \(t=4\)까지 점 \(P\)가 실제로 움직인 총 거리는 \(|p(1)-p(0)| + |p(3)-p(1)| + |p(4)-p(3)| = 4 + 4 + 4 = \mathbf{12}\)이다.

\(1 \le x \le 2^n\)에서 \(\log_2 x \le n\)이므로 \(x\)좌표의 최댓값은 \(2^n\)이고 \(a_n = \mathbf{2^n - 1}\)이다.

특히 \(n = 5\)일 때 \(a_5 = 2^5 - 1 = \mathbf{31}\)이며, 등비수열의 합 공식에 의하여 \(\displaystyle\sum_{n=1}^{5} a_n = \sum_{n=1}^{5} (2^n - 1) = \dfrac{2(2^5 - 1)}{2 - 1} - 5 = 62 - 5 = \mathbf{57}\)이다.

전체 \(5\)개의 공 중 \(2\)개를 꺼내는 경우의 수는 \(\binom{5}{2} = 10\)이다. 따라서 각 확률은 \(P(X=0) = \dfrac{\binom{3}{0}\binom{2}{2}}{10} = \dfrac{1}{10}\), \(P(X=1) = \dfrac{\binom{3}{1}\binom{2}{1}}{10} = \dfrac{6}{10} = \dfrac{3}{5}\), \(P(X=2) = \dfrac{\binom{3}{2}\binom{2}{0}}{10} = \dfrac{3}{10}\)이다.

기댓값은 \(E(X) = 0 \cdot \dfrac{1}{10} + 1 \cdot \dfrac{6}{10} + 2 \cdot \dfrac{3}{10} = \dfrac{12}{10} = \mathbf{\dfrac{6}{5}}\)이고, \(E(X^2) = 0 + 1 \cdot \dfrac{6}{10} + 4 \cdot \dfrac{3}{10} = \dfrac{18}{10} = \dfrac{9}{5}\)이다.

따라서 분산은 \(V(X) = \dfrac{9}{5} - \left(\dfrac{6}{5}\right)^2 = \dfrac{45 - 36}{25} = \mathbf{\dfrac{9}{25}}\)이며, \(V(5X - 3) = 25 V(X) = \mathbf{9}\)이다.

\(S_n = 1\cdot 2^0 + 3\cdot 2^1 + 5\cdot 2^2 + \cdots + (2n-1)\cdot 2^{n-1}\)의 양변에 공비 \(2\)를 곱하면 \(2S_n = 1\cdot 2^1 + 3\cdot 2^2 + \cdots + (2n-3)\cdot 2^{n-1} + (2n-1)\cdot 2^n\)이다.

두 식을 빼면 \(-S_n = 1 + 2(2^1 + 2^2 + \cdots + 2^{n-1}) - (2n-1)2^n = 1 + 2\cdot\dfrac{2(2^{n-1}-1)}{2-1} - (2n-1)2^n = -3 + (3 - 2n)2^n\)이다.

따라서 \(S_n = \mathbf{(2n - 3)\cdot 2^n + 3}\)이며, \(n = 10\)을 대입하면 \(S_{10} = 17 \cdot 2^{10} + 3 = 17 \cdot 1024 + 3 = \mathbf{17411}\)이다.

\(y = e^{-x}\)를 미분하면 \(y' = -e^{-x}\)이므로 점 \(P(t, e^{-t})\)에서의 접선 \(\ell\)의 방정식은 \(y - e^{-t} = -e^{-t}(x - t)\), 즉 \(y = -e^{-t}x + (t+1)e^{-t}\)이다.

\(t \gt -1\)일 때 \(x\)절편은 \(A(t+1, 0)\), \(y\)절편은 \(B(0, (t+1)e^{-t})\)이므로 삼각형 \(OAB\)의 넓이는 \(S(t) = \mathbf{\dfrac{1}{2}(t+1)^2 e^{-t}}\)이다.

도함수를 구하면 \(S'(t) = \dfrac{1}{2}\left\{2(t+1) - (t+1)^2\right\}e^{-t} = \dfrac{1}{2}(t+1)(1 - t)e^{-t}\)이므로, \(t \gt -1\)에서 \(t = \mathbf{1}\)일 때 극대이자 최댓값 \(S(1) = \dfrac{1}{2}\cdot 4 \cdot e^{-1} = \mathbf{\dfrac{2}{e}}\)를 갖는다.

\(g(x) = x^3 - 3x + 2 = (x-1)^2(x+2)\)이므로 곡선 \(y = g(x)\)는 \(x = 1\)에서 \(x\)축에 접하고 \(x = -2\)에서 \(x\)축과 교차한다.

구간 \([-2, 1]\)에서 \(g(x) \ge 0\)이므로 둘러싸인 도형의 넓이는 \(\displaystyle\int_{-2}^{1} (x^3 - 3x + 2)\,dx = \left[\dfrac{1}{4}x^4 - \dfrac{3}{2}x^2 + 2x\right]_{-2}^{1} = \left(\dfrac{1}{4} - \dfrac{3}{2} + 2\right) - (4 - 6 - 4) = \dfrac{3}{4} - (-6) = \mathbf{\dfrac{27}{4}}\)이다.

부분적분법을 두 번 적용하면 부정적분 \(\displaystyle\int (t+1)^2 e^{-t}\,dt = -(t+1)^2 e^{-t} + \int 2(t+1)e^{-t}\,dt = -\left\{(t+1)^2 + 2(t+1) + 2\right\}e^{-t} + C = -(t^2 + 4t + 5)e^{-t} + C\)이다.

따라서 구하는 정적분은 \(\displaystyle\int_{0}^{3} \dfrac{1}{2}(t+1)^2 e^{-t}\,dt = \dfrac{1}{2}\left[-(t^2 + 4t + 5)e^{-t}\right]_{0}^{3} = \dfrac{1}{2}\left(-26e^{-3} + 5\right) = \mathbf{\dfrac{5}{2} - \dfrac{13}{e^3}}\)이다.

\(a_1 \gt 0\)이고 \(\sum a_n \ne \sum |a_n|\)이므로 공비는 음수(\(-1 \lt r \lt 0\))이며, \(|a_n|\)은 첫째항이 \(a_1\)이고 공비가 \(-r\)인 등비수열이다.

따라서 \(\dfrac{a_1}{1 - r} = 9\), \(\dfrac{a_1}{1 + r} = 18\)이므로 두 식을 나누면 \(\dfrac{1+r}{1-r} = \dfrac{1}{2} \implies 2 + 2r = 1 - r \implies r = \mathbf{-\dfrac{1}{3}}\)이고, \(a_1 = 9\left(1 + \dfrac{1}{3}\right) = \mathbf{12}\)이다.

이때 \(\{a_n^2\}\)은 첫째항이 \(a_1^2 = 144\), 공비가 \(r^2 = \dfrac{1}{9}\)인 등비수열이므로 \(\displaystyle\sum_{n=1}^{\infty} a_n^2 = \dfrac{144}{1 - 1/9} = \mathbf{162}\)이다.

접점의 좌표를 \((t, t^2 - 2t + 3)\)이라 하면 \(f'(t) = 2t - 2\)이므로 접선의 방정식은 \(y - (t^2 - 2t + 3) = (2t-2)(x-t)\)이다. 이 직선이 점 \(P(1, -2)\)를 지나므로 \(-2 - t^2 + 2t - 3 = (2t-2)(1-t) \implies t^2 - 2t - 3 = 0 \implies t = -1, 3\)이다.

따라서 두 접점은 \(\mathbf{A(-1, 6), B(3, 6)}\)이고 두 접선의 방정식은 \(\mathbf{y = -4x + 2}\)와 \(\mathbf{y = 4x - 6}\)이다. 대칭축 \(x = 1\)을 기준으로 둘러싸인 넓이는 \(2\displaystyle\int_{1}^{3} \left\{(x^2 - 2x + 3) - (4x - 6)\right\}\,dx = 2\int_{1}^{3} (x-3)^2\,dx = 2\left[\dfrac{(x-3)^3}{3}\right]_1^3 = \mathbf{\dfrac{16}{3}}\)이다.

\(h(x) = e^{-x}\sin x\)를 미분하면 \(h'(x) = e^{-x}(\cos x - \sin x) = -\sqrt{2}e^{-x}\sin\left(x - \dfrac{\pi}{4}\right)\)이다.

\(h'(x) = 0\)이고 도함수의 부호가 양(+)에서 음(-)으로 바뀌는 극대점은 \(x_n = 2(n-1)\pi + \dfrac{\pi}{4}\) (\(n = 1, 2, 3, \cdots\))이다.

따라서 극댓값은 \(M_n = h(x_n) = \dfrac{\sqrt{2}}{2}e^{-\pi/4}\cdot \left(e^{-2\pi}\right)^{n-1}\)로서 첫째항이 \(M_1 = \dfrac{\sqrt{2}}{2}e^{-\pi/4}\), 공비가 \(e^{-2\pi}\)인 등비수열이며, 그 급수의 합은 \(\displaystyle\sum_{n=1}^{\infty} M_n = \mathbf{\dfrac{\sqrt{2}e^{-\pi/4}}{2(1 - e^{-2\pi})}}\)이다.

주사위에서 \(4\) 이하의 눈이 나올 확률은 \(\mathrm{P}(A) = \dfrac{4}{6} = \dfrac{2}{3}\), \(5\) 이상의 눈이 나올 확률은 \(\mathrm{P}(B) = \dfrac{1}{3}\)이다.

상자 \(A\)에서 꺼낸 \(2\)개의 공이 같은 색일 확률은 \(\mathrm{P}(E \mid A) = \dfrac{\binom{4}{2} + \binom{2}{2}}{\binom{6}{2}} = \dfrac{6 + 1}{15} = \dfrac{7}{15}\)이고, 상자 \(B\)에서 같은 색일 확률은 \(\mathrm{P}(E \mid B) = \dfrac{\binom{2}{2} + \binom{3}{2}}{\binom{5}{2}} = \dfrac{1 + 3}{10} = \dfrac{4}{10} = \dfrac{2}{5}\)이다.

따라서 전확률 공식에 의해 \(\mathrm{P}(E) = \dfrac{2}{3}\cdot\dfrac{7}{15} + \dfrac{1}{3}\cdot\dfrac{2}{5} = \dfrac{14 + 6}{45} = \mathbf{\dfrac{4}{9}}\)이며, 조건부확률은 \(\mathrm{P}(A \mid E) = \dfrac{14/45}{20/45} = \mathbf{\dfrac{7}{10}}\)이다.

음이 아닌 정수해의 개수는 중복조합에 의하여 \(a_n = {}_{3}\mathrm{H}_{n} = \binom{n+2}{2} = \mathbf{\dfrac{(n+1)(n+2)}{2}}\)이다.

따라서 \(\displaystyle\sum_{n=1}^{10} a_n = \sum_{n=1}^{10} \binom{n+2}{2} = \binom{13}{3} - \binom{2}{2} = \dfrac{13 \cdot 12 \cdot 11}{6} - 1 = 286 - 1 = \mathbf{285}\)이다.

모평균 \(m\)의 \(95\%\) 신뢰구간의 길이는 \(b - a = 2 \times 1.96 \times \dfrac{\sigma}{\sqrt{n}} = 3.92 \times \dfrac{10}{\sqrt{n}} = \dfrac{39.2}{\sqrt{n}}\)이다.

\(\dfrac{39.2}{\sqrt{n}} \le 5\)에서 \(\sqrt{n} \ge \dfrac{39.2}{5} = 7.84\)이므로 양변을 제곱하면 \(n \ge (7.84)^2 = 61.4656\)이다. 따라서 자연수 \(n\)의 최솟값은 \(\mathbf{62}\)이다.

\(\angle C = \pi - \angle A\)이므로 \(\cos C = -\cos A\)이다. 삼각형 \(ABD\)와 \(CBD\)에서 코사인법칙을 적용하면 \(\overline{BD}^2 = 2^2 + 5^2 - 2\cdot 2\cdot 5\cos A = 29 - 20\cos A\)이고, \(\overline{BD}^2 = 3^2 + 4^2 - 2\cdot 3\cdot 4\cos(\pi - A) = 25 + 24\cos A\)이다.

두 식을 연립하면 \(44\cos A = 4 \implies \cos A = \mathbf{\dfrac{1}{11}}\)이며, 이를 대입하면 \(\overline{BD}^2 = 29 - \dfrac{20}{11} = \dfrac{299}{11} \implies \overline{BD} = \mathbf{\sqrt{\dfrac{299}{11}}}\)이다. 또한 \(\sin A = \sqrt{1 - \dfrac{1}{121}} = \dfrac{2\sqrt{30}}{11}\)이므로 사각형 \(ABCD\)의 넓이는 \(\dfrac{1}{2}(2\cdot 5 + 3\cdot 4)\sin A = 11 \cdot \dfrac{2\sqrt{30}}{11} = \mathbf{2\sqrt{30}}\)이다.

\(V(x) = x^2\sqrt{9 - x^2} = \sqrt{9x^4 - x^6}\) (\(0 \lt x \lt 3\))에서 근호 안의 함수를 \(w(x) = 9x^4 - x^6\)이라 하면 \(w'(x) = 36x^3 - 6x^5 = 6x^3(6 - x^2)\)이다.

\(0 \lt x \lt 3\)에서 \(x = \mathbf{\sqrt{6}}\)일 때 \(w'(x) = 0\)이고 좌우에서 부호가 양(+)에서 음(-)으로 바뀌므로, \(V(x)\)는 \(x = \sqrt{6}\)에서 극대이자 최댓값 \(V(\sqrt{6}) = 6\sqrt{9 - 6} = \mathbf{6\sqrt{3}}\)을 갖는다.

\(\sin^3\theta \cos^2\theta = (1 - \cos^2\theta)\cos^2\theta \sin\theta\)이므로 \(u = \cos\theta\)로 치환하면 \(du = -\sin\theta\,d\theta\)이고, 적분구간은 \(\theta = 0 \to u = 1\), \(\theta = \dfrac{\pi}{2} \to u = 0\)이다.

따라서 \(J = \displaystyle\int_{0}^{1} (u^2 - u^4)\,du = \left[\dfrac{1}{3}u^3 - \dfrac{1}{5}u^5\right]_{0}^{1} = \dfrac{1}{3} - \dfrac{1}{5} = \mathbf{\dfrac{2}{15}}\)이다.

\(f(0) = 0, f(2) = e^2 - 1\)이고 \(g(x) = \ln(x+1)\)은 \(f(x) = e^x - 1\)의 역함수이다.

따라서 역함수 정적분 항등식에 의하여 \(\displaystyle\int_{0}^{2} f(x)\,dx + \int_{0}^{e^2 - 1} g(x)\,dx = 2 \cdot f(2) - 0 \cdot f(0) = \mathbf{2(e^2 - 1)}\)이다.

\(u = \tan x\)로 치환하면 \(du = \sec^2 x\,dx\)이고 \(x = 0 \to u = 0\), \(x = \dfrac{\pi}{4} \to u = 1\)이므로 \(b_n = \displaystyle\int_{0}^{1} u^{2n-1}\,du = \left[\dfrac{u^{2n}}{2n}\right]_0^1 = \mathbf{\dfrac{1}{2n}}\)이다.

따라서 \(2n\,b_n = 1\)이므로 구하는 무한등비급수의 합은 \(\displaystyle\sum_{n=1}^{\infty} \dfrac{2n\,b_n}{3^n} = \sum_{n=1}^{\infty} \left(\dfrac{1}{3}\right)^n = \dfrac{1/3}{1 - 1/3} = \mathbf{\dfrac{1}{2}}\)이다.

이항정리에 의하여 \((q + p)^n = \displaystyle\sum_{k=0}^{n} \binom{n}{k} p^k q^{n-k} = 1\)이고, \((q - p)^n = \displaystyle\sum_{k=0}^{n} (-1)^k \binom{n}{k} p^k q^{n-k} = (1 - 2p)^n\)이다.

두 식을 빼서 \(2\)로 나누면 홀수 번째 항들만 남으므로, 사건 \(A\)가 홀수 번 일어날 확률은 \(P_n = \mathbf{\dfrac{1 - (1 - 2p)^n}{2}}\)이다.

\(p = \dfrac{1}{3}\)이면 \(|1 - 2p| = \dfrac{1}{3} \lt 1\)이므로 \(\lim_{n \to \infty} (1-2p)^n = 0\)이 되어 \(\lim_{n \to \infty} P_n = \mathbf{\dfrac{1}{2}}\)이다.

\(x, y, z\)절편이 각각 \(3, 3, 6\)이므로 평면 \(\alpha\)의 방정식은 \(\dfrac{x}{3} + \dfrac{y}{3} + \dfrac{z}{6} = 1\), 즉 \(\mathbf{2x + 2y + z - 6 = 0}\)이며 법선벡터는 \(\vec{n} = (2, 2, 1)\)이다.

수선의 발 \(H\)는 \(\overrightarrow{OH} = t(2, 2, 1)\)로 놓을 수 있고 평면 \(\alpha\) 위의 점이므로 \(4t + 4t + t - 6 = 0 \implies t = \dfrac{2}{3}\)이다. 따라서 \(H\left(\mathbf{\dfrac{4}{3}, \dfrac{4}{3}, \dfrac{2}{3}}\right)\)이고, 거리 \(\overline{OH} = \dfrac{|-6|}{\sqrt{2^2+2^2+1^2}} = \dfrac{6}{3} = \mathbf{2}\)이다.

구 \(S\)의 반지름이 \(R = 3\)이고 구의 중심 \(O\)에서 평면 \(\alpha\)까지의 거리가 \(d = \overline{OH} = 2\)이므로, 피타고라스 정리에 의해 단면 원 \(D\)의 반지름은 \(r = \sqrt{R^2 - d^2} = \sqrt{9 - 4} = \mathbf{\sqrt{5}}\)이다.

따라서 단면 원 \(D\)의 넓이는 \(S(D) = \pi r^2 = \mathbf{5\pi}\)이다.

평면 \(\alpha\)의 법선벡터 \(\vec{n}_1 = (2, 2, 1)\)과 \(xy\)평면의 법선벡터 \(\vec{n}_2 = (0, 0, 1)\)에 대하여 \(\cos\theta = \dfrac{|\vec{n}_1 \cdot \vec{n}_2|}{|\vec{n}_1|\,|\vec{n}_2|} = \dfrac{1}{3 \cdot 1} = \mathbf{\dfrac{1}{3}}\)이다.

따라서 정사영 \(D'\)의 넓이는 \(S(D') = S(D)\cos\theta = \mathbf{\dfrac{5\pi}{3}}\)이며, 삼각형 \(ABC\)의 \(xy\)평면 위로의 정사영인 직각삼각형 \(OAB\)의 넓이가 \(\dfrac{1}{2}\cdot 3 \cdot 3 = \dfrac{9}{2}\)이므로 삼각형 \(ABC\)의 넓이는 \(\dfrac{9/2}{\cos\theta} = \mathbf{\dfrac{27}{2}}\)이다.

\(X \sim \mathrm{B}(900, 0.2)\)이므로 기댓값은 \(E(X) = 900 \times 0.2 = \mathbf{180}\)이고, 분산은 \(V(X) = 900 \times 0.2 \times 0.8 = 144\)이므로 표준편차는 \(\sigma(X) = \mathbf{12}\)이다.

\(X\)는 근사적으로 \(\mathrm{N}(180, 12^2)\)을 따르므로 표준화하면 \(\mathrm{P}(198 \le X \le 204) = \mathrm{P}\left(\dfrac{198-180}{12} \le Z \le \dfrac{204-180}{12}\right) = \mathrm{P}(1.5 \le Z \le 2.0) = 0.4772 - 0.4332 = \mathbf{0.0440}\)이다.

\(f(0) = b = \mathbf{4}\)이고, \(f'(x) = 4x^3 + 2ax = 2x(2x^2 + a)\)에서 \(x = \pm\sqrt{2}\)가 극소점이므로 \(4 + a = 0 \implies a = \mathbf{-4}\)이다. 즉 \(f(x) = (x^2 - 2)^2\)이다.

방정식 \(|f(x) - k| = 2 \iff f(x) = k + 2\) 또는 \(f(x) = k - 2\)가 서로 다른 \(6\)개의 실근을 가지려면, 한 방정식이 \(4\)개의 실근(\(0 \lt y \lt 4\))을 갖고 다른 방정식이 \(2\)개의 실근(\(y \gt 4\) 또는 \(y = 0\))을 가져야 한다. 특히 \(k - 2 = 0 \implies k = \mathbf{2}\)일 때 \(f(x)=0\)(2개)과 \(f(x)=4\)(3개)로 5개이고, \(k + 2 = 4 \implies k = 2\), 반면 \(0 \lt k - 2 \lt 4\)이고 \(k + 2 \gt 4\)이면 \(4 + 2 = 6\)개의 실근을 가지므로 \(\mathbf{2 <k <6}\)이다.

\(g'(x) = 4x^3 - 4x = 4x(x-1)(x+1) = 0\)에서 두 극소점은 \((-1, 2)\)와 \((1, 2)\)이며, 두 극소점을 지나는 이중접선 \(\ell\)의 방정식은 \(\mathbf{y = 2}\)이다.

곡선과 직선 \(\ell\)로 둘러싸인 넓이는 \(\displaystyle\int_{-1}^{1} (x^4 - 2x^2 + 3 - 2)\,dx = 2\int_{0}^{1} (x^4 - 2x^2 + 1)\,dx = 2\left[\dfrac{1}{5}x^5 - \dfrac{2}{3}x^3 + x\right]_0^1 = 2\left(\dfrac{1}{5} - \dfrac{2}{3} + 1\right) = \mathbf{\dfrac{16}{15}}\)이다.

타원 \(E : \frac{x^2}{16} + \frac{y^2}{7} = 1\)에서 \(a = 4, b = \sqrt{7}\)이므로 초점 거리 \(c = \sqrt{a^2 - b^2} = \sqrt{16 - 7} = 3\)이다. 따라서 양의 초점은 \(F_1(3, 0)\), 음의 초점은 \(F_2(-3, 0)\)이다.

꼭짓점이 원점 \(O(0,0)\)이고 초점이 \(F_1(3,0)\)인 포물선 \(P\)의 방정식은 \(y^2 = 4 \cdot 3 x = 12x\)이며, 준선의 방정식은 \(x = -3\)이다.

교점 \(C(x_c, y_c)\) (\(x_c \gt 0, y_c \gt 0\))에서 \(y_c^2 = 12x_c\)를 타원 방정식에 대입하면 \(\frac{x_c^2}{16} + \frac{12x_c}{7} = 1 \implies 7x_c^2 + 192x_c - 112 = 0 \implies (7x_c - 4)(x_c + 28) = 0\)이므로 \(x_c = \frac{4}{7}\)이다.

포물선의 정의에 의해 점 \(C\)에서 초점 \(F_1\)까지의 거리는 준선 \(x = -3\)까지의 거리와 같으므로 \(\overline{CF_1} = x_c - (-3) = \frac{4}{7} + 3 = \frac{25}{7}\)이다. 또한 타원의 정의에 의해 \(\overline{CF_1} + \overline{CF_2} = 2a = 8\)이므로 \(\overline{CF_2} = 8 - \frac{25}{7} = \mathbf{\frac{31}{7}}\)이다.

타원 위의 점 \(A(x_0, y_0)\) (\(0 \lt x_0 \lt 4, y_0 \gt 0\))에서의 접선 \(\ell_1\)의 방정식은 \(\frac{x_0 x}{16} + \frac{y_0 y}{7} = 1\)이다. 따라서 \(x\)절편은 \(M\left(\frac{16}{x_0}, 0\right)\), \(y\)절편은 \(N\left(0, \frac{7}{y_0}\right)\)이다.

삼각형 \(OMN\)의 넓이는 \(S(x_0) = \frac{1}{2} \cdot \frac{16}{x_0} \cdot \frac{7}{y_0} = \frac{56}{x_0 y_0}\)이다. 이때 \(y_0 = \frac{\sqrt{7}}{4}\sqrt{16 - x_0^2}\)이므로 \(S(x_0) = \frac{224}{\sqrt{7} x_0 \sqrt{16 - x_0^2}}\)이다.

분모의 함수 \(u(x_0) = x_0^2(16 - x_0^2) = 16x_0^2 - x_0^4\)를 미분하면 \(u'(x_0) = 32x_0 - 4x_0^3 = 4x_0(8 - x_0^2)\)이다. \(0 \lt x_0 \lt 4\)에서 \(x_0 = 2\sqrt{2}\)일 때 \(u(x_0)\)가 극대이자 최댓값 \(u(2\sqrt{2}) = 64\)를 갖는다.

이때 \(y_0 = \frac{\sqrt{7}}{4}\sqrt{16 - 8} = \frac{\sqrt{14}}{2}\)이므로, \(S(x_0)\)는 점 \(A\left(2\sqrt{2}, \frac{\sqrt{14}}{2}\right)\)에서 최솟값 \(S_{\min} = \frac{224}{\sqrt{7} \cdot 8} = \frac{28}{\sqrt{7}} = \mathbf{4\sqrt{7}}\)을 갖는다.

포물선 \(P : y^2 = 12x\)는 \(x\)축에 대칭이므로 \(x = t\) (\(0 \le t \le 3\))가 영역 \(D\)와 만나는 선분의 길이는 \(L(t) = 2\sqrt{12t} = 4\sqrt{3}\sqrt{t}\)이다.

영역 \(D\)의 넓이는 \(\int_0^3 L(t)\,dt = \int_0^3 4\sqrt{3} t^{1/2}\,dt = 4\sqrt{3} \left[\frac{2}{3} t^{3/2}\right]_0^3 = 4\sqrt{3} \cdot \frac{2}{3} \cdot 3\sqrt{3} = \mathbf{24}\)이다.

또한 \(H(t) = \int_0^t x L(x)\,dx = \int_0^t 4\sqrt{3} x^{3/2}\,dx\)이므로, 정적분과 미분의 관계에 의해 \(H'(t) = 4\sqrt{3} t^{3/2}\)이고 \(H(t) = \left[\frac{8\sqrt{3}}{5} x^{5/2}\right]_0^t = \frac{8\sqrt{3}}{5} t^{5/2}\)이다.

따라서 \(H(1) = \frac{8\sqrt{3}}{5}\), 접선의 기울기는 \(H'(1) = 4\sqrt{3}\)이므로 점 \((1, H(1))\)에서의 접선 방정식은 \(y = 4\sqrt{3}(t - 1) + \frac{8\sqrt{3}}{5}\)이며, 구하는 \(y\)절편은 \(-4\sqrt{3} + \frac{8\sqrt{3}}{5} = \mathbf{-\frac{12\sqrt{3}}{5}}\)이다.

정적분과 미분의 관계에 의해 \(F_0'(x) = f(x) = x(x-2)e^{-x}\)이다. \(F_0'(x) = 0\)에서 \(x = 0\) 또는 \(x = 2\)이며, 부분적분법을 적용하면 \(\int (t^2 - 2t)e^{-t}\,dt = -t^2 e^{-t} + C\)이므로 \(F_0(x) = \left[-t^2 e^{-t}\right]_0^x = -x^2 e^{-x}\)이다.

따라서 \(F_0(x)\)는 \(x = 0\)에서 극댓값 \(F_0(0) = 0\)을 갖고, \(x = 2\)에서 극솟값 \(F_0(2) = -4e^{-2}\)를 갖는다.

또한 구간 \([0, 2]\)에서 \(f'(x) = (2x - 2 - x^2 + 2x)e^{-x} = -(x^2 - 4x + 2)e^{-x}\)이고, 닫힌구간 \([0, 2]\)에서 \(|f(x)| = x(2-x)e^{-x}\)는 \(x = 2 - \sqrt{2}\)에서 최댓값을 가지며, \(0 \le x \le 2\)에서 산술·기하 평균에 의해 \(x(2-x) \le 1\)이고 \(e^{-x} \le 1\), 특히 \(x=1\)에서 \(|f(1)| = e^{-1}\)이다. 더욱 엄밀히 구간 \([0, 2]\) 내 임의의 \(x_1 \lt x_2\)에 대해 평균값 정리로 \(\frac{|F_0(x_2) - F_0(x_1)|}{|x_2 - x_1|} = |f(c)|\) (\(c \in (0, 2)\))이고, \(F_0(0)=0, F_0(2)=-4e^{-2}\), 극값 분석에 의해 \(|f(c)| \le (6-4\sqrt{2})e^{\sqrt{2}-2} \lt e^{-1}\)이므로 \(|F_0(x_2) - F_0(x_1)| \le e^{-1}|x_2 - x_1|\)이 성립한다.

\(a = 0\)일 때 \(G(x) = |F_0(x) - k| = |-x^2 e^{-x} - k| = |x^2 e^{-x} + k|\)가 아니라 부호를 살피면 \(F_0(x) = -x^2 e^{-x} \le 0\)이다. 단, 만약 \(k \gt 0\)에 대하여 방정식 \(|F_0(x)| = k\), 즉 \(x^2 e^{-x} = k\)의 실근에서 좌우 미분계수의 부호가 바뀌면 미분불가능점이 된다.

함수 \(h(x) = -F_0(x) = x^2 e^{-x}\)라 하면 \(h'(x) = x(2-x)e^{-x}\)이다. \(x \lt 0\)에서 \(h'(x) \lt 0\)이고 \(\lim_{x \to -\infty} h(x) = \infty\), \(h(0) = 0\), \(h(2) = 4e^{-2}\), \(\lim_{x \to \infty} h(x) = 0\)이다.

따라서 양수 \(k\)에 대하여 방정식 \(h(x) = k\)의 단순근(접하지 않는 근)이 정확히 \(1\)개인 경우는 \(k \gt 4e^{-2}\)일 때(\(x \lt 0\)에서 유일한 단순근 \(1\)개)와 \(k = 4e^{-2}\)일 때(\(x = 2\)에서는 \(h'(2) = 0\)으로 접하여 미분가능하고 \(x \lt 0\)에서만 단순근 \(1\)개)이다. 그러므로 구하는 범위는 \(\mathbf{k \ge 4e^{-2}}\)이다.

\(n \ge 1\)일 때 \(I_n = \int_0^2 x^n e^{-x}\,dx\)에 부분적분법을 적용하면 \(I_n = \left[-x^n e^{-x}\right]_0^2 + n\int_0^2 x^{n-1} e^{-x}\,dx = -2^n e^{-2} + n I_{n-1}\)이다.

양변을 \(n!\)으로 나누면 \(\frac{I_n}{n!} - \frac{I_{n-1}}{(n-1)!} = -\frac{2^n}{n!} e^{-2}\)가 성립한다.

\(I_0 = \int_0^2 e^{-x}\,dx = 1 - e^{-2}\)이므로, \(\frac{I_n}{n!} = I_0 - e^{-2} \sum_{j=1}^n \frac{2^j}{j!} = 1 - e^{-2}\sum_{j=0}^n \frac{2^j}{j!}\)이다.

각 항을 계산하면 \(I_0 = 1 - e^{-2}\), \(\frac{I_1}{1!} = 1 - 3e^{-2}\), \(\frac{I_2}{2!} = 1 - 5e^{-2}\), \(\frac{I_3}{3!} = 1 - \frac{19}{3}e^{-2}\), \(\frac{I_4}{4!} = 1 - 7e^{-2}\)이다.

따라서 \(\sum_{n=1}^4 \frac{I_n}{n!} = 4 - \left(3 + 5 + \frac{19}{3} + 7\right)e^{-2} = 4 - \frac{64}{3}e^{-2}\)이며, 구하는 식의 값은 \(4 - \frac{64}{3}e^{-2} + \frac{35}{3}e^{-2} = \mathbf{4 - \frac{29}{3}e^{-2}}\)이다.

사인법칙에 의해 \(\overline{BC} = 2R\sin\theta = 4\sin\theta\)이다. \(\overline{AB} = 3k, \overline{AC} = 2k\) (\(k \gt 0\))라 두면 코사인법칙에 의해 \(\overline{BC}^2 = 9k^2 + 4k^2 - 12k^2\cos\theta = k^2(13 - 12\cos\theta)\)이다.

따라서 \(k = \frac{4\sin\theta}{\sqrt{13 - 12\cos\theta}}\)이므로 \(\overline{AB} = \frac{12\sin\theta}{\sqrt{13 - 12\cos\theta}}\), \(\overline{AC} = \frac{8\sin\theta}{\sqrt{13 - 12\cos\theta}}\)이다.

삼각형 \(ABC\)의 넓이는 \(S(\theta) = \frac{1}{2}\overline{AB}\cdot\overline{AC}\sin\theta = 3k^2\sin\theta = \frac{48\sin^3\theta}{13 - 12\cos\theta}\)이다. \(\theta = \frac{\pi}{3}\)을 대입하면 \(\sin\frac{\pi}{3} = \frac{\sqrt{3}}{2}, \cos\frac{\pi}{3} = \frac{1}{2}\)이므로 \(S\left(\frac{\pi}{3}\right) = \frac{48 \cdot (3\sqrt{3}/8)}{13 - 6} = \mathbf{\frac{18\sqrt{3}}{7}}\)이다.

삼각형 \(ABC\)의 둘레의 길이는 \(\overline{AB} + \overline{AC} + \overline{BC} = 5k + 4\sin\theta = 4\sin\theta\left(\frac{5}{\sqrt{13 - 12\cos\theta}} + 1\right)\)이다.

\(S(\theta) = \frac{1}{2}r(\theta)(\overline{AB} + \overline{AC} + \overline{BC})\)이므로 \(r(\theta) = \frac{2S(\theta)}{\overline{AB} + \overline{AC} + \overline{BC}} = \frac{24\sin^2\theta}{(13 - 12\cos\theta) + 5\sqrt{13 - 12\cos\theta}}\)이다.

\(\theta \to 0^+\)일 때 \(\frac{\sin\theta}{\theta} \to 1\)이고 \(\cos\theta \to 1\)이므로 \(13 - 12\cos\theta \to 1\)이다. 따라서 \(\lim_{\theta \to 0^+} \frac{r(\theta)}{\theta^2} = \frac{24 \cdot 1^2}{1 + 5\cdot 1} = \frac{24}{6} = \mathbf{4}\)이다.

각의 이등분선 성질에 의해 \(\overline{BD} : \overline{DC} = \overline{AB} : \overline{AC} = 3 : 2\)이므로 \(\overline{BD} = \frac{3}{5}\overline{BC} = \frac{12}{5}\sin\theta\)이다.

삼각형 \(ABC\)의 외접원의 반지름이 \(R = 2\)이므로 사인법칙에 의해 \(\sin B = \frac{\overline{AC}}{2R} = \frac{2k}{4} = \frac{k}{2}\)이다. 한편 삼각형 \(ABD\)에서 \(\angle BAD = \frac{\theta}{2}\)이고, 외접원의 반지름을 \(R_1\)이라 하면 사인법칙과 변의 길이 관계로부터 \(\overline{AD} = \frac{2\cdot 3k \cdot 2k \cos(\theta/2)}{5k} = \frac{12}{5}k\cos\frac{\theta}{2}\)이고 \(2R_1 = \frac{\overline{AD}}{\sin B} = \frac{(12/5)k\cos(\theta/2)}{k/2} = \frac{24}{5}\cos\frac{\theta}{2}\)이다.

따라서 \(R_1 = \frac{12}{5}\cos\frac{\theta}{2}\)이고 외접원의 넓이는 \(U(\theta) = \pi R_1^2 = \frac{144\pi}{25}\cos^2\frac{\theta}{2} = \frac{72\pi}{25}(1 + \cos\theta)\)이다.

구하는 정적분은 \(I = \frac{72\pi}{25}\int_0^{\pi/3} (1 + \cos\theta)(13 - 12\cos\theta)\sin\theta\,d\theta\)이다. \(u = \cos\theta\)로 치환하면 \(du = -\sin\theta\,d\theta\)이므로 \(I = \frac{72\pi}{25}\int_{1/2}^1 (13 + u - 12u^2)\,du = \frac{72\pi}{25}\left[13u + \frac{1}{2}u^2 - 4u^3\right]_{1/2}^1 = \frac{72\pi}{25} \cdot \frac{31}{8} = \mathbf{\frac{279\pi}{25}}\)이다.

(i) \(n = 1\)일 때 \(a_1 = 5 \gt 2\)이므로 성립한다. (ii) \(n = k\)일 때 \(a_k \gt 2\)라 가정하면 \(a_{k+1} - 2 = \frac{3a_k + 2}{a_k + 2} - 2 = \frac{a_k - 2}{a_k + 2} \gt 0\)이므로 \(a_{k+1} \gt 2\)이다. 따라서 수학적 귀납법에 의해 모든 자연수 \(n\)에 대하여 \(a_n \gt 2\)이다.

또한 \(a_{n+1} + 1 = \frac{3a_n + 2}{a_n + 2} + 1 = \frac{4(a_n + 1)}{a_n + 2}\)이고 \(a_{n+1} - 2 = \frac{a_n - 2}{a_n + 2}\)이므로, 두 식을 나누면 \(\frac{a_{n+1} + 1}{a_{n+1} - 2} = 4 \cdot \frac{a_n + 1}{a_n - 2}\)이다.

\(\frac{a_1 + 1}{a_1 - 2} = \frac{6}{3} = 2\)이므로 등비수열의 성질에 의해 \(\frac{a_n + 1}{a_n - 2} = 2 \cdot 4^{n-1} = 2^{2n-1}\)이다. 로그의 성질을 적용하면 \(b_n = \log_2(2^{2n-1}) = \mathbf{2n - 1}\)이다.

\(b_n = 2n - 1\)이므로 \(c_k = \frac{1}{(2k-1)(2k+1)} = \frac{1}{2}\left(\frac{1}{2k-1} - \frac{1}{2k+1}\right)\)이다.

따라서 \(\sum_{k=1}^{15} c_k = \frac{1}{2}\sum_{k=1}^{15}\left(\frac{1}{2k-1} - \frac{1}{2k+1}\right) = \frac{1}{2}\left(1 - \frac{1}{31}\right) = \mathbf{\frac{15}{31}}\)이다.

한편 \(\frac{a_n + 1}{a_n - 2} = 2^{2n-1}\)을 \(a_n\)에 대하여 풀면 \(a_n + 1 = 2^{2n-1} a_n - 2^{2n} \implies (2^{2n-1} - 1)a_n = 2^{2n} + 1\)이므로 \(a_n = \mathbf{2 + \frac{3}{2^{2n-1} - 1}}\)이다.

[문항 2-2]에서 \(a_n - 2 = \frac{3}{2^{2n-1} - 1}\)이지만, 만약 \(2^{2n-1}\) 스케일로 조정된 \(4^{n-1} (a_n - 2)\)가 아닌 \(2^n(a_n - 2) = \frac{3 \cdot 2^n}{2 \cdot 4^{n-1} - 1} = \frac{6}{2^n - 2^{-n}}\)이므로 \(n \to \infty\)일 때 \(2^n(a_n - 2) \to 0\)이며 \(\frac{n}{2^n} \to 0\)이다.

극한의 대소 관계(조임정리)에 의해 \(\lim_{n \to \infty} 2^n(a_n - 2) = 0\)이고 \(\lim_{n \to \infty}\left(2^n(a_n - 2) + \frac{n}{2^n}\right) = 0\)이므로 \(\lim_{n \to \infty} d_n = \mathbf{0}\)이다.

또한 \(a_n - 2 = \frac{3}{2^{2n-1} - 1}\)이고, \(\frac{a_{n+1} - 2}{a_n - 2} = \frac{1}{a_n + 2}\) 관계를 이용하거나 \(b_n\)의 정의에서 망원급수 변형을 위해 \(u_n = \frac{3}{4^{n-1}} = 3\left(\frac{1}{4}\right)^{n-1}\)의 주항 합을 구하면, 특히 \(\sum_{n=1}^{\infty} \frac{3}{2^{2n-1}} = \frac{3/2}{1 - 1/4} = 2\)이다.

주머니 \(A\)에서 흰 공이 나올 확률은 \(\frac{3}{4}\), 주머니 \(B\)에서 흰 공이 나올 확률은 \(\frac{2}{4} = \frac{1}{2}\)이다.

전확률 공식에 의해 \(p_{n+1} = \frac{3}{4}p_n + \frac{1}{2}(1 - p_n) = \frac{1}{4}p_n + \frac{1}{2}\)이다.

특성방정식 \(\alpha = \frac{1}{4}\alpha + \frac{1}{2}\)에서 \(\alpha = \frac{2}{3}\)이므로 \(p_{n+1} - \frac{2}{3} = \frac{1}{4}\left(p_n - \frac{2}{3}\right)\)이다. \(p_1 = \frac{3}{4}\)이므로 \(p_1 - \frac{2}{3} = \frac{1}{12}\)이며, 따라서 일반항은 \(p_n = \mathbf{\frac{2}{3} + \frac{1}{12}\left(\frac{1}{4}\right)^{n-1}}\)이다.

\(p_2 = \frac{2}{3} + \frac{1}{48} = \frac{33}{48} = \frac{11}{16}\)이고, \(p_3 = \frac{2}{3} + \frac{1}{192} = \frac{129}{192} = \frac{43}{64}\)이다.

\(2\)회와 \(3\)회 모두 흰 공이 나올 확률은 \(p_2 \cdot \frac{3}{4} = \frac{11}{16} \cdot \frac{3}{4} = \frac{33}{64}\)이다.

따라서 조건부확률의 정의에 의해 구하는 확률은 \(\frac{33/64}{43/64} = \mathbf{\frac{33}{43}}\)이다.

확률변수 \(X\)는 \(X = I_1 + I_2 + I_3\) (단, \(I_k\)는 \(k\)회 시행에서 흰 공이 나오면 \(1\), 아니면 \(0\)인 지시확률변수)로 표현되며, 각 경로별 확률은 다음과 같다:

• \(P(X=0) = P(BBB) = \frac{1}{4}\cdot\frac{1}{2}\cdot\frac{1}{2} = \frac{4}{64}\)

• \(P(X=1) = P(WBB) + P(BWB) + P(BBW) = \frac{3}{4}\cdot\frac{1}{4}\cdot\frac{1}{2} + \frac{1}{4}\cdot\frac{1}{2}\cdot\frac{1}{4} + \frac{1}{4}\cdot\frac{1}{2}\cdot\frac{1}{2} = \frac{6 + 2 + 4}{64} = \frac{12}{64}\)

• \(P(X=2) = P(WWB) + P(WBW) + P(BWW) = \frac{3}{4}\cdot\frac{3}{4}\cdot\frac{1}{4} + \frac{3}{4}\cdot\frac{1}{4}\cdot\frac{1}{2} + \frac{1}{4}\cdot\frac{1}{2}\cdot\frac{3}{4} = \frac{9 + 6 + 6}{64} = \frac{21}{64}\)

• \(P(X=3) = P(WWW) = \frac{3}{4}\cdot\frac{3}{4}\cdot\frac{3}{4} = \frac{27}{64}\)

따라서 \(E(X) = \frac{0\cdot 4 + 1\cdot 12 + 2\cdot 21 + 3\cdot 27}{64} = \frac{12 + 42 + 81}{64} = \frac{135}{64}\)이며(이는 \(p_1 + p_2 + p_3 = \frac{48 + 44 + 43}{64} = \frac{135}{64}\)와 정확히 일치함), \(E(64X) = \mathbf{135}\)이다.

세 절편 \(A(3, 0, 0), B(0, 3, 0), C(0, 0, 6)\)을 지나는 평면 \(\alpha\)의 방정식은 \(\frac{x}{3} + \frac{y}{3} + \frac{z}{6} = 1 \implies 2x + 2y + z - 6 = 0\)이며, 법선벡터는 \(\vec{n} = (2, 2, 1)\)이다.

구 \(S\)의 중심 \(M(0, 0, 3)\)에서 평면 \(\alpha\)까지의 거리는 \(\overline{MH} = \frac{|0 + 0 + 3 - 6|}{\sqrt{2^2 + 2^2 + 1^2}} = \frac{3}{3} = 1\)이다.

구 \(S\)의 반지름이 \(R = 3\)이므로 단면 원 \(C_0\)의 반지름은 \(r = \sqrt{R^2 - \overline{MH}^2} = \sqrt{9 - 1} = 2\sqrt{2}\)이며, 단면 원 \(C_0\)의 넓이는 \(\pi r^2 = \mathbf{8\pi}\)이다.

평면 \(\alpha\)의 법선벡터 \(\vec{n} = (2, 2, 1)\)과 \(xy\)평면의 법선벡터 \(\vec{k} = (0, 0, 1)\)이 이루는 각 \(\theta\)에 대하여 \(\cos\theta = \frac{|\vec{n}\cdot\vec{k}|}{|\vec{n}||\vec{k}|} = \frac{1}{3}\)이다.

따라서 원 \(C_0\)를 \(xy\)평면 위로 정사영한 넓이는 \(K_1 = 8\pi \cos\theta = \mathbf{\frac{8\pi}{3}}\)이다.

원점 \(O(0,0,0)\)에서 평면 \(\alpha\)까지의 높이는 \(h_O = \frac{|-6|}{\sqrt{2^2 + 2^2 + 1^2}} = \frac{6}{3} = 2\)이므로, 원뿔 \(O-C_0\)의 부피는 \(V = \frac{1}{3} \times 8\pi \times 2 = \mathbf{\frac{16\pi}{3}}\)이다.

구 \(S\)의 중심 \(M(0,0,3)\)에서 평면 \(\alpha\)에 내린 수선의 발 \(H\)는 \(M + t(2, 2, 1)\)을 \(2x + 2y + z - 6 = 0\)에 대입하면 \(9t - 3 = 0 \implies t = \frac{1}{3}\)이므로 \(H\left(\frac{2}{3}, \frac{2}{3}, \frac{10}{3}\right)\)이다.

점 \(D(3, 3, 0)\)은 \(2(3) + 2(3) + 0 - 6 = 6 \ne 0\)이므로 평면 \(\alpha\) 밖의 점이다. 점 \(D\)에서 평면 \(\alpha\)에 내린 수선의 발을 \(D'\)이라 하면 평면 \(\alpha\)까지의 거리는 \(d_1 = \overline{DD'} = \frac{|6 + 6 + 0 - 6|}{3} = 2\)이다.

또한 \(\overline{DH}^2 = \left(3 - \frac{2}{3}\right)^2 + \left(3 - \frac{2}{3}\right)^2 + \left(0 - \frac{10}{3}\right)^2 = \frac{49 + 49 + 100}{9} = \frac{198}{9} = 22\)이므로, 평면 \(\alpha\) 위에서 원의 중심 \(H\)와 수선의 발 \(D'\) 사이의 거리는 \(d_2 = \overline{D'H} = \sqrt{\overline{DH}^2 - d_1^2} = \sqrt{22 - 4} = 3\sqrt{2}\)이다.

삼수선의 정리에 의해 원 \(C_0\) (반지름 \(r = 2\sqrt{2}\)) 위의 점 \(P\)에 대하여 \(\overline{D'P}\)의 최댓값은 \(d_2 + r = 3\sqrt{2} + 2\sqrt{2} = 5\sqrt{2}\), 최솟값은 \(d_2 - r = 3\sqrt{2} - 2\sqrt{2} = \sqrt{2}\)이다.

따라서 \(\overline{DP} = \sqrt{d_1^2 + \overline{D'P}^2}\)의 최댓값은 \(M_{\max} = \sqrt{4 + 50} = 3\sqrt{6}\), 최솟값은 \(M_{\min} = \sqrt{4 + 2} = \sqrt{6}\)이며, 두 값의 곱은 \(3\sqrt{6} \times \sqrt{6} = \mathbf{18}\)이다.

\(f(1) = e^0 + 1 = 2\)이고 \(f'(x) = e^{x-1}\)이므로 \(f'(1) = 1\)이다. 역함수 \(g(x)\)도 점 \((2, 1)\)이 아닌 \((1, 2)\) 대칭점, 잠깐: \(f(1) = 2\)가 아니라 \(y = x\) 위의 점을 확인하기 위해 \(f(x) - x = e^{x-1} + 1 - x\)를 살피면 \(x = 1\)일 때 \(f(1) = 2\)이다. 만약 \(f(x) = e^{x-1}\)이면 \(f(1) = 1\)이다. 제시문의 \(f(x) = e^{x-1} + 1\)에서는 \(f'(x) = e^{x-1}\)이므로 기울기가 \(1\)인 접선은 \(x = 1\)에서 \(y = x + 1\)이고, \(g(x) = \ln(x-1) + 1\)의 기울기 \(1\)인 접선은 \(x = 2\)에서 \(y = x - 1\)이다.

또한 \(h(x) = f(x) - x = e^{x-1} + 1 - x\)라 하면 \(h'(x) = e^{x-1} - 1\)이다. \(x \gt 1\)에서 평균값 정리에 의해 \(\frac{e^{x-1} - 1}{x - 1} = e^{c-1} \gt 1\) (\(1 \lt c \lt x\))이므로 \(e^{x-1} \gt x\), 즉 \(f(x) = e^{x-1} + 1 \gt x + 1 \gt x\)가 성립한다. 역함수 대칭성에 의해 \(x \gt 1\)에서 \(g(x) = \ln(x-1) + 1 \lt x - 1 \lt x\)이므로 \(g(x) \lt x \lt f(x)\)가 모든 \(x \gt 1\)에서 성립한다.

직선 \(x + y = e + 2\)와 \(y = f(x) = e^{x-1} + 1\)을 연립하면 \(e^{x-1} + x - 1 = e\)이다. 좌변은 순증가함수이고 \(x = 2\)일 때 \(e^1 + 1 = e + 1\), \(x = 1\)일 때 \(1 + 0 = 1\)이며, 특히 직선이 점 \(P(2, e+1)\)을 지나는 경우(\(k = e + 3\)) \(P(2, e+1)\)이고 \(y = x\) 대칭점 \(Q(e+1, 2)\)이다.

점 \(P\)에서의 접선 기울기는 \(m_1 = f'(2) = e\)이고, 대칭점 \(Q\)에서의 접선 기울기는 역함수 미분법에 의해 \(m_2 = \frac{1}{e}\)이다.

따라서 두 접선이 이루는 예각 \(\alpha\)에 대하여 삼각함수 덧셈정리를 적용하면 \(\tan\alpha = \left|\frac{m_1 - m_2}{1 + m_1 m_2}\right| = \frac{e - 1/e}{1 + 1} = \mathbf{\frac{e^2 - 1}{2e}}\)이다.

두 곡선 \(y = f(x) = e^{x-1} + 1\)과 \(y = g(x) = \ln(x-1) + 1\)은 직선 \(y = x\)에 대칭이며, \(x = 1\)일 때 \(f(1) = 2\) (점 \(A_0(1, 2)\))와 \(g(2) = 1\) (점 \(B_0(2, 1)\))은 선분 \(x + y = 3\)으로 연결되고, 상단 직선 \(x + y = e + 3\)은 \(P(2, e+1)\)과 \(Q(e+1, 2)\)를 잇는다.

직선 \(y = x\) 위쪽 절반 영역의 넓이는 \(\int_1^2 (f(x) - x)\,dx\)와 직각이등변삼각형 영역의 조합으로 계산된다: \(\int_1^2 (e^{x-1} + 1)\,dx = \left[e^{x-1} + x\right]_1^2 = (e + 2) - 2 = e\)이다.

대칭성을 이용하여 전체 둘러싸인 넓이 \(A\)를 정적분으로 정리하면 \(A = 2\int_1^2 (e^{x-1} + 1 - x)\,dx + \frac{(e)^2 - 1}{2} = 2\left(e - \frac{1}{2}\right) + \frac{e^2 - 1}{2} = \mathbf{\frac{e^2 + 4e - 3}{2}}\)이다.

위치 성분을 \(t\)에 대하여 미분하면 \(x'(t) = e^t - e^{-t}\), \(y'(t) = 2 - e^t - e^{-t}\)이므로 속도벡터는 \(\vec{v}(t) = (e^t - e^{-t}, 2 - e^t - e^{-t})\)이다.

속력의 제곱은 \(|\vec{v}(t)|^2 = (e^t - e^{-t})^2 + (2 - (e^t + e^{-t}))^2 = (e^{2t} - 2 + e^{-2t}) + 4 - 4(e^t + e^{-t}) + (e^{2t} + 2 + e^{-2t}) = 2(e^{2t} + e^{-2t}) - 4(e^t + e^{-t}) + 4\)이다.

특히 \(u = e^t + e^{-t}\)라 하면 \(e^{2t} + e^{-2t} = u^2 - 2\)이므로 \(|\vec{v}(t)|^2 = 2(u^2 - 2) - 4u + 4 = 2u(u - 2)\)이다. 또한 첫 번째 성분을 \(x(t) = 2\sqrt{2}t\), \(y(t) = e^t + e^{-t}\) 표준 쌍곡선 현수선 결합으로 환산하거나, 주어진 식에서 \(t = 0\)부터 \(t = \ln 3\)까지 \(u(0) = 2, u(\ln 3) = \frac{10}{3}\)을 적분하면 곡선 길이 공식 \(L = \int_0^{\ln 3} |\vec{v}(t)|\,dt\)가 확정된다.

가속도벡터는 \(\vec{a}(t) = (x''(t), y''(t)) = (e^t + e^{-t}, -e^t + e^{-t})\)이다.

내적 \(\vec{v}(t)\cdot\vec{a}(t) = \frac{1}{2}\frac{d}{dt}|\vec{v}(t)|^2 = (e^t - e^{-t})(e^t + e^{-t}) + (2 - e^t - e^{-t})(-e^t + e^{-t}) = 2(e^t - e^{-t})(e^t + e^{-t} - 1)\)이다.

\(t \ge 0\)에서 \(e^t + e^{-t} \ge 2 \gt 1\)이므로 \(\vec{v}(t)\cdot\vec{a}(t) = 0\)이 되는 시각은 \(e^t - e^{-t} = 0\), 즉 \(t_0 = \mathbf{0}\)이다. 이때 \(\vec{v}(0) = (0, 0)\) 극한 접선 방향과 가속도 \(\vec{a}(0) = (2, 0)\)으로부터 \(|\vec{v}(0)| = \mathbf{0}\)이다.

매개변수 미분법에 의해 접선의 기울기는 \(m(t) = \frac{dy}{dx} = \frac{y'(t)}{x'(t)}\)이다.

따라서 피적분함수는 \(m(t) x'(t) = \frac{y'(t)}{x'(t)} x'(t) = y'(t)\)이며, 구하는 정적분 \(\int_0^{\ln 3} m(t)x'(t)\,dt = \int_0^{\ln 3} y'(t)\,dt\)는 시각 \(t = 0\)부터 \(t = \ln 3\)까지 점 \(P\)의 \(y\)좌표의 위치 변화량 \(y(\ln 3) - y(0)\)을 의미한다.

\(y(0) = 0 - 1 + 1 = 0\)이고 \(y(\ln 3) = 2\ln 3 - 3 + \frac{1}{3} = 2\ln 3 - \frac{8}{3}\)이므로, 구하는 정적분의 값은 \(\mathbf{2\ln 3 - \frac{8}{3}}\)이다.

방정식 \(x + y + z + w = 10\)의 음이 아닌 정수해의 총개수는 중복조합에 의해 \({}_4\mathrm{H}_{10} = {}_{13}\mathrm{C}_{10} = {}_{13}\mathrm{C}_3 = \frac{13 \times 12 \times 11}{6} = \mathbf{286}\)개이다.

\(x \ge 2\)인 경우 \(x' = x - 2 \ge 0\)으로 치환하면 \(x' + y + z + w = 8\)이므로 해의 개수는 \({}_4\mathrm{H}_8 = {}_{11}\mathrm{C}_8 = {}_{11}\mathrm{C}_3 = \frac{11 \times 10 \times 9}{6} = \mathbf{165}\)개이다.

\(x \ge 2\)를 만족하는 \(165\)개의 순서쌍 집합을 \(S_0\)라 하고, \(S_0\) 내에서 \(x = y\)인 집합을 \(A\), \(z = w\)인 집합을 \(B\)라 하자.

① \(n(A)\): \(x = y = k\) (\(k \ge 2\))이면 \(z + w = 10 - 2k\)이므로 \(k = 2, 3, 4, 5\)에 대하여 \((10 - 2k + 1)\)개씩 존재한다. 따라서 \(n(A) = 7 + 5 + 3 + 1 = 16\)이다.

② \(n(B)\): \(z = w = m\) (\(m \ge 0\))이고 \(x' + y = 8 - 2m\)이므로 \(m = 0, 1, 2, 3, 4\)에 대하여 \((8 - 2m + 1)\)개씩 존재한다. 따라서 \(n(B) = 9 + 7 + 5 + 3 + 1 = 25\)이다.

③ \(n(A \cap B)\): \(x = y = k \ge 2\)이고 \(z = w = m \ge 0\)이며 \(2k + 2m = 10 \implies k + m = 5\)이므로 \((k, m) = (2,3), (3,2), (4,1), (5,0)\)의 \(4\)개이다.

따라서 사건 \(E\)의 원소 개수는 \(165 - (16 + 25 - 4) = 165 - 37 = 128\)개이며, 구하는 확률은 \(P(E) = \frac{128}{286} = \mathbf{\frac{64}{143}}\)이다.

표본의 크기 \(n = 400\), 표본비율 \(\hat{p} = 0.8\)이므로 표준오차는 \(\sqrt{\frac{\hat{p}(1-\hat{p})}{n}} = \sqrt{\frac{0.8 \times 0.2}{400}} = \frac{0.4}{20} = 0.02\)이다.

신뢰도 \(95\%\)의 신뢰구간은 \(\hat{p} - 1.96 \times 0.02 \le p \le \hat{p} + 1.96 \times 0.02\), 즉 \(\mathbf{[0.7608, \, 0.8392]}\)이다.

신뢰도 \(99\%\)의 신뢰구간의 길이는 \(L = 2 \times 2.58 \sqrt{\frac{0.8 \times 0.2}{n}} = 5.16 \times \frac{0.4}{\sqrt{n}}\)이다. \(L \le 0.0516\)이어야 하므로 \(\frac{5.16 \times 0.4}{\sqrt{n}} \le 0.0516 \implies \frac{0.4}{\sqrt{n}} \le 0.01 \implies \sqrt{n} \ge 40 \implies n \ge 1600\)이다. 따라서 자연수 \(n\)의 최솟값은 \(\mathbf{1600}\)이다.

조건 (1)에서 \(f(-x) = -f(x)\)이므로 최고차항의 계수가 \(1\)인 기함수 삼차함수는 \(f(x) = x^3 + cx\) 꼴이다. \(f'(x) = 3x^2 + c\)이고 \(f'(1) = 3 + c = 0\)이므로 \(c = -3\)이다. 따라서 \(f(x) = \mathbf{x^3 - 3x}\)이다.

조건 (2)에서 \(g(x)\)가 \(x = 1\)에서 연속이고 미분가능하므로 좌·우 함수값과 미분계수가 일치해야 한다. 연속 조건에서 \(1 + a + b = 1 \implies a + b = 0\), 미분가능 조건에서 \(2(1) + a = 2 \implies a = 0\)이므로 \(b = 0\)이다. 따라서 \(\mathbf{a = 0, \, b = 0}\)이다.

\(g(x) = \begin{cases} x^2 & (x \lt 1) \\ 2x - 1 & (x \ge 1) \end{cases}\)는 실수 전체에서 미분가능하고 \(g'(x) = \begin{cases} 2x & (x \lt 1) \\ 2 & (x \ge 1) \end{cases}\)이다.

합성함수 미분법에 의해 \(h'(x) = f'(g(x))g'(x) = 3(g(x) - 1)(g(x) + 1)g'(x)\)이다.

\(g(x) \ge 0\)이므로 \(g(x) + 1 \gt 0\)이다. \(h'(x) = 0\)인 점은 \(g'(x) = 0\)인 \(x = 0\)과 \(g(x) = 1\)인 \(x = -1, x = 1\)이다.

부호 변화를 조사하면:

• \(x = -1\): 좌우에서 \(g(x) - 1\)이 양에서 음으로, \(g'(x) = 2x \lt 0\)이므로 \(h'(x)\)는 음에서 양으로 바뀌어 극솟값 \(h(-1) = f(1) = \mathbf{-2}\)를 갖는다.

• \(x = 0\): \(g(x) - 1 \lt 0\)이고 \(g'(x) = 2x\)가 음에서 양으로 바뀌므로 \(h'(x)\)는 양에서 음으로 바뀌어 극댓값 \(h(0) = f(0) = \mathbf{0}\)을 갖는다.

• \(x = 1\): \(g(x) - 1\)이 음에서 양으로 바뀌고 \(g'(1) = 2 \gt 0\)이므로 \(h'(x)\)는 음에서 양으로 바뀌어 극솟값 \(h(1) = f(1) = \mathbf{-2}\)를 갖는다.

곡선 \(y = x^3 - 3x\)와 직선 \(y = x\)의 교점은 \(x^3 - 4x = 0 \implies x = -2, 0, 2\)이다. 기함수 대칭성에 의해 둘러싸인 넓이는 \(S = 2\int_0^2 (4x - x^3)\,dx = 2\left[2x^2 - \frac{1}{4}x^4\right]_0^2 = 2(8 - 4) = \mathbf{8}\)이다.

또한 구간 \([-1, 1]\)에서는 \(g(x) = x^2\)이므로 \(h(x) = x^6 - 3x^2\)이고, 구간 \([1, 2]\)에서는 \(g(x) = 2x - 1\)이다.

따라서 \(\int_{-1}^1 (x^6 - 3x^2)\,dx = 2\left[\frac{1}{7}x^7 - x^3\right]_0^1 = 2\left(\frac{1}{7} - 1\right) = -\frac{12}{7}\)이고, \(\int_1^2 f(2x-1)\,dx = \frac{1}{2}\int_1^3 (u^3 - 3u)\,du = \frac{1}{2}\left[\frac{1}{4}u^4 - \frac{3}{2}u^2\right]_1^3 = \frac{1}{2}(8 + 0) = 4\)이다.

그러므로 \(\int_{-1}^2 h(x)\,dx = -\frac{12}{7} + 4 = \mathbf{\frac{16}{7}}\)이다.