(1) 주어진 식 양변에서 \(2\)를 빼면 \(a_{n+1}-2=3(a_n-2)\)이므로 \(c_n=a_n-2\)는 첫째항 \(c_1=a_1-2=3\), 공비 \(3\)인 등비수열이다. 따라서 \(c_n=3^n\)이고 \(a_n=3^n+2\)이다.

(2) 등비수열의 합 공식에 의하여 \[S_n=\sum_{k=1}^{n}(3^k+2)=\frac{3(3^n-1)}{3-1}+2n=\frac{3^{n+1}-3}{2}+2n\]

(3) \(a_n-1=3^n+1\)이고 \((a_{n+1}-1)-(a_n-1)=3^{n+1}-3^n=2\cdot 3^n\)이므로 \[b_n=\frac{1}{2}\left(\frac{1}{3^n+1}-\frac{1}{3^{n+1}+1}\right)\]이다. 제\(N\)항까지의 부분합은 망원급수 소거에 의하여 \(\sum_{n=1}^{N}b_n=\frac{1}{2}\left(\frac{1}{4}-\frac{1}{3^{N+1}+1}\right)\)이고 \(\lim_{N\to\infty}\frac{1}{3^{N+1}+1}=0\)이므로 급수의 합은 \(\frac{1}{8}\)이다.

(1) \(x'(t)=e^t-e^{-t},\; y'(t)=2\)이므로 \(t\gt 0\)에서 \[\frac{dy}{dx}=\frac{2}{e^t-e^{-t}}\]이고, 연쇄법칙 \(\frac{d^2 y}{dx^2}=\frac{\frac{d}{dt}(dy/dx)}{x'(t)}\)를 적용하면 \[\frac{d^2 y}{dx^2}=\frac{-\frac{2(e^t+e^{-t})}{(e^t-e^{-t})^2}}{e^t-e^{-t}}=-\frac{2(e^t+e^{-t})}{(e^t-e^{-t})^3} \lt 0\]이므로 \(t\gt 0\) 구간에서 곡선은 위로 볼록하다.

(2) \(t=\ln 2\)일 때 \(x(\ln 2)=2+\frac{1}{2}=\frac{5}{2},\; y(\ln 2)=2\ln 2\)이고 기울기는 \(\frac{2}{2-1/2}=\frac{4}{3}\)이므로 접선은 \[y-2\ln 2=\frac{4}{3}\left(x-\frac{5}{2}\right) \iff y=\frac{4}{3}x-\frac{10}{3}+2\ln 2\]

(3) 완전제곱 항등식 \((e^t-e^{-t})^2+4=e^{2t}-2+e^{-2t}+4=(e^t+e^{-t})^2\)에 의하여 \[L=\int_0^{\ln 3}\sqrt{\{x'(t)\}^2+\{y'(t)\}^2}\,dt=\int_0^{\ln 3}(e^t+e^{-t})\,dt=\left[e^t-e^{-t}\right]_0^{\ln 3}=\left(3-\frac{1}{3}\right)-0=\frac{8}{3}\]

(1) \(c=\sqrt{16-7}=3\)이므로 \(F(3,0), F'(-3,0)\)이다. \(\overrightarrow{FP}=(x-3,y),\; \overrightarrow{F'P}=(x+3,y)\)이고 \(y^2=7-\frac{7}{16}x^2\)이므로 \[\overrightarrow{FP}\cdot\overrightarrow{F'P}=(x^2-9)+\left(7-\frac{7}{16}x^2\right)=\frac{9}{16}x^2-2\]이다. 타원 위에서 \(0 \le x^2 \le 16\)이므로 \(x=\pm 4\)일 때 최댓값은 \(7\)이고, \(x=0\)일 때 최솟값은 \(-2\)이다.

(2) \(u=\overline{PF},\; v=\overline{PF'}\)이라 하면 타원의 정의 \(u+v=8\)과 코사인법칙 \(36=u^2+v^2-2uv\cos\frac{\pi}{3}=(u+v)^2-3uv=64-3uv\)에서 \(uv=\frac{28}{3}\)이다. 따라서 넓이는 \[S=\frac{1}{2}uv\sin\frac{\pi}{3}=\frac{1}{2}\cdot\frac{28}{3}\cdot\frac{\sqrt{3}}{2}=\frac{7\sqrt{3}}{3}\]

(3) \(\overrightarrow{FP}\cdot\overrightarrow{F'P}=uv\cos\frac{\pi}{3}=\frac{14}{3}\)이므로 (1)에서 \(\frac{9}{16}x^2-2=\frac{14}{3} \implies x^2=\frac{320}{27}\)이다. 또한 \(u=4-\frac{3}{4}x,\; v=4+\frac{3}{4}x\)이고 내각 이등분선 정리에 의해 점 \(Q(q,0)\)은 \(F(3,0), F'(-3,0)\)을 \(u:v\)로 내분하므로 \[q=\frac{u(-3)+v(3)}{u+v}=\frac{3(v-u)}{8}=\frac{3\cdot\frac{3}{2}x}{8}=\frac{9}{16}x, \qquad \overline{OQ}^2=q^2=\frac{81}{256}\cdot\frac{320}{27}=\frac{15}{4}\]

(1) 접점 \((t, t^3-3t)\)에서의 접선 \(y-(t^3-3t)=(3t^2-3)(x-t)\)가 \(A(2,k)\)를 지나므로 \[k=-2t^3+6t^2-6\]이다. \(h(t)=-2t^3+6t^2-6\)으로 두면 \(h'(t)=-6t(t-2)\)이므로 \(t=0\)에서 극솟값 \(h(0)=-6\), \(t=2\)에서 극댓값 \(h(2)=2\)를 갖는다. 삼차함수의 접점 \(t\)가 서로 다르면 접선도 서로 다르므로(변곡점 조건 확인 포함) 구하는 범위는 \(-6 \lt k \lt 2\)이다.

(2) \(k=-2\)를 대입하면 \(2t^3-6t^2+4=2(t-1)(t^2-2t-2)=0\)이므로 세 접점의 \(x\)좌표는 \(1,\; 1-\sqrt{3},\; 1+\sqrt{3}\)이다.

(3) 방정식 \(2t^3-6t^2+(k+6)=0\)의 근과 계수의 관계에 의하여 \(t_1+t_2+t_3=3,\; t_1 t_2+t_2 t_3+t_3 t_1=0,\; t_1 t_2 t_3=-\frac{k+6}{2}\)이다. 또한 \(t_i^3-3t_i = 3t_i^2-\frac{k+6}{2}-3t_i\)이고 \(\sum t_i^2 = (\sum t_i)^2-2\sum t_i t_j=9\)이므로 \[\sum_{i=1}^{3}y_i = 3(9)-\frac{3(k+6)}{2}-3(3)=9-\frac{3}{2}k\]이다. 따라서 무게중심 좌표는 \(G\!\left(1,\; 3-\frac{k}{2}\right)\)이다.

(1) \(\sin^n x = \sin^{n-1}x \cdot \sin x\)로 두고 부분적분하면 \[I_n=\left[-\sin^{n-1}x\cos x\right]_0^{\pi/2}+(n-1)\int_0^{\pi/2}\sin^{n-2}x\cos^2 x\,dx=(n-1)(I_{n-2}-I_n)\]이므로 \(nI_n=(n-1)I_{n-2}\), 즉 \(I_n=\frac{n-1}{n}I_{n-2}\)이다. \(I_0=\frac{\pi}{2},\; I_1=1\)로부터 \(I_4=\frac{3}{4}\cdot\frac{1}{2}\cdot\frac{\pi}{2}=\frac{3\pi}{16}\), \(I_5=\frac{4}{5}\cdot\frac{2}{3}\cdot 1=\frac{8}{15}\)이다.

(2) 점화식에 의하여 \(\frac{P_m}{P_{m-1}}=\frac{I_{2m}}{I_{2m-2}}\cdot\frac{I_{2m+1}}{I_{2m-1}}=\frac{2m-1}{2m}\cdot\frac{2m}{2m+1}=\frac{2m-1}{2m+1}\)이므로 망원곱 소거와 \(P_0=I_0 I_1=\frac{\pi}{2}\)로부터 \[P_m = \frac{\pi}{2}\prod_{k=1}^{m}\frac{2k-1}{2k+1}=\frac{\pi}{2(2m+1)}\]

(3) \(0 \le x \le \frac{\pi}{2}\)에서 \(0 \le \sin x \le 1\)이므로 \(\sin^{2m+1}x \le \sin^{2m}x \le \sin^{2m-1}x\)이고 정적분하면 \(I_{2m+1} \le I_{2m} \le I_{2m-1}=\frac{2m+1}{2m}I_{2m+1}\)이다. 양변에 \(I_{2m} \gt 0\)을 곱하고 \(P_m=\frac{\pi}{2(2m+1)}\)을 대입하면 \[\frac{\pi}{2(2m+1)} \le I_{2m}^2 \le \frac{2m+1}{2m}\cdot\frac{\pi}{2(2m+1)}=\frac{\pi}{4m}\]이고 \(m\)을 곱한 뒤 제곱근을 취하여 \(m\to\infty\) 극한을 취하면 조임정리에 의해 \(\frac{\sqrt{\pi}}{2}\)이다.

(1) \(4p=12\)에서 \(p=3\)이므로 초점은 \(F(3,0)\), 준선은 \(x=-3\)이다. 직선 \(\ell\)이 \(x=ky+3\)일 때 \(y^2-12ky-36=0\)의 두 근을 \(y_1 \gt 0 \gt y_2\)라 하면 \(y_1+y_2=12k,\; y_1 y_2=-36\)이다. 포물선의 정의에 의해 \(u=\overline{AF}=x_1+3=\frac{y_1^2}{12}+3,\; v=\overline{BF}=x_2+3\)이고, 직선 위의 거리비 \(u:v=y_1:(-y_2)\) 및 \(x_1 x_2=\frac{(y_1 y_2)^2}{144}=9\)로부터 \[\frac{1}{u}+\frac{1}{v}=\frac{x_1+x_2+6}{x_1 x_2+3(x_1+x_2)+9}=\frac{(12k^2+6)+6}{9+3(12k^2+6)+9}=\frac{12(k^2+1)}{36(k^2+1)}=\frac{1}{3}\]로 항상 \(\frac{1}{3}\)이다.

(2) \(u, v \gt 0\)과 \(\frac{1}{u}+\frac{1}{v}=\frac{1}{3}\)에 코시·슈바르츠(또는 산술·기하평균) 부등식을 적용하면 \((u+v)\left(\frac{1}{u}+\frac{1}{v}\right)\ge 4\)이므로 \(\overline{AB}=u+v \ge 12\) (등호: \(u=v=6,\; k=0\))이며 최솟값은 \(12\)이다.

(3) \(\overline{AA'}=u,\; \overline{BB'}=v\)이고 사다리꼴의 높이 \(\overline{A'B'}=y_1-y_2=\sqrt{(y_1+y_2)^2-4y_1 y_2}=12\sqrt{k^2+1}\)이다. 한편 \(u+v=12(k^2+1)\)이므로 \(\overline{A'B'}=2\sqrt{3(u+v)}\)이다. 따라서 \[S=\frac{1}{2}(u+v)\cdot 2\sqrt{3(u+v)}=\sqrt{3}(u+v)^{3/2}\]이고 \(u+v \ge 12\)이므로 \(S \ge \sqrt{3}\cdot 12\sqrt{12}=72\), 즉 최솟값은 \(72\)이다.

(1) 덧셈정리와 곱셈정리에 의하여 전체 통과 확률은 \[p=0.6\times 0.25+0.4\times 0.125=0.15+0.05=0.2=\frac{1}{5}\]이고, 조건부확률은 \(P(A\mid\text{통과})=\frac{0.15}{0.20}=\frac{3}{4}\)이다.

(2) \(X \sim B\!\left(400, \frac{1}{5}\right)\)이므로 \(E(X)=400\times\frac{1}{5}=80\), \(V(X)=400\times\frac{1}{5}\times\frac{4}{5}=64\), \(\sigma(X)=8\)이다.

(3) \(X\)를 정규분포 \(N(80, 8^2)\)으로 근사하면 \[P(80\le X\le 92)\approx P\!\left(0\le Z\le \frac{92-80}{8}\right)=P(0\le Z\le 1.5)=0.4332\]이고, \(P(Z\ge 2.0)=0.5-0.4772=0.0228\)이므로 \(\frac{c-80}{8}\ge 2.0\)에서 최소 상수는 \(c=96\)이다.

(1) 양변을 \(x\)에 대하여 음함수 미분하면 \(2x-y-x\frac{dy}{dx}+2y\frac{dy}{dx}=0\)이므로 \[\frac{dy}{dx}=\frac{y-2x}{2y-x}\]이다. 점 \((2,1)\)에서는 \(2y-x=0\)이 되어 \(x=2\) 대입 시 \((y-1)^2=0\) 중근을 가지므로 \(x\)축에 수직인 접선 \(x=2\)이다.

(2) \(y\)좌표의 최대·최소에서는 수평접선 조건 \(\frac{dy}{dx}=0\), 즉 \(y=2x\)를 만족한다. 이를 \(x^2-xy+y^2=3\)에 대입하면 \(x^2-2x^2+4x^2=3x^2=3\)이므로 \(x=\pm 1\)이다. 따라서 최댓값 점은 \(P_{\max}(1, 2)\), 최솟값 점은 \(P_{\min}(-1, -2)\)이다.

(3) 몫의 미분법으로 \(\frac{dy}{dx}=\frac{y-2x}{2y-x}\)를 다시 \(x\)에 대하여 미분하되, 점 \(P_{\max}(1,2)\)에서는 \(y'=0\)이므로 분자의 미분만 남는다: \[\left.\frac{d^2 y}{dx^2}\right|_{(1,2)}=\left.\frac{(y'-2)(2y-x)-(y-2x)(2y'-1)}{(2y-x)^2}\right|_{(1,2,y'=0)}=\frac{(-2)(4-1)-0}{3^2}=-\frac{6}{9}=-\frac{2}{3} \lt 0\]이므로 \(x=1\) 근방에서 위로 볼록하여 극대임이 확인된다.

(1) 중심 \(C(1,2,2)\)를 지나고 평면 \(\alpha\)의 법선벡터 \(\vec{n}=(1,2,2)\)를 방향벡터로 하는 직선 위의 점은 \(H(1+t, 2+2t, 2+2t)\)이다. \(\alpha\)에 대입하면 \((1+t)+2(2+2t)+2(2+2t)-18=9t-9=0\)에서 \(t=1\)이므로 \(H(2, 4, 4)\)이고, \(\overline{CH}=\sqrt{1^2+2^2+2^2}=3\)이다.

(2) 구의 반지름이 \(R=5\)이고 \(\overline{CH}=3\)이므로 교선원 \(\Omega\)의 반지름은 \(r=\sqrt{5^2-3^2}=4\), 넓이는 \(16\pi\)이다. 평면 \(\alpha\)의 단위법선벡터와 \(xy\)평면의 법선벡터 \(\vec{k}=(0,0,1)\)이 이루는 예각 \(\theta\)에 대하여 \[\cos\theta=\frac{|\vec{n}\cdot\vec{k}|}{|\vec{n}||\vec{k}|}=\frac{2}{3}\]이므로 정사영 넓이는 \(16\pi\cos\theta=\mathbf{\frac{32}{3}\pi}\)이다.

(3) 중심 \(C(1,2,2)\)에서 평면 \(\beta\)까지의 거리는 \(d(C,\beta)=\frac{|1+4+4+12|}{3}=\frac{21}{3}=7 \gt 5\)이므로 최솟값은 \(7-5=\mathbf{2}\)이다. 최솟값 점 \(P\)는 \(C\)에서 \(-\vec{n}\) 방향으로 거리 \(5\)(\(s=-\frac{5}{3}\))만큼 이동한 점이므로 \[P=\left(1-\frac{5}{3},\; 2-\frac{10}{3},\; 2-\frac{10}{3}\right)=\left(-\frac{2}{3},\; -\frac{4}{3},\; -\frac{4}{3}\right)\]

(1) 우변을 통분하면 \(\frac{2A}{n(n+1)(n+2)}\)이므로 \(A=\frac{1}{2}\)이다. 제\(N\)항까지의 부분합은 \[S_N=\sum_{n=1}^{N}a_n=\frac{1}{2}\left(\frac{1}{1\cdot 2}-\frac{1}{(N+1)(N+2)}\right)=\frac{1}{4}-\frac{1}{2(N+1)(N+2)}\]이므로 \(N\to\infty\)에서 합은 \(\frac{1}{4}\)이다.

(2) \(1-\frac{1}{(n+1)^2}=\frac{n(n+2)}{(n+1)^2}\)이므로 \(b_n=\ln\frac{n}{n+1}-\ln\frac{n+1}{n+2}\)이다. 따라서 \[T_N=\ln\frac{1}{2}-\ln\frac{N+1}{N+2}=\ln\frac{N+2}{2(N+1)}, \qquad \sum_{n=1}^{\infty}b_n=\lim_{N\to\infty}T_N=-\ln 2\]

(3) (1)에서 잔여항이 \(\frac{1}{4}-S_N=\frac{1}{2(N+1)(N+2)}\)이므로 \[\lim_{N\to\infty}N^2\left(\frac{1}{4}-S_N\right)=\lim_{N\to\infty}\frac{N^2}{2(N+1)(N+2)}=\frac{1}{2}\]

(1) \(x \ge 0\)에서 \(f'(x)=(x+2)e^x \gt 0\)이므로 \(f\)는 순증가 연속함수이고 역함수 \(g:[1,\infty)\to[0,\infty)\)가 존재한다. \(f(1)=2e\)에서 \(g(2e)=1\)이므로 역함수의 미분법에 의하여 \[g'(2e)=\frac{1}{f'(1)}=\frac{1}{3e}\]

(2) \(\frac{d}{dx}(xe^x)=(x+1)e^x\)이므로 \(\int_0^2 f(x)\,dx=\left[xe^x\right]_0^2=2e^2\)이다. \(f(0)=1,\; f(2)=3e^2\)이므로 직사각형 넓이 관계 \(\int_0^2 f(x)\,dx + \int_1^{3e^2}g(y)\,dy = 2\cdot 3e^2 - 0\cdot 1 = 6e^2\)로부터 \[\int_1^{3e^2}g(y)\,dy = 6e^2 - 2e^2 = 4e^2\]

(3) \(y=f(x)\; (0\le x\le 2)\)로 치환하면 \(g(y)=x,\; dy=(x+2)e^x\,dx\)이므로 \[\int_1^{3e^2}\{g(y)\}^2\,dy=\int_0^2 x^2(x+2)e^x\,dx=\int_0^2 (x^3+2x^2)e^x\,dx\]이다. \(H(x)=(x^3-x^2+2x-2)e^x\)를 미분하면 \((x^3-x^2+2x-2+3x^2-2x+2)e^x=(x^3+2x^2)e^x\)이므로 \[\left[(x^3-x^2+2x-2)e^x\right]_0^2 = (8-4+4-2)e^2 - (-2) = 6e^2+2\]

(1) \(a=3,\; b=4\)이므로 \(c=\sqrt{9+16}=5\)이고 점근선은 \(4x\pm 3y=0\)이다. \(F(5,0)\)에서 \(4x-3y=0\)까지의 거리는 \(\overline{FM}=\frac{|20|}{5}=4=b\)이고 피타고라스 정리로 \(\overline{OM}=\sqrt{5^2-4^2}=3=a\)이다.

(2) 접선 \(\ell : 16x_0 x - 9y_0 y - 144 = 0\)과 \(16x_0^2-9y_0^2=144\)를 이용하면 \[d_1 d_2 = \frac{|(80x_0-144)(-80x_0-144)|}{256x_0^2+81y_0^2}=\frac{|20736-6400x_0^2|}{256x_0^2+9(16x_0^2-144)}=\frac{6400x_0^2-20736}{400x_0^2-1296}=\frac{16(400x_0^2-1296)}{400x_0^2-1296}=16\] (단, \(x_0 \gt 3\)에서 \(400x_0^2 \gt 3600 \gt 1296\))이므로 항상 \(16\)으로 일정하다.

(3) \(u=\overline{PF'},\; v=\overline{PF}\)라 하면 쌍곡선의 정의 \(u-v=6\)과 직각삼각형 피타고라스 정리 \(u^2+v^2=(2c)^2=100\)이 성립한다. \(100=(u-v)^2+2uv=36+2uv\)에서 \(uv=32\)이므로 넓이는 \(\frac{1}{2}uv=\mathbf{16}\)이다.

(1) \(x=2u+1,\; y=2v+1,\; z=2w+1\) (\(u,v,w\)는 음이 아닌 정수)로 치환하면 \(u+v+w=m\)이므로 \[a_m = {}_{3}\mathrm{H}_{m} = \binom{m+2}{2} = \frac{(m+1)(m+2)}{2}, \qquad a_4=\frac{5\cdot 6}{2}=15\]

(2) (i) \(n=1\)일 때 좌변 \(a_1=3\), 우변 \(\frac{1(1+6+11)}{6}=3\)으로 성립한다. (ii) \(n=k\)일 때 성립한다고 가정하면 \(n=k+1\)일 때 \[\sum_{m=1}^{k+1}a_m = \frac{k(k^2+6k+11)}{6}+\frac{(k+2)(k+3)}{2}=\frac{k^3+9k^2+26k+18}{6}=\frac{(k+1)\{(k+1)^2+6(k+1)+11\}}{6}\]이므로 \(n=k+1\)일 때도 성립한다. 따라서 모든 자연수 \(n\)에서 성립한다.

(3) \(m=4\)에서 \(x=2u+1\ge 5 \iff u\ge 2\)이다. \(u'=u-2\ge 0\)으로 두면 \(u'+v+w=2\)의 해의 개수는 \({}_{3}\mathrm{H}_{2}=\binom{4}{2}=6\)이므로 확률은 \(\frac{6}{15}=\mathbf{\frac{2}{5}}\)이다.

(1) \(g'(x)=e^x-1-x,\; g''(x)=e^x-1\)이다. \(x \gt 0\)에서 \(g''(x) \gt 0\)이므로 \(g'(x) \gt g'(0)=0\)이고 다시 \(g(x) \gt g(0)=0\)이므로 \(e^x \gt 1+x+\frac{x^2}{2}\)이다(또는 \(h(x)=e^x-1-x-\frac{x^2}{2}-\frac{x^3}{6} \gt 0\)으로 한 단계 더 미분하면 \(e^x \gt \frac{x^3}{6}\)). 실제로 \(h'''(x)=e^x-1 \gt 0\)에서 \(x \gt 0\)일 때 \(e^x \gt \frac{x^3}{6}\)이므로 \(0 \lt x^2 e^{-x} \lt \frac{6}{x}\)이고 \(\lim_{x\to\infty}\frac{6}{x}=0\)이므로 조임정리에 의해 \(\lim_{x\to\infty}f(x)=0\)이다.

(2) \(f'(x)=x(2-x)e^{-x}\)이므로 \(x=0\)에서 극솟값 \(f(0)=0\), \(x=2\)에서 극댓값 \(f(2)=\frac{4}{e^2}\)을 갖는다. \(x \ge 0\)에서 \([0,2]\) 증가, \([2,\infty)\) 감소이므로 구간 \([0,\infty)\)에서 최댓값은 \(\frac{4}{e^2}\)이다.

(3) \(f''(x)=(x^2-4x+2)e^{-x}\)이고 \(x^2-4x+2=0\)의 판별식 \(D=8 \gt 0\)이므로 두 실근 \(\alpha=2-\sqrt{2},\; \beta=2+\sqrt{2}\) 좌우에서 \(f''(x)\)의 부호가 바뀐다. 따라서 \((\alpha-\beta)^2=(\alpha+\beta)^2-4\alpha\beta=16-8=\mathbf{8}\)이다.

(1) \(\vec{u}=(1,2,2),\; \vec{v}=(2,1,-2)\)이므로 \(\vec{u}\cdot\vec{v}=2+2-4=0\)에서 서로 수직이다. 또한 \(\overrightarrow{P(t)Q(s)}=(2+2s-t,\; 3+s-2t,\; -1-2s-2t)=\vec{0}\)을 풀면 첫 두 식에서 \(t=\frac{8}{3}, s=\frac{1}{3}\)이나 셋째 식 \(-1-\frac{2}{3}-\frac{16}{3}=-7\neq 0\)이므로 교점이 없어 꼬인 위치에 있다.

(2) 수직 조건 \(\overrightarrow{PQ}\cdot\vec{u}=0\)과 \(\overrightarrow{PQ}\cdot\vec{v}=0\)을 성분 내적으로 계산하면 \(\vec{u}\cdot\vec{v}=0\) 덕분에 변수가 분리되어 \[\overrightarrow{PQ}\cdot\vec{u}=(2+2s-t)+2(3+s-2t)+2(-1-2s-2t)=6-9t=0 \implies t=\frac{2}{3}\] \[\overrightarrow{PQ}\cdot\vec{v}=2(2+2s-t)+(3+s-2t)-2(-1-2s-2t)=9+9s=0 \implies s=-1\]이다. 대입하면 \(\overrightarrow{PQ}=\left(-\frac{2}{3}, \frac{2}{3}, -\frac{1}{3}\right)\)이므로 최단거리는 \(|\overrightarrow{PQ}|=\frac{\sqrt{4+4+1}}{3}=\mathbf{1}\)이다.

(3) \(P\!\left(\frac{5}{3},\frac{4}{3},\frac{10}{3}\right),\; Q(1,2,3)\)이므로 중점은 \(M\!\left(\frac{4}{3},\frac{5}{3},\frac{19}{6}\right)\)이고 법선벡터로 \(-3\overrightarrow{PQ}=(2,-2,1)\)을 택하면 평면의 방정식은 \[2\left(x-\frac{4}{3}\right)-2\left(y-\frac{5}{3}\right)+\left(z-\frac{19}{6}\right)=0 \iff 12x-12y+6z-15=0 \iff 4x-4y+2z-5=0\]

(1) \(x=2\sqrt{2}\cos(\pi t),\; y=-\sqrt{6}\sin(\pi t)\)이므로 \(\frac{x^2}{8}+\frac{y^2}{6}=1\)이다. \(t=0\)에서 \((2\sqrt{2},0)\), \(t=\frac{1}{2}\)에서 \((0,-\sqrt{6})\)으로 이동하므로 시계 방향이다.

(2) 제1사분면 접선 \(\frac{x_0 x}{8}+\frac{y_0 y}{6}=1\)의 절편은 \(\frac{8}{x_0}, \frac{6}{y_0}\)이므로 마름모 넓이는 \(4\cdot\frac{1}{2}\cdot\frac{8}{x_0}\cdot\frac{6}{y_0}=\frac{96}{x_0 y_0}\)이다. 산술·기하평균 \(1=\frac{x_0^2}{8}+\frac{y_0^2}{6}\ge \frac{x_0 y_0}{2\sqrt{12}}=\frac{x_0 y_0}{4\sqrt{3}}\)에서 \(x_0 y_0\le 4\sqrt{3}\)이므로 최솟값은 \(\frac{96}{4\sqrt{3}}=\mathbf{8\sqrt{3}}\)이다.

(3) \(x_1'(t)=2(1-\cos t),\; y_1'(t)=2\sin t\)이므로 \(t=\frac{2\pi}{3}\)에서 기울기는 \(\frac{2\cdot(\sqrt{3}/2)}{2(1+1/2)}=\frac{\sqrt{3}}{3}\)이다. 또한 \(\{x_1'(t)\}^2+\{y_1'(t)\}^2=8(1-\cos t)=16\sin^2\frac{t}{2}\)이므로 \[L=\int_0^{\pi}4\sin\frac{t}{2}\,dt=\left[-8\cos\frac{t}{2}\right]_0^{\pi}=8\]

(1) \(X_0=0\)에서 \(P(X_1=1)=\frac{2}{3},\; P(X_1=0)=\frac{1}{3}\)이다. \(2\)단계에서 \[P(X_2=2)=\frac{2}{3}\cdot\frac{2}{4}=\frac{1}{3}, \quad P(X_2=1)=\frac{1}{3}\cdot\frac{2}{3}=\frac{2}{9}, \quad P(X_2=0)=\frac{1}{3}\cdot\frac{1}{3}+\frac{2}{3}\cdot\frac{2}{4}=\frac{1}{9}+\frac{1}{3}=\frac{4}{9}\]

(2) 교과서 기반 교육과정 모비율 신뢰구간 공식(12확통03-06)에 의하여 표준오차는 \(\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}=\sqrt{\frac{0.36\times 0.64}{400}}=\frac{0.48}{20}=0.024\)이므로 신뢰구간의 길이는 \[b-a=2\times 1.96\times 0.024=0.09408\]

(3) 산술·기하평균에 의하여 모든 \(\hat{p}\in(0,1)\)에서 \(\hat{p}(1-\hat{p}) \le \frac{1}{4}\) (최댓값은 \(\hat{p}=0.5\)일 때)이므로 \[2\times 1.96\sqrt{\frac{\hat{p}(1-\hat{p})}{n}} \le 3.92\times\frac{1}{2\sqrt{n}}=\frac{1.96}{\sqrt{n}} \le 0.07\]이어야 한다. \(\sqrt{n}\ge \frac{1.96}{0.07}=28\)에서 양변을 제곱하면 최소 자연수는 \(n=784\)이다.

(1) \(\vec{v}_1,\vec{v}_2\)가 이루는 각이 \(\frac{\pi}{3}\)이므로 \(|\vec{w}_k|=\sqrt{4+4+2\cdot 4\cdot\frac{1}{2}}=2\sqrt{3}\)이다. 또한 \(\vec{v}_k\cdot\vec{e}=2\cos\!\left(\alpha-\frac{(k-1)\pi}{3}\right)\)이고 \(\cos^2\theta=\frac{1+\cos 2\theta}{2}\)이며 \(\sum_{k=1}^6 \cos\!\left(2\alpha-\frac{2(k-1)\pi}{3}\right)=0\)이므로 합은 항상 \(4\times 3=\mathbf{12}\)로 일정하다.

(2) \(\vec{v}_k\) 성분은 \((2,0),(1,\sqrt{3}),(-1,\sqrt{3}),(-2,0),(-1,-\sqrt{3}),(1,-\sqrt{3})\)이고 \(\vec{w}_k\) 성분은 \((3,\sqrt{3}),(0,2\sqrt{3}),(-3,\sqrt{3}),(-3,-\sqrt{3}),(0,-2\sqrt{3}),(3,-\sqrt{3})\)이다. \(\vec{F}=(-1,-3\sqrt{3})\)와의 양의 내적은 \(\vec{v}_4\to 2,\; \vec{v}_6\to 8,\; \vec{v}_5\to 10\), \(\vec{w}_6\to 6,\; \vec{w}_4\to 12,\; \vec{w}_5\to 18\)이므로 최소 양의 내적 벡터는 단독으로 \(\vec{v}_4=(-2,0)\)이고 내적은 \(2\)이다.

(3) \(\vec{F}(m)=(m-1, -3\sqrt{3})\)일 때 \(\vec{v}_1\cdot\vec{F}(m)=2(m-1) \gt 0 \implies m \ge 2\)이다. \(m=2\)이면 \(\vec{F}(2)=(1,-3\sqrt{3})\)이고 \(\vec{v}_1\cdot\vec{F}(2)=2\)이며, 다른 벡터들과의 내적은 \(\vec{v}_2\to -8,\; \vec{v}_3\to -10,\; \vec{v}_4\to -2,\; \vec{v}_5\to 8,\; \vec{v}_6\to 10\) 및 \(\vec{w}_1\to -6,\; \vec{w}_2\to -18,\; \vec{w}_3\to -12,\; \vec{w}_4\to 6,\; \vec{w}_5\to 18,\; \vec{w}_6\to 12\)이므로 양의 내적 중 \(2\)가 유일한 최솟값이다. 따라서 최소 자연수는 \(m=2\)이다.

(1) \(2a=2\sqrt{7}\)에서 \(a^2=7\)이고 공초점 조건 \(a^2+b^2=16\)에서 \(b^2=9\)이다. \(\frac{x^2}{25}+\frac{y^2}{9}=1\)과 \(\frac{x^2}{7}-\frac{y^2}{9}=1\)을 변변 더하면 \(\frac{32}{175}x^2=2\)이므로 \(x_0^2=\frac{175}{16}\), \(y_0^2=9\left(1-\frac{7}{16}\right)=\frac{81}{16}\)이다. 제1사분면에서 \(P\!\left(\frac{5\sqrt{7}}{4},\; \frac{9}{4}\right)\)이다.

(2) 점 \(P\)에서 타원 접선 기울기는 \(m_1=-\frac{9x_0}{25y_0}\), 쌍곡선 접선 기울기는 \(m_2=\frac{9x_0}{7y_0}\)이므로 \[m_1 m_2 = -\frac{81 x_0^2}{175 y_0^2}=-\frac{81\cdot(175/16)}{175\cdot(81/16)}=-1\]이 성립하여 두 접선은 서로 수직이다.

(3) 밑변 \(\overline{F'F}=8\), 높이 \(y_0=\frac{9}{4}\)이므로 넓이는 \(S=\frac{1}{2}\cdot 8\cdot\frac{9}{4}=\mathbf{9}\)이다. 또한 타원의 정의로 \(\overline{PF'}+\overline{PF}=2\cdot 5=10\)이므로 \(\triangle PF'F\)의 둘레는 \(10+8=18\)이고, \(S=\frac{1}{2}r(18)=9r\)에서 내접원 반지름은 \(r=1\)이다.

(1) \(u=1+t^3\)으로 치환하면 \(du=3t^2\,dt\)이므로 \(F(x)=\frac{1}{3}\ln(1+x^3)\)이다. \(F'(x)=\frac{x^2}{1+x^3}\)을 미분하면 \[F''(x)=\frac{2x(1+x^3)-x^2(3x^2)}{(1+x^3)^2}=\frac{x(2-x^3)}{(1+x^3)^2}\]이므로 \(x \gt 0\)에서 \(x=\sqrt[3]{2}\) 좌우에서 \(F''(x)\)의 부호가 양에서 음으로 바뀐다. 따라서 변곡점 좌표는 \(\left(\sqrt[3]{2},\; \frac{1}{3}\ln 3\right)\)이다.

(2) \(x \gt 0\)일 때 \(0 \lt t \lt x\)인 모든 \(t\)에 대하여 \(\frac{t^2}{1+x^3} \lt \frac{t^2}{1+t^3} \lt t^2\)이므로 \([0,x]\)에서 정적분하면 \[\frac{x^3}{3(1+x^3)} \lt F(x) \lt \frac{x^3}{3}\]이 성립한다. 양변을 \(x^3 \gt 0\)으로 나누면 \(\frac{1}{3(1+x^3)} \lt \frac{F(x)}{x^3} \lt \frac{1}{3}\)이므로 조임정리에 의해 극한값은 \(\frac{1}{3}\)이다.

(3) 일반항의 분자·분모를 \(n^3\)으로 나누고 \(x_k=1+\frac{2k}{n},\; \Delta x=\frac{2}{n}\)으로 두면 \[\frac{1}{2}\lim_{n\to\infty}\sum_{k=1}^{n}\frac{\left(1+\frac{2k}{n}\right)^2}{1+\left(1+\frac{2k}{n}\right)^3}\cdot\frac{2}{n}=\frac{1}{2}\int_1^3 \frac{t^2}{1+t^3}\,dt=\frac{1}{2}\{F(3)-F(1)\}=\frac{1}{6}(\ln 28-\ln 2)=\frac{1}{6}\ln 14\]

(1) \(\overrightarrow{AB}=(-3,6,0),\; \overrightarrow{AC}=(-3,0,3)\)과 법선벡터 \(\vec{n}=(a,b,c)\)의 내적이 \(0\)이므로 \(-3a+6b=0,\; -3a+3c=0\)에서 \(a=2b,\; c=2b\)이다. \(\vec{n}=(2,1,2)\)를 택하고 점 \(A(3,0,0)\)을 대입하면 \[2(x-3)+1(y-0)+2(z-0)=0 \iff 2x+y+2z-6=0\]

(2) \(H=(2t, t, 2t)\)를 \(\pi\)에 대입하면 \(9t=6 \implies t=\frac{2}{3}\)이므로 \(H\!\left(\frac{4}{3},\frac{2}{3},\frac{4}{3}\right)\)이고 \(\overline{OH}=2\)이다. \(\triangle OAB\) 넓이는 \(\frac{1}{2}\cdot 3\cdot 6=9\)이고 \(\pi\)와 \(xy\)평면이 이루는 예각 \(\theta\)에서 \(\cos\theta=\frac{2}{3}\)이므로 정사영 역관계 \(S(\triangle ABC)\cos\theta=9\)로부터 \(S(\triangle ABC)=\frac{27}{2}\)이다.

(3) \(\overrightarrow{AM}=(1,3,4)\)이므로 \(d=\overline{AM}=\sqrt{1+9+16}=\sqrt{26}\)이고 구 반지름 \(R=2\)이다. 직각삼각형 닮음으로 접점원 \(C_0\)의 반지름은 \(r_0=\frac{R\sqrt{d^2-R^2}}{d}=\frac{2\sqrt{22}}{\sqrt{26}}=\frac{2\sqrt{11}}{\sqrt{13}}\)이고 넓이는 \(\frac{44}{13}\pi\)이다. 원 \(C_0\)를 포함하는 평면의 법선벡터는 \(\overrightarrow{AM}=(1,3,4)\)이므로 평면 \(\pi\)(법선 \(\vec{n}=(2,1,2)\))와의 사잇각 코사인은 \[\cos\phi=\frac{|2+3+8|}{3\sqrt{26}}=\frac{13}{3\sqrt{26}}=\frac{\sqrt{26}}{6}\]이고 정사영 넓이는 \(\frac{44}{13}\pi\cdot\frac{\sqrt{26}}{6}=\mathbf{\frac{22\sqrt{26}}{39}\pi}\)이다.

(1) \(f'(x)=3x(x-2)\)이므로 극댓값은 \(f(0)=a\), 극솟값은 \(f(2)=a-4\)이다. \(g(x)=|f(x)|\)는 \(f(c)=0\)이면서 \(f'(c)\neq 0\)인 단순근 \(c\)에서만 미분불가능하다. 단순근이 정확히 \(1\)개이려면 삼차방정식 \(f(x)=0\)이 실근 \(1\)개만 갖거나, 중근 \(1\)개와 단순근 \(1\)개를 가져야 하므로 \(a \le 0\) 또는 \(a-4 \ge 0\), 즉 \(a \le 0\) 또는 \(a \ge 4\)이다.

(2) \(a=2\)이면 극댓값 \(f(0)=2\), 극솟값 \(f(2)=-2\)이므로 접어 올린 \(g(x)\)의 모든 극댓값 높이는 \(2\)로 일치한다! 따라서 \(t \lt 0\)이면 \(0\), \(t=0\)이면 \(3\), \(0 \lt t \lt 2\)이면 \(6\), \(t=2\)이면 \(4\), \(t \gt 2\)이면 \(2\)이므로 불연속점은 \(t=0\)(\(N(0)=3\))과 \(t=2\)(\(N(2)=4\))이다.

(3) \(f(x)=x^3-3x^2+2=(x-1)(x^2-2x-2)\)이고 \(|f(x)|=2\)의 해는 \(f(x)=2\implies x=0, 3\)과 \(f(x)=-2\implies (x-2)^2(x+1)=0\implies x=-1, 2\)이다. \(f(1+u)=-f(1-u)\) 점대칭성에 의해 \(g(1+u)=g(1-u)\)이므로 \([-1, 3]\) 구간에서 \(y=2\)와 \(y=g(x)\) 사이의 넓이는 \([1,3]\) 구간 넓이의 \(2\)배이다. \([1,2]\)에서 \(g(x)=-(x^3-3x^2+2)\), \([2,3]\)에서 \(g(x)=x^3-3x^2+2\)이므로 \[S=2\left[\int_1^2 (2+x^3-3x^2-2)\,dx + \int_2^3 (2-x^3+3x^2-2)\,dx\right]=2\left[\left|\frac{15}{4}-7\right|+\left|20-\frac{65}{4}\right|\right]\]를 정확히 적분하면 \(\int_1^2 (x^3-3x^2+4)\,dx=\left[\frac{x^4}{4}-x^3+4x\right]_1^2=(4-8+8)-(\frac{1}{4}-1+4)=\frac{3}{4}\)이고 \(\int_2^3 (-x^3+3x^2)\,dx=\left[-\frac{x^4}{4}+x^3\right]_2^3=(-\frac{81}{4}+27)-(-4+8)=\frac{11}{4}\)이므로 \(S=2\left(\frac{3}{4}+\frac{11}{4}\right)=\mathbf{7}\)이다.

(1) 대칭성에 의해 \(E(X)=0\)이고 \[V(X)=E(X^2)=4a+2a+0+2a+4a=12a=\frac{3}{2} \implies a=\frac{1}{8}\]이다. 특등급 모비율은 \(p=P(|X|\le 1)=1-2a=1-\frac{1}{4}=\mathbf{\frac{3}{4}}\)이다.

(2) \(n=96\)일 때 \(V(\bar{X})=\frac{3/2}{96}=\frac{1}{64}\)이므로 \(\sigma(\bar{X})=\frac{1}{8}=0.125\)이다. 따라서 \[P(|\bar{X}|\le 0.245)=P\!\left(|Z|\le \frac{0.245}{0.125}\right)=P(|Z|\le 1.96)=0.95\]

(3) 표본비율은 \(\hat{p}=\frac{320}{400}=0.8\)이고 표준오차는 \(\sqrt{\frac{0.8\times 0.2}{400}}=\frac{0.4}{20}=0.02\)이다. \(99\%\) 신뢰구간 오차한계는 \(2.58\times 0.02=0.0516\)이므로 구하는 신뢰구간은 \(0.7484 \le p \le 0.8516\)이다.

(1) 축 단면 직각삼각형의 닮음비 \(\frac{12-h}{r}=\frac{12}{6}=2\)로부터 \(h=12-2r\)이다. \(V(r)=\pi r^2(12-2r)=2\pi(6r^2-r^3)\)을 미분하면 \(V'(r)=6\pi r(4-r)\)이므로 \(r=4\)에서 극대이자 최대이며 최대 부피는 \(64\pi\)이다.

(2) \(h=12-2r\)를 대입하면 \[A(r)=\pi r^2 + 2\pi r(12-2r)=\pi(24r-3r^2)=-3\pi(r-4)^2+48\pi\]이므로 열린구간 \(0 \lt r \lt 6\) 내부의 \(r=4\)에서 극대이자 최대이며 최댓값은 \(48\pi\)이다.

(3) 작은 원뿔의 높이는 \(2r\), 반지름은 \(r\)이므로 \(V_1(r)=\frac{1}{3}\pi r^2(2r)=\frac{2}{3}\pi r^3\)이다. 따라서 \[\frac{V(r)}{V_1(r)}=\frac{\pi r^2(12-2r)}{\frac{2}{3}\pi r^3}=\frac{3(6-r)}{r}=6 \iff 18-3r=6r \iff r=2\]

(1) 교점 높이 방정식 \(4z = R^2-(z-3)^2 \iff z^2-2z+(9-R^2)=0\)이 \(z \gt 0\)에서 중근을 가져야 구가 그릇 안쪽에 접한다. 판별식 \(D/4=1-(9-R^2)=R^2-8=0\)으로부터 \(R=2\sqrt{2}\)이고 중근인 접점원의 높이는 \(z_0=1\)이다(이때 모든 \(z\ge 0\)에서 \(4z \ge 8-(z-3)^2\) 성립).

(2) 높이 \(z\)에서 그릇의 수평 단면적은 \(\pi(2\sqrt{z})^2=4\pi z\)이므로 \[V_{\text{그릇}}=\int_0^1 4\pi z\,dz = \left[2\pi z^2\right]_0^1 = 2\pi\]

(3) 구의 맨 아래 끝점 높이는 \(3-2\sqrt{2} \gt 0\)이다. \(s=3-z\)로 치환하면 접점원 \(z=1\) 아래 구 조각은 \(2 \le s \le 2\sqrt{2}\)에 해당하므로 \[V_{\text{구}}=\int_2^{2\sqrt{2}}\pi(8-s^2)\,ds=\pi\left[8s-\frac{s^3}{3}\right]_2^{2\sqrt{2}}=\pi\left(\frac{32\sqrt{2}}{3}-\frac{40}{3}\right)\]이다. 따라서 빈 공간 부피는 \[V_{\text{빈공간}}=2\pi - V_{\text{구}}=\frac{46-32\sqrt{2}}{3}\pi\]

(1) \(E(A)=\frac{2+6+7}{3}=5\), \(E(B)=\frac{1+4+8}{3}=\frac{13}{3}\)이다. \(9\)가지 순서쌍 \((a,b)\) 중 \(a\gt b\)인 경우는 \((2,1),(6,1),(6,4),(7,1),(7,4)\)의 \(5\)가지이므로 \(E(A)\gt E(B)\)이면서 \(p=\mathbf{\frac{5}{9}}\)이다.

(2) \(n\)번째 대결에서 \(B\)가 이기면(확률 \(\frac{4}{9}\)) \(Y_n=0\), \(A\)가 이기면(확률 \(\frac{5}{9}\), 이전과 독립) \(Y_n=Y_{n-1}+1\)이므로 \[E(Y_n)=\frac{5}{9}\left(E(Y_{n-1})+1\right)=\frac{5}{9}E(Y_{n-1})+\frac{5}{9}\]이고 \(E(Y_1)=\frac{5}{9}\)로부터 \[E(Y_n)=\frac{5/9}{1-5/9}\left\{1-\left(\frac{5}{9}\right)^n\right\}=\frac{5}{4}\left\{1-\left(\frac{5}{9}\right)^n\right\}\]

(3) \(\frac{5}{9}\times\frac{3}{5}=\frac{1}{3}\)이므로 두 수렴 등비급수로 분리하면 \[\frac{5}{4}\sum_{n=1}^{\infty}\left\{\left(\frac{3}{5}\right)^n - \left(\frac{1}{3}\right)^n\right\}=\frac{5}{4}\left(\frac{3/5}{2/5}-\frac{1/3}{2/3}\right)=\frac{5}{4}\left(\frac{3}{2}-\frac{1}{2}\right)=\frac{5}{4}\]

(1) \(f'(x)=e^{-x}(\cos x-\sin x)=\sqrt{2}e^{-x}\cos\!\left(x+\frac{\pi}{4}\right)\)이므로 \([0,2\pi]\)에서 \(x=\frac{\pi}{4}\)일 때 극댓값 \(\frac{\sqrt{2}}{2}e^{-\pi/4}\), \(x=\frac{5\pi}{4}\)일 때 극솟값 \(-\frac{\sqrt{2}}{2}e^{-5\pi/4}\)를 갖는다.

(2) \(I=\int e^{-x}\sin x\,dx\)를 두 번 부분적분하면 \(I=-e^{-x}\cos x - e^{-x}\sin x - I\)이므로 원시함수는 \(-\frac{1}{2}e^{-x}(\sin x+\cos x)\)이다. 따라서 \[A_1=\left[-\frac{1}{2}e^{-x}(\sin x+\cos x)\right]_0^{\pi}=\frac{1}{2}e^{-\pi}+\frac{1}{2}=\frac{1+e^{-\pi}}{2}\]

(3) \(x=u+(k-1)\pi\; (0\le u\le\pi)\)로 치환하면 \(|\sin(u+(k-1)\pi)|=\sin u\)이므로 \[A_k=\int_{(k-1)\pi}^{k\pi}e^{-x}|\sin x|\,dx = e^{-(k-1)\pi}\int_0^{\pi}e^{-u}\sin u\,du = A_1\left(e^{-\pi}\right)^{k-1}\]이다. 공비 \(r=e^{-\pi}\in(0,1)\)인 등비수열이므로 무한급수의 합은 \[\sum_{k=1}^{\infty}A_k = \frac{\frac{1+e^{-\pi}}{2}}{1-e^{-\pi}}=\frac{e^{\pi}+1}{2(e^{\pi}-1)}\]

(1) \(\triangle ABC\)에서 코사인법칙에 의하여 \[\overline{AC}^2=3^2+5^2-2\cdot 3\cdot 5\cos\frac{2\pi}{3}=9+25+15=49 \implies \overline{AC}=7\]이고 사인법칙 \(2R=\frac{7}{\sin(2\pi/3)}=\frac{14}{\sqrt{3}}\)으로부터 \(R=\frac{7\sqrt{3}}{3}\)이다.

(2) 내접사각형이므로 \(\angle ADC=\pi-\frac{2\pi}{3}=\frac{\pi}{3}\)이다. \(\overline{AD}=x \gt 0\)라 하면 \(49=x^2+9-2\cdot 3x\cos\frac{\pi}{3}=x^2-3x+9\)에서 \(x^2-3x-40=(x-8)(x+5)=0\), 즉 \(\overline{AD}=8\)이다. 사각형 넓이는 \[S=\frac{1}{2}\cdot 3\cdot 5\sin\frac{2\pi}{3}+\frac{1}{2}\cdot 8\cdot 3\sin\frac{\pi}{3}=\frac{15\sqrt{3}}{4}+6\sqrt{3}=\frac{39\sqrt{3}}{4}\]

(3) 점 \(P\)는 직선 \(BD\) 위의 점이므로 \(\alpha+\beta=1\)이고, \(\overline{BP}:\overline{PD}=S(\triangle ABC):S(\triangle ADC)=\frac{15\sqrt{3}}{4}:\frac{24\sqrt{3}}{4}=5:8\)이다. 내분점 공식에 의하여 \[\overrightarrow{AP}=\frac{8\overrightarrow{AB}+5\overrightarrow{AD}}{5+8}=\frac{8}{13}\overrightarrow{AB}+\frac{5}{13}\overrightarrow{AD}\]이므로 \(\alpha=\frac{8}{13},\; \beta=\frac{5}{13}\)이다.

(1) 단면은 반지름 \(h(x)\)인 반원이므로 단면적은 \(S(x)=\frac{1}{2}\pi\{h(x)\}^2=\frac{\pi}{2}\cdot\frac{x^2}{(1+x^2)^2}\)이다. \(x=\tan\theta\; (0\le\theta\le\frac{\pi}{4})\)로 치환하면 \(dx=\sec^2\theta\,d\theta,\; 1+x^2=\sec^2\theta\)이므로 \[V=\frac{\pi}{2}\int_0^{\pi/4}\frac{\tan^2\theta\sec^2\theta}{\sec^4\theta}\,d\theta=\frac{\pi}{2}\int_0^{\pi/4}\sin^2\theta\,d\theta=\frac{\pi}{4}\int_0^{\pi/4}(1-\cos 2\theta)\,d\theta=\frac{\pi}{4}\left(\frac{\pi}{4}-\frac{1}{2}\right)=\frac{\pi(\pi-2)}{16}\]

(2) \(0\le x\le 1\)에서 \(1+x^2 \ge 1\)이고 \(x^{2n+1}\ge 0\)이므로 \(0 \le \frac{x^{2n+1}}{1+x^2} \le x^{2n+1}\)이다. \([0,1]\)에서 정적분하면 \[0 \le \int_0^1 \frac{x^{2n+1}}{1+x^2}\,dx \le \int_0^1 x^{2n+1}\,dx = \frac{1}{2n+2}\]

(3) 항등식을 \([0,1]\)에서 정적분하면 좌변은 \(\left[\frac{1}{2}\ln(1+x^2)\right]_0^1=\frac{1}{2}\ln 2\)이고 우변은 \(\sum_{k=1}^{n}\frac{(-1)^{k-1}}{2k}+(-1)^n R_n\)이다. (2)에 의해 \(|(-1)^n R_n|\le \frac{1}{2n+2}\to 0\)이므로 조임정리에 의하여 \(\frac{1}{2}\sum_{k=1}^{\infty}\frac{(-1)^{k-1}}{k}=\frac{1}{2}\ln 2\), 따라서 양변에 \(2\)를 곱하면 합은 \(\ln 2\)이다.

(1) 한 모서리 길이는 \(3\sqrt{2}\)이고 \(\overrightarrow{AB}=(0,-3,3),\; \overrightarrow{AC}=(-3,0,3)\)에 동시에 수직인 법선벡터는 \(\vec{n}=(1,1,1)\)이다. 점 \(A(3,3,0)\)을 대입하면 평면 \(ABC\)는 \(x+y+z-6=0\)이고 원점까지의 거리는 \(\frac{|0-6|}{\sqrt{3}}=\mathbf{2\sqrt{3}}\)이다.

(2) \(n-1\)초에 \(O\)에 있으면 \(n\)초에는 반드시 \(\{A,B,C\}\)로 가고, \(\{A,B,C\}\)에 있으면(확률 \(1-p_{n-1}\)) 확률 \(\frac{1}{3}\)로 \(O\)에 온다. 따라서 \(p_n=\frac{1}{3}(1-p_{n-1})=-\frac{1}{3}p_{n-1}+\frac{1}{3}\)이고 \(p_0=1\)에서 \(p_n-\frac{1}{4}=-\frac{1}{3}\left(p_{n-1}-\frac{1}{4}\right)\)이므로 \[p_n=\frac{1}{4}+\frac{3}{4}\left(-\frac{1}{3}\right)^n, \qquad p_4=\frac{1}{4}+\frac{3}{4}\cdot\frac{1}{81}=\frac{7}{27}\]

(3) 신뢰도 \(95\%\) 모비율 신뢰구간의 길이는 \(2\times 1.96\sqrt{\frac{\hat{p}(1-\hat{p})}{N}}=0.06\times 1.96\)이므로 \(2\sqrt{\frac{0.36\times 0.64}{N}}=0.06\)이다. \(\frac{2\times 0.48}{\sqrt{N}}=0.06\)에서 \(\sqrt{N}=16\)이므로 표본크기는 \(N=256\)이다.