딥러닝 공부방

David C.Lay 의 Linear algebra and its application를 공부하면서 정리해보았습니다. 감사합니다. 드디어 5장의 마지막 부분인 최소자승법(Least-Squares Problems)에 대해 공부해 보겠습니다! 선형대수학 공부를 처음 시작할 때 언제 다 할 수 있을까라는 막막했는데, 꾸준히 해나가니까 끝이 보이네요ㅎㅎ 항상 꾸준히 하는것이 중요한 것 같습니다. Ax=b 문제를 풀 때 해가 없는 경우가 대부분입니다. 현실의 문제에는 여러가지 오차가 포함되어 있기 때문입니다. 이런 경우 b와 제일 근접한 x를 찾게됩니다. 이때 이용하는 방법이 최소자승법 입니다. 1. 최소자승법의 해(Least-Squares Solution) b-Ax를 가장 작게하는 x가 $\hat{x}$이며, ..

여인권 교수님의 KMOOC 강의 를 수강하면서 공부한 내용을 정리해보았습니다. 단순선형회귀모형에서의 모수 추정 설명변수가 하나인 회귀모형에서 관측값과 회귀선과의 거리를 어떻게 표시하는지 알아보겠습니다. 최소제곱법을 이용한 회귀모수를 추정하는 방법을 알아보겠습니다. 1. 단순선형회귀모형 - Simple Linear Regression Model 단순선형회귀모형은 설명변수가 하나인 선형회귀모형을 의미합니다. 회귀모형 중에서 가장 간단한 형태입니다. $x_i$를 소문자로 쓴 이유는 상수로 가정하기 때문입니다. 또한 $Y_i$ ~ iidN(0,$\sigma^2$)를 가정합니다. $\epsilon$은 오차(error)를 의미하며 모형에서 설명이 안되는 부분입니다. 설명변수(x)는 조절 가능한 상수로 가정합니다. ..

(통계학-기본개념과 원리, 여인권)을 바탕으로 제작하였습니다. (k-mooc 통계학의 이해2, 여인권)을 수강하면서 공부한 내용을 정리해보았습니다. 점추정량 구하는 방법과 좋은 점추정량이 가져야할 성질에 대해서 알아보겠습니다. 1. 점추정 점추정은 미지의 모수를 표본의 어떤 함수(통계량, statistic)를 이용하여 어떤 값으로 추정하는 과정입니다. 세가지 추정방법이 있습니다. (1) 적률법(method of moments) (2) 최대가능도추정법(maximum likelihood estimation) (3) 최소제곱법(least squares estimation) 여기서는 (1)과 (2)만 알아보도록 하겠습니다. (3)은 나중에 회귀분석을 공부할 때 알아보겠습니다. 2. 적률법 - method of ..