반응형

수학/기타 정리 8

[MML] Ch 2.4 벡터 공간(Vector Spaces)

Mathematics for Machine Learning를 공부하고 정리한 포스팅입니다. 2.4 벡터 공간(Vector Spaces) 지금까지 연립 밪엉식을 살펴보았고, 어떻게 푸는지를 알아보았습니다. 연립 방정식은 행렬로 간단히 표현할 수 있다는 것을 확인 했습니다. 이제, 벡터로 이루어지는 벡터 공간에 대해 살펴보겠습니다. 이 책 초반부에 벡터는 덧셈과 스칼라 곱이 가능한 객체로 특징지었습니다. 그리고 두 조건을 만족하면 동일한 객체로 간주했었습니다. 이제 이것을 공식화하고 벡터 집합의 요소와 이 요소들로 정의되는 연산을 살펴보겠습니다. 2.4.1 군(Groups) 군에 대한 내용이 나오는데 읽어봐도 잘 모르겠습니다. 2.4.2 벡터 공간(Vector Spaces) 벡터 공간은 두 벡터의 덧셈과 스..

[MML] ch 2.3 연립 방정식의 해(Solving Systems of Linear Equation) -2

Mathematics for Machine Learning를 공부하고 정리한 포스팅입니다. 2.3.2 기본 행 연산(Elementary Transformations) 연립 방정식을 풀기위한 핵심은 기본 행 연산(elementary transformation)입니다. 기본 행 연산은 정답을 변화시키지 않고 연립방정식을 간단한 형태로 변환합니다. 기본 행 연산에는 세 가지가 있습니다. (1) 두 행을 교환하기(행렬에서 행은 방정식을 나타냅니다. (2) 행에 상수를 곱하기 (3) 서로 다른 두 행을 더하기 행렬에 기본 행 연산을 거쳐서 행 사다리꼴(row-echelon form)으로 바꾸면 특이해와 일반해를 쉽게 구할 수 있습니다. 다음 예제를 통해 살펴보겠습니다. 위 연립 방정식을 첨가행렬(augmented..

[통계학] 최대 우도 추정법(Maximum Likelihood)

최대 우도 추정에 대해서 공부하다가 이해가 잘 되도록 쉽게 설명해주는 유튜브가 있어서 내용을 정리해봤습니다!! 출처 : www.youtube.com/watch?v=XepXtl9YKwc 예를 들어, 쥐들의 무게를 잰다고 가정해보겠습니다. 최대 우도의 목적은 데이터 분포를 맞추기 위한 최적의 방법을 찾는 것입니다. 다양한 데이터 타입에 대한 다양한 분포가 존재합니다. 정규분포, 지수분포, 감마분포 등등 여러 분포가 존재합니다. 데이터 분포를 맞추려고 하는 이유는 작업하기가 쉽고 더 일반적이기 때문입니다. 이 경우에 몸무게가 정규 분포를 따른다고 생각할 수 있습니다. 정규분포는 많은 것들을 의미합니다. 첫 번째로 대부분의 쥐 몸무게는 평균에 가깝습니다. 두 번째로 쥐 몸무게가 평균을 중심으로 대칭입니다. 관측..

[MML] ch 2.3 연립 방정식의 해(Solving Systems of Linear Equation) - 1

Mathematics for Machine Learning를 공부하고 정리한 포스팅입니다. 2.3 연립 방정식의 해(Solving Systems of Linear Equations) 다음과 같은 연립 방정식이 있습니다. $a_{ij}$는 실수, $b_i$는 상수, $x_j$는 미지수 입니다. 위 연립 방정식은 Ax=b로 간단히 표현할 수 있습니다. 이제 행렬 곱셈, 덧셈 과 같은 행렬 연산을 정의하고 위와 같은 연립 방정식을 푸는 방법과 역행렬을 찾는 방법을 알아보겠습니다. 2.3.1 특수해와 일반해(Particular and General Solution) 아래와 같은 연립 방정식을 어떻게 푸는지 알아보겠습니다. 2개의 방정식과 4개의 미지수로 이루어진 연립 방정식입니다. 방정식의 개수보다 미지수의 개..

[MML] ch 2.2 행렬(Matrices)

Mathematics for Machine Learning 원서를 정리한 포스팅입니다. 공부 목적으로 중요하다고 생각하는 부분만 요약했습니다. 2.2 Matrices(행렬) 행렬은 연립 방정식을 간단히 표현하기 위해 사용됩니다. 또한 선형 함수(linear mapping)을 표현합니다. (m, n)크기의 행렬입니다. m개의 행과 n개의 열로 이루어져 있습니다. $R^{mxn}$ 공간에 있는 행렬의 열을 쌓으면 $R^{nm}$ 공간에 있는 긴 벡터로 표현할 수 있습니다. 2.2.1 Matrix Addition and Multiplication(행렬 덧셈과 곱셈) (mxn) 동일한 크기의 두 행렬 A, B의 덧셈은 element-wise sum으로 정의됩니다. 행렬 곱셈은 element-wise operat..

[MML] 2.1 Systems of Linear Equations(연립 방정식)

Mathematics for Machine Learning 원서를 정리한 포스팅입니다. 공부 목적으로 중요하다고 생각하는 부분만 요약했으므로 많은 내용이 생략되었습니다. 2.1 연립 방정식(Systems of Linear Equations) 연립 방정식의 해는 no, exactly one, infinitely many solution을 갖습니다. 2차원 평면에서 연립 방정식의 해는 선, 점, empty를 얻습니다 3차원 평면에서 연립 방정식의 해는 평면(자유 변수가 3개), 직선(자유 변수 2개), 점(자유 변수 1개)를 갖습니다.

[MML] ch 2. 선형 대수학(Linear Algebra)

Mathematics for Machine Learning 원서를 번역한 포스팅입니다. 영어 독해가 많이 부족합니다. 공부 목적으로 번역을 한것이므로 정확한 번역이 아니라는 점을 말씀드리고 싶습니다. 2. Linear Algebra 직관적인 개념을 공식화할 때, 가장 흔한 접근법은 기호들과 이 기호들을 다루는 규칙을 만드는 것입니다. 이는 대수학(algebra)로 알려져 있습니다. 선형 대수학(Linear algebra)는 벡터와 벡터를 조작하는 방법에 대한 공부입니다. 이 책에서 벡터는 x, y 와 같이 굵은 글씨로 나타냅니다. 벡터는 더해지고 스칼라로 곱해져 또 다른 벡터를 만듭니다. 벡터 덧셈과 스칼라 곱, 두 성질을 만족하면 벡터로 고려됩니다. 벡터의 예시를 살펴보겠습니다. 1. 기하학적인 벡터(..

[PRML] 1장 소개

패턴인식과 머신러닝을 공부하고 내용을 정리한 포스팅입니다. 1. 소개 위 그림과 같은 손글씨로 쓰인 숫자를 인식하는 예시를 살펴보겠습니다. 각 숫자는 28 x 28 픽셀 이미지이며, 따라서 784개의 실수로 구성된 벡터로 표현될 수 있습니다. 이런 벡터 X를 입력값으로 받았을 때 숫자 0~9 중 하나의 값을 올바르게 출력하는 기계를 만드는 것입니다. 머신 러닝을 적용하면 좋은 결과를 얻을 수 있습니다. 머신 러닝 : N개의 숫자들 {$x_1, ... , x_N$}을 훈련 집합(training set)으로 활용해서 변경 가능한 모델의 매개변수들을 조절하는 방법 훈련 집합(training set) : 손글씨 숫자 데이터 N개, {$x_1, ... , x_N$} 표적 벡터(target vector) : 훈련 ..

반응형