딥러닝 공부방

이번에 공부해볼 내용은 고유벡터와 선형변환의 관계입니다. 1. 선형 변환의 행렬 - The matrix of Linear Transformation V가 n-dimensional vector space이고 W는 m-dimensional vector space로 주어졌을 때 V와 W를 연결시켜주는 T linear transformation을 가정하겠습니다.. 그러면 B basis로 표현되는 x의 coordinate vector $[x]_B$와 C basis로 표현되는 T(x)의 coordinate vector $[T(x)]_C$를 연결시키는 행렬이 있는지에 대한 궁금증이 생깁니다. $[x]_B$와 $[T(x)]_C$ 사이의 연결은 쉽게 찾을 수 있습니다. V에 대한 basis B가 {$b_1, ... ,b..

이번 포스팅에서 공부할 내용은 대각화(Diagonalization)입니다. 1. 대각화(Diagonalization) 정사각행렬(square matrix) A가 대각 행렬(diagonal matrix)와 유사(similar)하면 A를 대각화가능(diagonalizable)하다고 합니다. 즉, A = PD$P^{-1}$ 일 때 A가 diagobalizable이라고 합니다. 예시 문제 1 diagonal matrix의 squre은 diagonal term의 squre입니다. 만약 A가 D와 similar하면 $A^k$를 쉽게 계산할 수 있습니다. 예시 문제 2 A가 diagonalizable할 때, $A^k$를 구하는 문제입니다. 2. 이론 4. 대각화 이론 - Theorem 4. The Diagonaliz..

이번 포스팅에서 특성 방정식(Characteristic equation)에 대해 알아보겠습니다. characteristic equation은 eigenvalue와 밀접한 관련이 있는 equation입니다. 저번 포스팅에서 공부했던 것을 복습하자면 주어진 A 행렬의 eigen value를 구할 때 (A - $\lambda$I)x = 0 을 이용합니다. A가 eigen value를 갖고 있으려면 Ax=0에서 nontrivial solution을 갖고 있어야 합니다. 이는 A가 not invertible을 의미하고 det(A) = 0이 되어야 합니다. 이를 통해 eigenvalue는 3,7 인것을 확인할 수 있습니다. 1. 특성 방정식 - The Characteristic Equation characteris..

이번 포스팅에서는 고유벡터와 고유값에 대해 알아보겠습니다. 고유값 - eigenvalue 고유벡터 - eigenvector 고유공간 - eigenspace 1. 고유값과 고유벡터의 기본 아이디어 행렬 A, u, v가 다음과 같이 주어졌을 때 곱셈 결과를 시각적으로 표현해 보겠습니다. Av의 결과는 동일한 line에 solution이 존재하도록 결과가 나왔습니다. 이것이 Eigenvalue와 Eigenvector의 기본 idea입니다. 2. 고유벡터 - Eigenvector 고유벡터를 정의하면 다음과 같습니다. Ax = $\lambda$x를 만족하는 nonzero vector x가 eigenvector입니다. 또한, Ax = $\lambda$x에서 x가 nontrivial solution이 존재할 때 sc..

이번 포스팅에서 공부할 내용은 다음과 같습니다. 크라메이 법칙 - Cramer's Rule 역행렬 공식 - Inverse formula 면적과 부피에서 행렬식 - Determinants as area and volumn 선형 변환 - Linear transformation 1. 크라메이 법칙 - Cramer's Rule Cramer's Rule을 사용하기 위해서는 새로운 정의가 필요합니다. A의 i th column을 b로 치환한 것을 $A_i(b)$로 표현하겠습니다. 2. 이론 7. 크라메이 법칙 - Theorem 7. Cramer's Rule A가 n x n 크기의 invertible 행렬일 때 Ax=b의 해는 다음과 같이 구할 수 있습니다. $A_i(b)$는 A행렬의 i th culumn을 b로 치..

이번 포스팅에서 배울 내용은 행 연산에 의한 행렬식 변화 - Determinant changes by row operations det $\neq$ 0 det $A^T$ = det A det AB = (det A)(det B) 입니다. 1. 이론 3. 행 연산 - Theorem 3. Row Operations a. A의 하나의 row 곱이 다른 row에 더해져 B 행렬이 만들어지면 det B = det A 입니다. 이는 row replacement를 의미합니다. b. B를 만드기 위해 A의 두개의 row가 interchange 됬으면 det B = -det A 입니다. c. A의 하나의 row에 k가 곱해져 B가 만들어졌으면 det B = k det A 입니다. scaling을 의미합니다. 이 세가지 성..

이번 포스팅에서 알아볼 내용은 행렬식 - determinant 여인수 - cofactor 여인수 전개 - cofactor expansion 입니다. 1. 2 x 2 Matirx 2장에서 배운 것을 복습하면 2 x 2 행렬에서의 determinant가 nonzero이면 invertible입니다. 2. 3 x 3 역행렬이 존재하는 행렬 - 3 x 3 invertible matrix 2 x 2 행렬의 determinant를 구하는 건 비교적 쉽습니다. 3 x 3 이상 행렬 부터는 determinant를 구하는 것이 복잡해집니다. determinant가 0이 아닌 것의 의미는 모든 row에 pivot이 존재한다는 의미입니다. 따라서 row reduction을 진행하고 모든 pivot이 nonzero임을 확인하면..

이번 포스팅에서 알아볼 내용은 차원과 계수(Dimension and Rank)입니다. 좌표계와 좌표벡터 - Coordinate system and coordinate vector 차원 - Dimension 계수 - Rank 에 대해 공부하고 정리해보았습니다. 1. 부분공간에서의 기저 - Basis for a Subpace 차원과 계수, 좌표계를 알아보기 전에 기저(basis)를 복습하겠습니다. basis는 independent set으로 표현되는 최소한의 vector를 의미합니다. u와 v는 independent 관계이며 Span{u,v}는 $R^3$공간에서 2차원 평면을 표현합니다. Span{u,v}뿐 아니라 Span{u,w}와 Span{v,w}도 basis가 될 수 있습니다. u와 w, v와 w는 i..

이번 포스팅에서는 $R^n$ 공간에서의 부분공간(Subspaces)과 기저 대해 공부하겠습니다. 공부할 내용은 다음과 같습니다. $R^n$ 공간에서의 부분공간 - Subspace of $R^n$ 열 공간 - column space 영 공간 - null space 부분공간에서의 기저 - basis for subspace 1. $R^n$ 공간에서의 부분공간 - Subspace of $R^n$ 부분 공간(subspace)를 H로 표현합니다. H가 위 세 가지 조건에 부합하면 부분 공간이라고 합니다. a. zero vector가 H set에 존재해야 합니다. b. H에 있는 임의의 벡터 u와 v를 더한 u + v이 H안에 있어야 합니다. c. H에 있는 임의의 벡터 u에 스칼라 c와 곱한 값 cu이 H안에 있어..

이번 포스팅에서는 LU 분해(LU deposition)에 대해 알아보겠습니다. LU분해는 실제 문제를 해결할때 유용하게 쓰이므로 공대생에게 매우 중요합니다. 1. 분해 - Factorization, decomposition 분해는 하나의 행렬을 두개 혹은 3개 이상의 행렬 곱으로 표현한 식을 의미합니다. A=BC A 행렬을 B와 C의 곱으로 표현했는데 이런 형태를 분해(factorization)이라고 합니다. 2. LU 분해 - LU decomposition 방정식을 푸는 방식은 크게 두 가지가 있습니다. (1) A의 역행렬을 이용 이 경우에 $A^{-1}b_1, A^{-1}b_2$ 모든 경우를 구해야 하므로 비효율적입니다. (2) LU 분해 행 줄임(row reduction)으로 A를 LU분해하여 방적..