딥러닝 공부방

이번 포스팅에서 알아볼 내용은 행렬식 - determinant 여인수 - cofactor 여인수 전개 - cofactor expansion 입니다. 1. 2 x 2 Matirx 2장에서 배운 것을 복습하면 2 x 2 행렬에서의 determinant가 nonzero이면 invertible입니다. 2. 3 x 3 역행렬이 존재하는 행렬 - 3 x 3 invertible matrix 2 x 2 행렬의 determinant를 구하는 건 비교적 쉽습니다. 3 x 3 이상 행렬 부터는 determinant를 구하는 것이 복잡해집니다. determinant가 0이 아닌 것의 의미는 모든 row에 pivot이 존재한다는 의미입니다. 따라서 row reduction을 진행하고 모든 pivot이 nonzero임을 확인하면..

이번 포스팅에서 알아볼 내용은 차원과 계수(Dimension and Rank)입니다. 좌표계와 좌표벡터 - Coordinate system and coordinate vector 차원 - Dimension 계수 - Rank 에 대해 공부하고 정리해보았습니다. 1. 부분공간에서의 기저 - Basis for a Subpace 차원과 계수, 좌표계를 알아보기 전에 기저(basis)를 복습하겠습니다. basis는 independent set으로 표현되는 최소한의 vector를 의미합니다. u와 v는 independent 관계이며 Span{u,v}는 $R^3$공간에서 2차원 평면을 표현합니다. Span{u,v}뿐 아니라 Span{u,w}와 Span{v,w}도 basis가 될 수 있습니다. u와 w, v와 w는 i..

이번 포스팅에서는 $R^n$ 공간에서의 부분공간(Subspaces)과 기저 대해 공부하겠습니다. 공부할 내용은 다음과 같습니다. $R^n$ 공간에서의 부분공간 - Subspace of $R^n$ 열 공간 - column space 영 공간 - null space 부분공간에서의 기저 - basis for subspace 1. $R^n$ 공간에서의 부분공간 - Subspace of $R^n$ 부분 공간(subspace)를 H로 표현합니다. H가 위 세 가지 조건에 부합하면 부분 공간이라고 합니다. a. zero vector가 H set에 존재해야 합니다. b. H에 있는 임의의 벡터 u와 v를 더한 u + v이 H안에 있어야 합니다. c. H에 있는 임의의 벡터 u에 스칼라 c와 곱한 값 cu이 H안에 있어..

이번 포스팅에서는 LU 분해(LU deposition)에 대해 알아보겠습니다. LU분해는 실제 문제를 해결할때 유용하게 쓰이므로 공대생에게 매우 중요합니다. 1. 분해 - Factorization, decomposition 분해는 하나의 행렬을 두개 혹은 3개 이상의 행렬 곱으로 표현한 식을 의미합니다. A=BC A 행렬을 B와 C의 곱으로 표현했는데 이런 형태를 분해(factorization)이라고 합니다. 2. LU 분해 - LU decomposition 방정식을 푸는 방식은 크게 두 가지가 있습니다. (1) A의 역행렬을 이용 이 경우에 $A^{-1}b_1, A^{-1}b_2$ 모든 경우를 구해야 하므로 비효율적입니다. (2) LU 분해 행 줄임(row reduction)으로 A를 LU분해하여 방적..

이번 포스팅에서는 분할 행렬(Partitioned matrix) or 블록 행렬(Block matrix)에 대해 알아보겠습니다. 분할 행렬 or 블록 행렬 - Partitioned Matrix of Block Matrix 덧셈과 스칼라 곱 - Addition and Scalar Multiplication 분할 행렬의 곱 - Multiplication of Partitioned Matrix AB의 열-행 확장 - Column-row expansion of AB 분할 행렬의 역행렬 - Inverse of partitioned matrix 1. 분할 행렬 or 블록 행렬 - Partitioned Matrix or Block Matrix matrix가 주어졌을 때 임의로 row와 column을 나눕니다. 이를 ..

이번 포스팅에서는 역행렬이 존재하는 행렬의 특징에 대해 알아보겠습니다. 1. 이론 8. 역행렬 이론 - Theorem 8. The Invertible Matrix Theorem A가 invertible이면 위 조건을 다 만족하고 not invertible이면 위 조건을 만족하지 않습니다. Ax = 0은 trivialsolution만을 갖으므로 independent, n pivot position을 만족합니다. n개의 pivot position을 만족하므로 one-to-one도 성립하며 A는 solution이 있으므로 A는 R공간에 span하고, onto도 성립하게 됩니다. 2. 역선형 변환 - Invertible Linear Transformation linear Transformation이 invert..

이번 포스팅에서는 역행렬에 대해 알아보겠습니다. 역행렬이 존재하는 행렬 - Invertible Matrix 2x2 행렬에서의 결정자 (ad - bc) - determinant 기본 행렬 - Elementary matrix $A^{-1}$를 찾는 알고리즘 - Algorithm for Finding $A^{-1}$ 1. 숫자의 승수 역수 - Multiplicative Inverse of a Number 역행렬을 알아보기 전에 숫자의 승수 역수(multiplicative inverse of a number)를 살펴보겠습니다. 5의 역수는 1/5 입니다. 2. 역행렬이 존재하는 행렬 - Invertible Matrix invertible의 첫번째 조건은 row와 column의 size가 동일해야 합니다. 또한 ..

이번에 공부할 내용은 행렬 연산(Matrix Operations)입니다. 행렬 표기법 - Matrix Notation 행렬 덧셈 - Matrix Sum 스칼라 곱 - Scalar Multiple 행렬 곱 - Matrix Multiplication 행렬의 전치 - The transpose of a matrix 1. 행렬 표기법 - Matrix Notation A가 mxn 행렬이면 i번째 행, j번째 열에 있는 스칼라 항목은 $a_{ij}$로 표기합니다. 또한 A의 (i,j) 항목이라고 부릅니다. 2. 행렬 덧셈 - Matrix Sum 같은 사이즈 행렬 A와 B가 있으면 행렬 덧셈을 할 수 있습니다. 각각 모든 entry를 더하면 됩니다. 3. 스칼라 곱 - Scalar Multiple r 스칼라와 A 행렬..

저번 포스팅에서 모든 matrix transformation은 linear transformation이므로 T(u+v) = T(u) + T(v)와 cT(u) = T(cu) 두 가지 linear 성질을 만족한다는 것을 배웠습니다. 이번 포스팅에서 공부할 내용은 다음과 같습니다. 행렬 변환 - matrix transformation 표준 행렬 - standad matrix 선형 변환 - linear transformation onto one-to-one 1. 행렬 변환 결정 방법 - How to determine a matrix transformation Ax = T(x)에서 A를 모를 때 A가 어떤 요소로 이루어져있는지 알아보는 방법에 대해 공부하겠습니다. I는 항등 행렬(Identity matrix)를 ..

이번 포스팅에서는 선형 변환(Linear Transformation)에 대해 알아보겠습니다. 공부할 내용은 다음과 같습니다. 행렬 곱셈 - Matrix Multiplication 변환 - Transformation 행렬 변환 - matrix transforamtion 선형 변환 - linear transformation 1. 행렬 곱셈 - Matrix Multiplication x가 A vector에 의해 b가 되었습니다. u가 A vector에 의해 0이 되었습니다. A vector가 $R^4$ space에 있는 x vector를 $R^2$ space로 변환시켰습니다. 이를 변환(Transformation)이라고 합니다. 이처럼 변환(Transformation)은 행렬 곱셈(Matrix Multipli..