딥러닝 공부방

이 포스팅은 파이썬 알고리즘 인터뷰를 공부하면서 정리한 내용입니다. 출처 : 파이썬 알고리즘 인터뷰 빅오 빅오는 입력값이 무한대로 향할때 함수의 상한을 설명하는 수학적 표기 방법입니다. 빅오는 점근적 실행 시간(Asymptotic Running Time)을 표기할 때 가장 널리 쓰이는 수학적 표기법 중 하나입니다. 점근적 실행 시간이란 입력값 n이 커질 때, 즉 입력값이 무한대를 향할 때 함수의 실행 시간 추이를 의미합니다. 충분히 큰 입력에서는 알고리즘의 효율성에 따라 수행 시간이 크게 차이가 날 수 있습니다. 접근적 실행 시간은 달리 말하면 시간 복잡도라 할 수 있습니다. 시간 복잡도(Time Complexity)의 사전적 정의는 어떤 알고리즘을 수행하는 데 걸리는 시간을 설명하는 계산 복잡도(Com..

이번에 소개할 논문은 'YOLO9000: Betterm Faster, Stronger' 입니다. 논문에서는 YOLO v2와 YOLO9000을 소개하고 있습니다. YOLO v2는 YOLO v1을 개선한 버전이고, YOLO9000은 9000개의 카테고리를 탐지할 수 있도록 학습된 신경망입니다. YOLO9000는 classification dataset 'ImageNet'과 detection dataset 'COCO' 를 동시에 학습시켰습니다. 어떤 방법으로 학습을 시켰고, YOLO v1에서 어떤 점을 개선시켰는지 알아보도록 하겠습니다. 논문은 3가지 파트로 나뉘어져 있습니다. Better : YOLO v1에서 개선된 내용 Faster : YOLO v2의 신경망인 Darknet-19 Stronger : 900..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 분산(Variance) 확률 변수 X가 주어졌을 때, X의 분포를 요약할 수 있는 모수가 있으면 편리할 것입니다. X의 분포를 요약하는 모수는 E[X] 기대값이 있습니다. 하지만 E[X]는 X의 가중 평균을 의미하기 때문에 편차, 흩어짐 등을 나타내지 않습니다. 예를 들어, 확률 변수 W, Y, Z가 다음과 같은 확률 질량 함수를 갖고 있다고 해보겠습니다. 이 세개의 확률 변수의 기대값은 0으로 동일합니다. 그리고 Y는 W보다 흩어짐이 크고, Z가 Y보다 흩어짐이 크다는 것을 생각해볼 수 있습니다. 확률 변수의 값이..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 기대값(Expected Value) 확률론에서 가장 중요한 개념중 하나는 확률 변수의 기대값입니다. 만약, X가 확률질량함수(pmf) p(x)를 지닌 이산 확률 변수이면, X의 기대값은 E[X]로 표현하고 다음과 같이 정의됩니다. 산술 평균과 기대값의 차이점은 p(x)에 있습니다. 산술 평균은 p(x)가 다 동일하고, 기대값은 가중 평균을 이용합니다. 각각의 X에 가중치인 p(x)를 적용하는 것입니다. 예시 문제 1 게임에서 이길 확률은 0.99 입니다. 만약 이기면 100원을 받고, 지면 100,000원을 잃습니다..

이번에 리뷰할 논문은 'You Only Look Once: Unified, Real-Time Object Detection' 입니다. Deep Learning을 이용한 object detection 접근법은 크게 두 가지로 나눠볼 수 있습니다. Object Detection의 두 가지 접근법 1. 2-stage Detector 2-stage Detector은 특징 추출과 객체 분류, 두 가지 과정을 거쳐 객체를 탐지합니다. 특징 추출과 객체 분류라는 두 가지 문제를 순차적으로 해결하는 것입니다. 역할을 분담하여 문제를 처리하므로 정확도는 높지만, 속도가 느리다는 단점이 있습니다. 2-stage Detector에는 대표적으로 Fast R-CNN, OverFeat, DPM 등이 있습니다. 논문에서 2-sta..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 확률변수(Random Variable) 확률 변수는 확률과 통계에서 매우 중요한 개념입니다. 어떤 의미를 갖고 있는지 알아보도록 하겠습니다. 확률 변수는 표본 공간에 있는 모든 원소를 실수로 대응하는 함수입니다. 여기서, 표본 공간에 존재하는 모든 원소는 실험에서 나온 결과입니다. 그림으로 한번 살펴보겠습니다. 즉, 표본 공간에 있는 원소가 확률 변수라는 함수를 만나면 실수로 바뀌게 됩니다. 실수 = f(표본 공간의 원소) 이해를 돕기 위해 몇 가지 예시를 살펴보겠습니다. 예시 문제 1 3개의 동전을 던졌습니다. 동..

이 포스팅은 공부 목적으로 아래 게시물을 번역한 글입니다. How to implement a YOLO (v3) object detector from scratch in PyTorch: Part 3 Part 3 of the tutorial series on how to implement a YOLO v3 object detector from scratch in PyTorch. blog.paperspace.com yolo v3을 파이토치로 바닥부터 구현하는 튜토리얼의 part 5 입니다. 지난 part에서 신경망의 출력값을 detection predictions로 변환하는 함수를 구현했습니다. 이제 남은 것은 입 출력 pipelines를 생성하는 것입니다. 전체 코드는 여기에서 확인하실 수 있습니다. 이 튜..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 독립 사건(Independent Events) 이번 포스팅에서는 독립 사건에 대해 알아보도록 하겠습니다. 사건 A와 B가 독립이면 P(B l A) = P(B) 가 됩니다. 이것은 어떤 의미를 갖고 있을 까요?? 사건 A가 발생하던 말던 사건 B의 확률이 동일하다는 것을 의미합니다. 그리고 이를 사건 A와 B가 독립(independent)이라고 합니다. P(B l A) = P(B)에서 조건부확률을 교집합으로 표현해보도록 하겠습니다. P(B l A) = P(BA) / P(A) = P(B) 가 됩니다. 이를 정리하면 P(..

이 포스팅은 공부 목적으로 아래 게시물을 번역한 글입니다. How to implement a YOLO (v3) object detector from scratch in PyTorch: Part 3 Part 3 of the tutorial series on how to implement a YOLO v3 object detector from scratch in PyTorch. blog.paperspace.com 파이토치로 YOLO v3 detector를 구현하는 튜토리얼의 part 4 입니다. 지난 part에서 우리는 신경망의 순전파를 구현했습니다. 이번 part에서, detections를 object confidence로 threshold하고 non-maximum suppression을 할 것입니다. 이..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. Odds(아즈, 오즈) Odds는 사건 A가 발생하지 않을 경우 대비 발생할 확률을 의미합니다. Odds는 보통 도박에서 배당률을 결정할 때 이용하고 있습니다. 그리고 다음과 같이 정의 됩니다. 만약 사건 A의 성공 확률이 1일 경우 Odds는 무한대의 값을 갖게 됩니다. 성공 확률이 0일 경우 Odds는 0의 값을 갖습니다. Odds를 이용하여 문제를 풀어보도록 하겠습니다. 예시 문제 1 항아리에 A 동전 두개와 B 동전 하나가 들어있습니다. 동전 A를 던졌을 때, 앞면이 나올 확률은 1/4, 동전 B를 던졌을 때..