딥러닝 공부방

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 분산(Variance) 확률 변수 X가 주어졌을 때, X의 분포를 요약할 수 있는 모수가 있으면 편리할 것입니다. X의 분포를 요약하는 모수는 E[X] 기대값이 있습니다. 하지만 E[X]는 X의 가중 평균을 의미하기 때문에 편차, 흩어짐 등을 나타내지 않습니다. 예를 들어, 확률 변수 W, Y, Z가 다음과 같은 확률 질량 함수를 갖고 있다고 해보겠습니다. 이 세개의 확률 변수의 기대값은 0으로 동일합니다. 그리고 Y는 W보다 흩어짐이 크고, Z가 Y보다 흩어짐이 크다는 것을 생각해볼 수 있습니다. 확률 변수의 값이..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 기대값(Expected Value) 확률론에서 가장 중요한 개념중 하나는 확률 변수의 기대값입니다. 만약, X가 확률질량함수(pmf) p(x)를 지닌 이산 확률 변수이면, X의 기대값은 E[X]로 표현하고 다음과 같이 정의됩니다. 산술 평균과 기대값의 차이점은 p(x)에 있습니다. 산술 평균은 p(x)가 다 동일하고, 기대값은 가중 평균을 이용합니다. 각각의 X에 가중치인 p(x)를 적용하는 것입니다. 예시 문제 1 게임에서 이길 확률은 0.99 입니다. 만약 이기면 100원을 받고, 지면 100,000원을 잃습니다..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 확률변수(Random Variable) 확률 변수는 확률과 통계에서 매우 중요한 개념입니다. 어떤 의미를 갖고 있는지 알아보도록 하겠습니다. 확률 변수는 표본 공간에 있는 모든 원소를 실수로 대응하는 함수입니다. 여기서, 표본 공간에 존재하는 모든 원소는 실험에서 나온 결과입니다. 그림으로 한번 살펴보겠습니다. 즉, 표본 공간에 있는 원소가 확률 변수라는 함수를 만나면 실수로 바뀌게 됩니다. 실수 = f(표본 공간의 원소) 이해를 돕기 위해 몇 가지 예시를 살펴보겠습니다. 예시 문제 1 3개의 동전을 던졌습니다. 동..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 독립 사건(Independent Events) 이번 포스팅에서는 독립 사건에 대해 알아보도록 하겠습니다. 사건 A와 B가 독립이면 P(B l A) = P(B) 가 됩니다. 이것은 어떤 의미를 갖고 있을 까요?? 사건 A가 발생하던 말던 사건 B의 확률이 동일하다는 것을 의미합니다. 그리고 이를 사건 A와 B가 독립(independent)이라고 합니다. P(B l A) = P(B)에서 조건부확률을 교집합으로 표현해보도록 하겠습니다. P(B l A) = P(BA) / P(A) = P(B) 가 됩니다. 이를 정리하면 P(..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. Odds(아즈, 오즈) Odds는 사건 A가 발생하지 않을 경우 대비 발생할 확률을 의미합니다. Odds는 보통 도박에서 배당률을 결정할 때 이용하고 있습니다. 그리고 다음과 같이 정의 됩니다. 만약 사건 A의 성공 확률이 1일 경우 Odds는 무한대의 값을 갖게 됩니다. 성공 확률이 0일 경우 Odds는 0의 값을 갖습니다. Odds를 이용하여 문제를 풀어보도록 하겠습니다. 예시 문제 1 항아리에 A 동전 두개와 B 동전 하나가 들어있습니다. 동전 A를 던졌을 때, 앞면이 나올 확률은 1/4, 동전 B를 던졌을 때..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 김성범 교수님의 확률 강의는 정말 명강의라고 생각합니다! 확률론에 관심있으신 분은 유튜브 강의를 시청해보시는 것을 추천드리겠습니다. 베이즈 룰(Bayes' Rule) 베이즈 룰은 이전 포스팅에서 공부했던 조건부 확률을 응용한 문제입니다. 베이즈 룰이 무엇인지 알아보도록 하겠습니다. $A_1, A_2, A_3$을 표본 공간 S의 부분 집합이고, 이들은 상호 배타라고 해보겠습니다. 그리고 사건 B가 다음과 같다고 가정하겠습니다. 표본 공간 S를 3개의 상호 배타적 집합으로 나눈 것입니다. 이때 사건 B에 관심이 있을 때..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 조건부 확률(Conditional Probability) 조건부 확률은 확률인데 조건이 있는 확률입니다. 조건부 확률은 다음과 같이 표기하며, 사건 F가 발생했을 때, 사건 E가 발생할 확률로 해석할 수 있습니다. 그리고 P(E l F)에서 사건 F가 조건이 됩니다. 즉, 표본 공간에서의 확률 E가 아니라, 부분 공간 F에서 사건 E가 발생할 확률을 구하는 것입니다. 그리고 수식에서 조건 F가 분모로 가고 분자는 E와 F의 교집합이 됩니다. 조건부 확률을 활용하면 P(E)는 표본 공간 S에서 E가 발생할 확률이므로 ..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 확률의 공리(Axioms of Probability) 공리는 정해진 사실을 의미합니다. 이론은 증명을 해야하는데 공리는 정해진 사실이므로 증명할 필요가 없습니다. 그러면 확률의 공리에 대해 알아보도록 하겠습니다. 사건 E에 대한 확률은 P(E)로 표기하고 다음과 같이 정의하겠습니다. P(E)는 다음의 공리를 만족합니다. 공리(1) P(E)는 0과 1사이 입니다. 공리 (2) 표본 공간의 확률은 1입니다. 공리 (3) 만약 사건 $E_1, E_2, ... $가 상호 배타($E_i \cap E_j = \phi$)이면 다..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 집합 연산(Set Operation) 집합의 세 가지 연산에 대해 알아보도록 하겠습니다. 1. 교집합(intersection) 표본 공간에서 두 사건 E와 F에 대하여 새로운 사건 EF를 정의하고, 이를 E와 F의 교집합이라고 부르겠습니다. 즉, EF(E$\cap$F)는 사건 E와 F가 동시에 발생하는 것을 의미합니다. 예를 들어, 동전을 두 번 던질 때 사건 E는 적어도 1번 이상 앞면이 나올 사건(E = {(h,h), (h,t), (t,h)})이고, 사건 F는 적어도 1번 이상 뒷면이 나올 사건(F = {(t,t..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 이번 포스팅에서는 표본 공간(Sample space)와 사건(Event), 실험(Experiment) 용어를 살펴보도록 하겠습니다. 표본 공간과 사건(Sample Space and Events) 표본 공간(Sample Space): 실험으로 나온 모든 결과를 담고 있는 집합입니다. 실험(Experiment): 데이터 집합을 생성하는 과정입니다. 사건(Event): 표본 공간의 부분집합 입니다. 표본 공간에는 두 종류가 있습니다. 이산형 표본 공간(Distcrete Sample Space): 이산형 데이터를 담고 있는..