딥러닝 공부방

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 감마분포(Gamma Distribution) 감마분포는 지수분포의 일반화된 형태입니다. 두 개이상의 지수분포가 합쳐지면 감마분포가 됩니다. 확률 변수 X는 k개의 이벤트가 발생할 때까지 걸리는 시간으로 정의합니다. 그리고 시간과 관련되어 있으므로 항상 0보다 큰 값을 갖습니다. 감마분포의 확률밀도함수(pdf)는 다음과 같습니다. 모수(파라미터)는 람다와 알파를 지닙니다. 감마 확률밀도함수는 감마함수를 정의하여 사용합니다. 감마함수의 특성은 다음과 같습니다. 감마분포의 모수 모수는 확률분포의 모양을 결정하는 중요한 수..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 음이항 분포(Negative Binomial Distribution) 음이항 분포는 기하 분포의 확장된 형태입니다. 성공 확률이 p인 베르누이 시행을 k번 성공할 때 까지 반복하여 발생하는 확률들의 패턴이 음이항 분포입니다. 확률 변수 X는 k번 성공을 하기 위해 시행하는 횟수로 정의됩니다. 확률질량함수는 다음과 같습니다. n-1번 시행까지 r-1번 성공, n-r번 실패가 발생하고 n번째에 성공하는 확률을 나타냅니다. 예시 5번째 시행에서 3번째 성공이 나타날 확률을 구하는 문제입니다. 5번째 시행에서 3번째 성공이..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 기하 분포(Geometric Random Variable) 독립적인 베르누이 시행을 첫 번째로 성공할 때까지 시행하는 것입니다. 확률 변수 X는 첫 번째로 성공할 때까지 시행한 횟수 입니다. 확률 함수는 다음과 같이 정의됩니다. n-1번 실패하고 n번째 성공할 확률 입니다. 예를 들어, 5번 시행때 첫 성공이 발생했다면 확률질량함수는 다음과 같이 정의할 수 있습니다. P{X=5} = $(1-p)^4p$ 기하 분포는 파라미터 p를 지닌 기하 확률질량함수로부터 발생된 확률들의 분포입니다. 그리고 기하확률질량함수의 모든 ..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 이항 분포(Binomial Distribution) 베르누이 실험을 한 번 한것을 베르누이 시행이라고 합니다. 이항 분포는 독립적인 베르누이 시행을 n번 한것 입니다. 독립적인 베르누이 시행이므로 첫 번째 시행은 두 번째 시행에 영향을 주지 않습니다. 확률 변수 X는 n번 시행에서 성공횟수로 정의합니다. 이항 분포의 확률질량함수(pmf)는 다음과 같습니다. 이항 분포는 이항확률함수로부터 나온 확률들의 패턴을 말합니다. 그리고 모수(parameter) n과 p를 갖고 있습니다. 그림을 보면 모수인 p와 n에 따라 분포..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 김성범 교수님 강의에서 6가지 이산형 확률분포를 다루고 있습니다. (1) 베르누이 분포 (2) 이항 분포 (3) 포아송 분포 (4) 기하 분포 (5) 음이항 분포 (6) 초기하 분포 순서대로 살펴보도록 하겠습니다. 우선 베르누이 분포입니다. 이산형 확률분포 - 베르누이 분포(Bernoulli Distribution) 두 개의 값만 갖는 확률 변수 X를 생각해보겠습니다. 1 = '성공' 0 = '실패' X는 위 두개의 값만 갖습니다. X = {0, 1} 이 경우에 X의 확률질량함수는 다음과 같이 정의할 수 있습니다. ..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 분산(Variance) 확률 변수 X가 주어졌을 때, X의 분포를 요약할 수 있는 모수가 있으면 편리할 것입니다. X의 분포를 요약하는 모수는 E[X] 기대값이 있습니다. 하지만 E[X]는 X의 가중 평균을 의미하기 때문에 편차, 흩어짐 등을 나타내지 않습니다. 예를 들어, 확률 변수 W, Y, Z가 다음과 같은 확률 질량 함수를 갖고 있다고 해보겠습니다. 이 세개의 확률 변수의 기대값은 0으로 동일합니다. 그리고 Y는 W보다 흩어짐이 크고, Z가 Y보다 흩어짐이 크다는 것을 생각해볼 수 있습니다. 확률 변수의 값이..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 기대값(Expected Value) 확률론에서 가장 중요한 개념중 하나는 확률 변수의 기대값입니다. 만약, X가 확률질량함수(pmf) p(x)를 지닌 이산 확률 변수이면, X의 기대값은 E[X]로 표현하고 다음과 같이 정의됩니다. 산술 평균과 기대값의 차이점은 p(x)에 있습니다. 산술 평균은 p(x)가 다 동일하고, 기대값은 가중 평균을 이용합니다. 각각의 X에 가중치인 p(x)를 적용하는 것입니다. 예시 문제 1 게임에서 이길 확률은 0.99 입니다. 만약 이기면 100원을 받고, 지면 100,000원을 잃습니다..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 독립 사건(Independent Events) 이번 포스팅에서는 독립 사건에 대해 알아보도록 하겠습니다. 사건 A와 B가 독립이면 P(B l A) = P(B) 가 됩니다. 이것은 어떤 의미를 갖고 있을 까요?? 사건 A가 발생하던 말던 사건 B의 확률이 동일하다는 것을 의미합니다. 그리고 이를 사건 A와 B가 독립(independent)이라고 합니다. P(B l A) = P(B)에서 조건부확률을 교집합으로 표현해보도록 하겠습니다. P(B l A) = P(BA) / P(A) = P(B) 가 됩니다. 이를 정리하면 P(..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 김성범 교수님의 확률 강의는 정말 명강의라고 생각합니다! 확률론에 관심있으신 분은 유튜브 강의를 시청해보시는 것을 추천드리겠습니다. 베이즈 룰(Bayes' Rule) 베이즈 룰은 이전 포스팅에서 공부했던 조건부 확률을 응용한 문제입니다. 베이즈 룰이 무엇인지 알아보도록 하겠습니다. $A_1, A_2, A_3$을 표본 공간 S의 부분 집합이고, 이들은 상호 배타라고 해보겠습니다. 그리고 사건 B가 다음과 같다고 가정하겠습니다. 표본 공간 S를 3개의 상호 배타적 집합으로 나눈 것입니다. 이때 사건 B에 관심이 있을 때..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 조건부 확률(Conditional Probability) 조건부 확률은 확률인데 조건이 있는 확률입니다. 조건부 확률은 다음과 같이 표기하며, 사건 F가 발생했을 때, 사건 E가 발생할 확률로 해석할 수 있습니다. 그리고 P(E l F)에서 사건 F가 조건이 됩니다. 즉, 표본 공간에서의 확률 E가 아니라, 부분 공간 F에서 사건 E가 발생할 확률을 구하는 것입니다. 그리고 수식에서 조건 F가 분모로 가고 분자는 E와 F의 교집합이 됩니다. 조건부 확률을 활용하면 P(E)는 표본 공간 S에서 E가 발생할 확률이므로 ..