딥러닝 공부방

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 감마분포(Gamma Distribution) 감마분포는 지수분포의 일반화된 형태입니다. 두 개이상의 지수분포가 합쳐지면 감마분포가 됩니다. 확률 변수 X는 k개의 이벤트가 발생할 때까지 걸리는 시간으로 정의합니다. 그리고 시간과 관련되어 있으므로 항상 0보다 큰 값을 갖습니다. 감마분포의 확률밀도함수(pdf)는 다음과 같습니다. 모수(파라미터)는 람다와 알파를 지닙니다. 감마 확률밀도함수는 감마함수를 정의하여 사용합니다. 감마함수의 특성은 다음과 같습니다. 감마분포의 모수 모수는 확률분포의 모양을 결정하는 중요한 수..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 지수 분포(Exponential Distribution) 정규분포 다음으로 많이 쓰이는 지수분포입니다. 지수분포는 항상 시간을 떠올려야 합니다. 지수 분포는 이벤트 사이의 시간(이벤트 A와 이벤트 B 사이에 걸린 시간)을 모델링하는데 많이 이용합니다. 각 이벤트는 포아송분포에 의해서 생성됩니다. 지수 분포의 모수(parameter)는 람다($\lambda$) 입니다. 람다는 단위 시간동안 평균 이벤트 발생횟수를 의미합니다. 포아송 분포의 모수와 동일합니다. 포아송 분포와 지수 분포는 밀접한 관계가 존재합니다. 이 둘..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 정규 분포(Normal Distribution) 정규분포는 가우시안 분포(Gaussian Distribution)으로 부르기도 합니다. 확률 변수 X가 정규 확률 변수거나 정규 분포를 따를 때, 확률 밀도 함수(pdf)는 다음과 같습니다. 모수(parameter)는 $\mu$(평균), $\sigma^2$(분산) 입니다. 모수는 확률 분포의 모양을 결정하는 중요한 수입니다. $\mu$ = 0, $\sigma$ =1 일때, 정규 분포는 다음과 같습니다. 위 분포에서 모수가 바뀌게 되면 분포의 위치와 모양이 변경됩니다. ..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 일양 분포(Uniform Distribution) 일양 분포는 확률 변수 X가 구간 $\alpha, \beta$에서 균일한 확률을 지니고 있습니다. 확률 밀도 함수는 다음과 같이 정의합니다. 연속형 확률 분포의 총합(면적)은 1이 되어야 합니다. 구건 $\alpha, \beta$ 사이에 일정한 확률을 갖고, 면적이 1이 되야 하므로 확률은 1/($\beta - \alpha$가 됩니다. 일양 분포의 cdf는 세 가지 구간으로 나눠서 살펴볼 수 있습니다. 일양 분포의 기대값과 분산 기대값과 분산은 다음과 같이 정의합니다..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 초기하 분포(Hypergeometric Distribution) m개 흰색 공, N - m개 검은색 공으로 구성된 N개의 공을 포함하고 있는 항아리에서 비복원 추출로 n개 공을 꺼낸다고 가정하겠습니다. 확률 변수 X는 흰색 공이 뽑힌 수로 정의합니다. 초기하 분포의 확률질량함수는 다음과 같습니다. 파라미터는 n: 샘플링 수, N: 공의 수, m: 흰색 공의 수 3가지를 갖습니다. 그리고 초기하 분포는 품질에서 불량이 몇개 인지 파악하기 위해 많이 쓰입니다. 초기하 분포의 파라미터 초기하 분포는 N, n, m 3가지 ..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 음이항 분포(Negative Binomial Distribution) 음이항 분포는 기하 분포의 확장된 형태입니다. 성공 확률이 p인 베르누이 시행을 k번 성공할 때 까지 반복하여 발생하는 확률들의 패턴이 음이항 분포입니다. 확률 변수 X는 k번 성공을 하기 위해 시행하는 횟수로 정의됩니다. 확률질량함수는 다음과 같습니다. n-1번 시행까지 r-1번 성공, n-r번 실패가 발생하고 n번째에 성공하는 확률을 나타냅니다. 예시 5번째 시행에서 3번째 성공이 나타날 확률을 구하는 문제입니다. 5번째 시행에서 3번째 성공이..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 기하 분포(Geometric Random Variable) 독립적인 베르누이 시행을 첫 번째로 성공할 때까지 시행하는 것입니다. 확률 변수 X는 첫 번째로 성공할 때까지 시행한 횟수 입니다. 확률 함수는 다음과 같이 정의됩니다. n-1번 실패하고 n번째 성공할 확률 입니다. 예를 들어, 5번 시행때 첫 성공이 발생했다면 확률질량함수는 다음과 같이 정의할 수 있습니다. P{X=5} = $(1-p)^4p$ 기하 분포는 파라미터 p를 지닌 기하 확률질량함수로부터 발생된 확률들의 분포입니다. 그리고 기하확률질량함수의 모든 ..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 포아송 분포(Poisson distribution) 확률 변수 X가 이산형 값인 0,1,2,... 중 하나를 취할 때 파라미터 $\lambda$를 지닌 포아송 확률 변수라고 정의합니다. $\lambda$(람다) = np는 단위 시간 동안 특정 사건이 몇번 발생한 것인지를 나타냅니다. 단위 시간동안 사건의 평균 발생 회수로 이해하면 됩니다. 그리고 포아송 확률 변수에서 나온 실수를 확률로 변환해주는 확률질량함수는 다음과 같이 정의됩니다. 포아송 확률질량함수는 실수를 확률로 대응하는 함수이므로 모든 값을 더하면 1이 됩..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 이항 분포(Binomial Distribution) 베르누이 실험을 한 번 한것을 베르누이 시행이라고 합니다. 이항 분포는 독립적인 베르누이 시행을 n번 한것 입니다. 독립적인 베르누이 시행이므로 첫 번째 시행은 두 번째 시행에 영향을 주지 않습니다. 확률 변수 X는 n번 시행에서 성공횟수로 정의합니다. 이항 분포의 확률질량함수(pmf)는 다음과 같습니다. 이항 분포는 이항확률함수로부터 나온 확률들의 패턴을 말합니다. 그리고 모수(parameter) n과 p를 갖고 있습니다. 그림을 보면 모수인 p와 n에 따라 분포..

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 김성범 교수님 강의에서 6가지 이산형 확률분포를 다루고 있습니다. (1) 베르누이 분포 (2) 이항 분포 (3) 포아송 분포 (4) 기하 분포 (5) 음이항 분포 (6) 초기하 분포 순서대로 살펴보도록 하겠습니다. 우선 베르누이 분포입니다. 이산형 확률분포 - 베르누이 분포(Bernoulli Distribution) 두 개의 값만 갖는 확률 변수 X를 생각해보겠습니다. 1 = '성공' 0 = '실패' X는 위 두개의 값만 갖습니다. X = {0, 1} 이 경우에 X의 확률질량함수는 다음과 같이 정의할 수 있습니다. ..