반응형

수학 251

[선형대수학] 6.3 구속 최적화(Constrained Optimization)

David C.Lay 의 Linear algebra and its application를 공부하면서 정리해보았습니다. 감사합니다. 6.3 구속 최적화(Constrained Optimization) 구속 최적화는 이차 형식(Qudratic Form)에 제약 조건을 준것입니다. 이차 형식의 최대값과 최소값을 전체 영역에서 찾는 것이 아니라 제약조건 내에서 찾는 것입니다. 이차 형식에 다음과 같은 제약 조건을 줍니다. 이는 Q(x) = $x^TAx$에서 $x^Tx$=1 을 의미합니다. 예시 문제 이차 형식과 제약 조건이 주어지고 최대값과 최소값을 찾는 문제입니다. 이차 형식 제약 조건 $x^2_2$와 $x^2_3$은 nonnegative이므로 다음이 성립합니다. 따라서 다음과 같이 됩니다. $x^Tx$ = 1..

[선형대수학] 6.2 이차 형식(Quadratic Forms)

David C.Lay 의 Linear algebra and its application를 공부하면서 정리해보았습니다. 감사합니다. 오랜만에 올려보는 선형대수학 포스팅입니다. 이차 형식(Quadratic forms) 이차 형식(Quadratic form)은 다음과 같이 정의됩니다. A는 nxn 크기의 대칭 행렬(symmetric matrix)이고 이차 형식의 행렬(the matrix of the quadratic form)이라고 불립니다. 대칭 행렬의 특징은 이전 포스팅에서 공부했었습니다. 간단히 요약하면, 대칭 행렬을 P와 D로 분해하면 P의 column이 A의 eigen vector로 이루어져 있고, 각 vector는 서로 직교한다는 것이었습니다. 그리고 이를 직교 대각화 가능이라고 불렀습니다. 이차 ..

[확률론] 이산형 확률분포 - 초기하 분포

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 초기하 분포(Hypergeometric Distribution) m개 흰색 공, N - m개 검은색 공으로 구성된 N개의 공을 포함하고 있는 항아리에서 비복원 추출로 n개 공을 꺼낸다고 가정하겠습니다. 확률 변수 X는 흰색 공이 뽑힌 수로 정의합니다. 초기하 분포의 확률질량함수는 다음과 같습니다. 파라미터는 n: 샘플링 수, N: 공의 수, m: 흰색 공의 수 3가지를 갖습니다. 그리고 초기하 분포는 품질에서 불량이 몇개 인지 파악하기 위해 많이 쓰입니다. 초기하 분포의 파라미터 초기하 분포는 N, n, m 3가지 ..

수학/확률론 2021.02.14

[확률론] 이산형 확률분포 - 음이항 분포

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 음이항 분포(Negative Binomial Distribution) 음이항 분포는 기하 분포의 확장된 형태입니다. 성공 확률이 p인 베르누이 시행을 k번 성공할 때 까지 반복하여 발생하는 확률들의 패턴이 음이항 분포입니다. 확률 변수 X는 k번 성공을 하기 위해 시행하는 횟수로 정의됩니다. 확률질량함수는 다음과 같습니다. n-1번 시행까지 r-1번 성공, n-r번 실패가 발생하고 n번째에 성공하는 확률을 나타냅니다. 예시 5번째 시행에서 3번째 성공이 나타날 확률을 구하는 문제입니다. 5번째 시행에서 3번째 성공이..

수학/확률론 2021.02.13

[확률론] 이산형 확률분포 - 기하분포

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 기하 분포(Geometric Random Variable) 독립적인 베르누이 시행을 첫 번째로 성공할 때까지 시행하는 것입니다. 확률 변수 X는 첫 번째로 성공할 때까지 시행한 횟수 입니다. 확률 함수는 다음과 같이 정의됩니다. n-1번 실패하고 n번째 성공할 확률 입니다. 예를 들어, 5번 시행때 첫 성공이 발생했다면 확률질량함수는 다음과 같이 정의할 수 있습니다. P{X=5} = $(1-p)^4p$ 기하 분포는 파라미터 p를 지닌 기하 확률질량함수로부터 발생된 확률들의 분포입니다. 그리고 기하확률질량함수의 모든 ..

수학/확률론 2021.02.12

[확률론] 이산형 확률분포 - 포아송 분포

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 포아송 분포(Poisson distribution) 확률 변수 X가 이산형 값인 0,1,2,... 중 하나를 취할 때 파라미터 $\lambda$를 지닌 포아송 확률 변수라고 정의합니다. $\lambda$(람다) = np는 단위 시간 동안 특정 사건이 몇번 발생한 것인지를 나타냅니다. 단위 시간동안 사건의 평균 발생 회수로 이해하면 됩니다. 그리고 포아송 확률 변수에서 나온 실수를 확률로 변환해주는 확률질량함수는 다음과 같이 정의됩니다. 포아송 확률질량함수는 실수를 확률로 대응하는 함수이므로 모든 값을 더하면 1이 됩..

수학/확률론 2021.02.10

[확률론] 이산형 확률분포 - 이항분포

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 이항 분포(Binomial Distribution) 베르누이 실험을 한 번 한것을 베르누이 시행이라고 합니다. 이항 분포는 독립적인 베르누이 시행을 n번 한것 입니다. 독립적인 베르누이 시행이므로 첫 번째 시행은 두 번째 시행에 영향을 주지 않습니다. 확률 변수 X는 n번 시행에서 성공횟수로 정의합니다. 이항 분포의 확률질량함수(pmf)는 다음과 같습니다. 이항 분포는 이항확률함수로부터 나온 확률들의 패턴을 말합니다. 그리고 모수(parameter) n과 p를 갖고 있습니다. 그림을 보면 모수인 p와 n에 따라 분포..

수학/확률론 2021.02.08

[확률론] 이산형 확률분포 - 베르누이 분포

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 김성범 교수님 강의에서 6가지 이산형 확률분포를 다루고 있습니다. (1) 베르누이 분포 (2) 이항 분포 (3) 포아송 분포 (4) 기하 분포 (5) 음이항 분포 (6) 초기하 분포 순서대로 살펴보도록 하겠습니다. 우선 베르누이 분포입니다. 이산형 확률분포 - 베르누이 분포(Bernoulli Distribution) 두 개의 값만 갖는 확률 변수 X를 생각해보겠습니다. 1 = '성공' 0 = '실패' X는 위 두개의 값만 갖습니다. X = {0, 1} 이 경우에 X의 확률질량함수는 다음과 같이 정의할 수 있습니다. ..

수학/확률론 2021.02.07

[확률론] 분산과 표준편차

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 분산(Variance) 확률 변수 X가 주어졌을 때, X의 분포를 요약할 수 있는 모수가 있으면 편리할 것입니다. X의 분포를 요약하는 모수는 E[X] 기대값이 있습니다. 하지만 E[X]는 X의 가중 평균을 의미하기 때문에 편차, 흩어짐 등을 나타내지 않습니다. 예를 들어, 확률 변수 W, Y, Z가 다음과 같은 확률 질량 함수를 갖고 있다고 해보겠습니다. 이 세개의 확률 변수의 기대값은 0으로 동일합니다. 그리고 Y는 W보다 흩어짐이 크고, Z가 Y보다 흩어짐이 크다는 것을 생각해볼 수 있습니다. 확률 변수의 값이..

수학/확률론 2021.02.06

[확률론] 기댓값(Expectation)

고려대학교 김성범 교수님의 확률/통계 강의와 교재 'Sheldon Ross, A First Course in Probability (10th edition)' 를 공부하고 정리한 내용입니다. 기대값(Expected Value) 확률론에서 가장 중요한 개념중 하나는 확률 변수의 기대값입니다. 만약, X가 확률질량함수(pmf) p(x)를 지닌 이산 확률 변수이면, X의 기대값은 E[X]로 표현하고 다음과 같이 정의됩니다. 산술 평균과 기대값의 차이점은 p(x)에 있습니다. 산술 평균은 p(x)가 다 동일하고, 기대값은 가중 평균을 이용합니다. 각각의 X에 가중치인 p(x)를 적용하는 것입니다. 예시 문제 1 게임에서 이길 확률은 0.99 입니다. 만약 이기면 100원을 받고, 지면 100,000원을 잃습니다..

수학/확률론 2021.02.05
반응형