통계이야기 1
  통계이야기 2
  통계이야기 3
  통계이야기 4
  통계이야기 5
 
[평균] 중요한 공식 Jensen 부등식
중요한 공식 Jensen 부등식



Jensen 부등식은 다음과 같습니다.



g(x)가 concave(오목 함수)라 합시다. 그 대표적인 함수로는






를 들 수 있겠지요.

그러면 다음과 같은 부등식이 성립 합니다.








제법 끔직하게 보이는 부등식이죠. 그러나 생각보다 알기 쉽고 유용한 부등식입니다.
사실 상당수의 부등식이 이 jensen 부등식의 응용이나 변형에 불과 합니다.




일단 이산형 경우만 설명해 볼까요.( 일반적으로 연속형 증명은 이산형 증명에 극한을 취하는 형태이므로 이산형
증명으로 충분합니다.)




그림)





X가 a 와 b 두 값만 갖는 확률변수라 합시다. 그리고 a가 나올 확률을 λ1 , b가 나오는 확률을 λ2 라 합시다.

그러면 E[X]=a*λ1 + b*λ2 가 되지요. 가만 보니 이 점은 바로 구간 [a,b]안에 있는,
λ1,λ2를 가중치로 하는 내분점이 되지요. 그래서 g(E[X])는 그 내분점에서 함수값을 따라
올라간 점을 찾으면 됩니다.



반면에 E[g(X)]는 우선 g(a)와 g(b)를 함수 그래프에서 찾습니다. 그리고 그 두 점을 연결한 직선상에서 전과 똑같은 가중치
λ1,λ2을 가진 내분점을 찾으면 됩니다. 위 그래프에서 항상 E[g(X)]가 g(E[X]) 보다 크지요.




만약 g(X)가 convex(볼록 함수)이면 부등식만 바꾸면 됩니다.



X가 두 개의 값이 아닌 여러개의 값을 일반적인 경우도 마찬가지입니다. E[X]는 X의 가장 작은 값과 큰 값 구간 사이의 내분점이
됩니다. 물론 가중치는 확률분포에 있는 값이 되겠지요. 그러면 위와 똑같은 논리로 jensen 부등식을 입증해 보일 수 있습니다.




문제) 분산 Var[X]가 0 이상임을 증명하라. 여기서 g(x)는