4 母関数 
f-denshi.com  最終更新日:11/06/18

1.積率母関数

[1] 確率統計の計算では,E(X2)に限らず,

E(Xn) ≡μn

が繰り返し現れる(n=正整数)。これをn次の積率(またはモーメント)と呼ぶ。特に,

μ1≡μ (確率変数Xの平均値)

である。また,XをX−μに置きかえた,

 αn=E((X−μ)n)=
(X−μ)nP(X=x)   [離散変数]
(X−μ)nf(x)dx    [連続変数]

平均値μのまわりのn次の積率(n次のモーメント)という。1次から4次までを書き下すと,

α1=E(X−μ)=0
α2=E((X−μ)2)=σ2         [分散]
α3=E((X−μ)3)
  =E(X3)−3μE(X2)+2μ3     [歪度]
  =μ3−3μ1μ2+2μ13

 α4=E((X−μ)4)
  =E(X4)−4μE(X3)+6μ2E(X2)−3μ4 [尖度]
  =μ4−4μ1μ3+6μ12μ2−3μ14

となるが,これらは統計分布の特徴を捉えるために用いられる。歪度,尖度については統計分析のところで述べる⇒[#]。また,上に示した公式の途中計算は単純だが,だいぶ省いているので紙と鉛筆が必要(計算は演習)。その代わりこのような計算を見通しよく行なったり,重要な定理の証明で用いられる母関数について紹介する。

[2] 確率変数Xに対して,次のような積率母関数 (モーメント母関数)を定義する。

定義  積率母関数

  M(t)≡E(etX)

etxf(x) ,f(x)=P(X=x)  [離散変数]
etxf(x)dx          [連続変数]

ただし,

etX≡1+ 1 tX+ 1 (tX)2 1 (tX)3+・・・・
1! 2! 3!
M(t) は確率変数(の記号)をはっきり示したいときは MX(t),MY(t) などとも書く。

と定義する。この関数をtに関して微分し,t=0とおけば,1次の項だけが残り,

M'(0)=E(X)=μ (期待値)

一般に,r 回微分して,t=0とおけば,

M(r)(0)=E(Xr)

である。すると,積率母関数は,

M(t)=1+ t E(X)+ t2 E(X2)+ t3 E(X3)+・・・・
1! 2! 3!

と展開できることもわかる。

[3] 次に積率母関数を用いて分散を表わしてみたい。それは平均値μ,分散σ2との関係,E(X)=μ,E(X2)=σ2+μ2 [#]に注意すれば,

σ2=E(X2)−E(X)2
  =M"(0)−M'(0)2

であることがわかる。

[4] ここまでの話からも積率母関数がいろいろと役に立ちそうなことが推測できるが,次の関係,命題はその有用性を決定付ける。

命題

確率変数,X1,X2,・・・,Xn が互いに独立であるならば,

Y=X1+X2+・・・+Xn

の積率母関数は,

MY(t)=MX1(t)MX2(t)・・・MXn(t)   ←独立な確率変数に対して

で与えられる。ただし,MXi(t)は確率変数 Xi の積率母関数である。

この証明は独立な確率変数X,Yについての公式,E(XY)=E(X)E(Y) [#]を用いることで,

MY(t)=E(etY)
   =E(et(X1+X2+・・・+Xn))
   =E(etX1etX2・・・etXn)
   =E(etX1)E(etX2)・・・E(etXn)
   =MX1(t)MX2(t)・・・MXn(t) 

と計算できることからわかる。

[5] もう一つ証明抜きで以下の定理を紹介しておく。

定理

確率変数XとYの積率母関数がt=0近傍で一致すれば,対応する分布関数は等しい。

この定理は確率分布の代わりに積率母関数で議論することの正当性を保障する。また,積率母関数は分布によってはtの範囲が制限されたり,存在しないこともあるが,複素関数へ拡張した特性関数E(eitX)は必ず存在する。特性関数についてはApendixにまわす。

[6] 場合によっては積率母関数の対数をとって議論した方が見通しよく計算を進めることができるが,次のような名前が付けられている。

定義  キュムラント母関数

KX(t) = log MX(t)

これもここでは名前だけの紹介にとどめておく。

[7] 最後に積率母関数は多次元分布に対する拡張版を示す。

2次元確率変数X,Yの積率母関数は,

M(s,t)=E(exp(sX+tY))

と定義する。このとき,

2M s=t=0 =E(XY)
∂x∂y

である。 確認は各自にまかせる。(2次元正規分布の話のところで用いる。)


.確率母関数

確率母関数

[1] 離散的な確率関数に対して,

φ(t)=φX(t) =E(tX)= P(x)tx

確率母関数と定義する。これをtで微分して,

xP(x)tx-1
dt

ここで,t=1として,確率変数Xの期待値が求まる。

t=1 xP(x) =E(X)   (Xの平均値)
dt

確率母関数を2階微分すると,

d2φ x(x−1)P(x)tx-2
dt2

t=1として,

d2φ t=1 x(x−1)P(x) =E(X(X−1))
dt2

        =E(X2)−E(X)  (X(X−1) の平均値 )

[2] 分散は,E(X)=φ'(1)に注意して,

E(X2)−E(X)2=φ"(1)+φ'(1)−{φ'(1)}2

一般に,確率母関数φ(t)をr回微分してt=1とおくことで,

φ(r)(1)=E(X(X−1)・・・(X-r+1))

これを階乗モーメントという。



.2項分布

[1] 実につまらない例として,2項分布の平均値,分散を積率母関数を用いて計算することとしよう。

n回コインを投げて,表がk回出る確率を考える。コインの表が出る確率は2分の1と考えるのが普通であるが,ここでは一般性をもたせた議論とするためにその確率をpとする。そのとき,裏が出る確率を q=1−p とおくと,求めるべき確率は組み合わせ数nCkを用いて[#]

nCk pkqn-k

で与えられる。

これは次のような2項展開を考えたときの第k番目の項に相当する。 ←0番目から数えて

(p+q)n nCk pkqn-k
      =nC0p0qn+・・・+nCkpkqn-k+・・・nCnpnq0

そのため,P(k)=Binn,p(k)=nCk pkqn-k を2項分布という名称で呼ぶ。

確率としての規格化条件を満たしていることは,ほぼ自明であるが,

P(k) = nCk pkqn-k= (p+q)n = 1  

と確かめられる。

[2]

[2項分布Bin(n,p)の定義]

事象Aが起こる確率がpである試行をn回繰り返したとき,事象Aがk回起こる確率P(k)をkの関数とみなした(確率)関数,

P(k)=Binn,p(k)≡nCk pkqn-k

を2項分布という。この分布について,

期待値  np
分散   np(1−p)=npq
である。ただし,q=1−p

証明 

定義にしたがって,表が出る回数の期待値を求めると,

E(k) = kP(k)
   = kn! pkqn-k  kn! pkqn-k
(n−k)!k! (n−k)!k!
   =np (n−1)! pk-1q(n-1)-(k-1)
((n-1)−(k-1))!(k−1)!
        ↓ r=k-1とおいて
   =np (n−1)! prq(n-1)-r
((n-1)−r)!r!
   =np (p+q)n-1
   =np

[3] 次に分散だが,まず,k(k-1)の期待値を求めると,

E(k(k−1)) = k(k−1)P(k)= k(k−1)P(k)
   k(k−1) n! pkqn-k
k!(n−k)!
  =n(n−1)p2 (n−2)! pk-2q(n-2)-(k-2)
(k−2)!((n-2)−(k-2))!
  =n(n−1)p2(p+q)n-2
  =n(n−1)p2

一方,

E(k(k−1)) =E(k2)−E(k)=E(k2)−np

したがって,分散は

V(k)=E(k2)−E(k)2
  =(n(n−1)p2+np)−(np)2
  =np(-p+1)
  =npq

[4] 別解1 積率母関数を用いる方法

別の方法として,積率母関数を経由して期待値,分散を求める。まず,積率母関数は,

Mk(t)= etknCk pkqn-k  
  = nCk (etp)kqn-k  
  =(pet+q)n

となる。したがって,

E(k)=Mk’(0)
  =n(pe0+q)n-1・pe0=np
E(k2)=Mk”(0)
  =np{(n-1)p(pe0+q)n-2+(pe0+q)n-1e0}
  =np{(np−p+1}
  =n2p2+np(1−p)

∴ V(k)=E(k2)−E(k)2
    =np(1−p)=npq

[5] 別解2  確率母関数を用いる方法

確率母関数を計算すると,

φ(x)= xknCk pkqn-k  
   = (px+q)n 

したがって,

φ’(x)=np (px+q)n-1     
E(k)=φ’(1)
  =np

φ”(x)=n(n−1)p2 (px+q)n-2     
∴ φ”(1)=n(n−1)p2
V(k)=φ”(1)+φ’(1)−φ’(1)2
  =n(n−1)p2+np−n2p2
  =np(1−p)=npq

母関数のありがたみはイマイチだったが,どのように役立てるべきかは理解できたかと想う m^_^m。

[目次]