概率空間

























概率空間是概率論的基礎。概率的嚴格定義基于這個概念。




目录






  • 1 定義


  • 2 離散模式


  • 3 一般模式


  • 4 例子


  • 5 相關概念


    • 5.1 隨机變量


    • 5.2 獨立


    • 5.3 互斥







定義


概率空間(Ω, F, P)是一個總測度為1的測度空間(即P(Ω)=1).


第一項Ω是一個非空集合,有時稱作“樣本空間”。Ω 的集合元素稱作“樣本輸出”,可寫作ω。


第二項F是樣本空間Ω的幂集的一個非空子集。F的集合元素稱為事件Σ。事件Σ是樣本空間Ω的子集。集合F必須是一個σ-代數:



  1. ΦF{displaystyle Phi {in }{mathcal {F}}}{displaystyle Phi {in }{mathcal {F}}}

  2. A∈F{displaystyle A{in }{mathcal {F}}}A{in }{mathcal  {F}},則F{displaystyle {bar {A}}{in }{mathcal {F}}}{bar  {A}}{in }{mathcal  {F}}

  3. An∈F{displaystyle A_{n}{in }{mathcal {F}}}A_{n}{in }{mathcal  {F}}n=1,2,...{displaystyle n=1,2,...}n=1,2,...,則n=1∞An∈F{displaystyle bigcup _{n=1}^{infty }A_{n}{in }{mathcal {F}}}bigcup _{{n=1}}^{{infty }}A_{n}{in }{mathcal  {F}}


(Ω, F)合起來稱為可测空間。事件就是樣本輸出的集合,在此集合上可定義其概率。


第三項P稱為概率,或者概率測度。這是一個從集合F到實數域R的函數,P:F↦R{displaystyle P:;F{mapsto }R}P:;F{mapsto }R。每個事件都被此函數賦予一個0和1之間的概率值


概率測度經常以黑体表示,例如P{displaystyle mathbb {P} }{mathbb  P}Q{displaystyle mathbb {Q} }mathbb {Q} ,也可用符號"Pr"來表示。



離散模式


離散機率理論僅需要可數集的樣本空間 Ω{displaystyle Omega }Omega 。 機率指的是由機率質量函數p:Ω[0,1]{displaystyle p:Omega to [0,1]}{displaystyle p:Omega to [0,1]}求得Ω{displaystyle Omega }Omega 上的使得ωΩp(ω)=1{displaystyle textstyle sum _{omega in Omega }p(omega )=1}{displaystyle textstyle sum _{omega in Omega }p(omega )=1}的點。Ω{displaystyle Omega }Omega 全部的子集合可視為隨機事件(也就是F=2Ω{displaystyle {mathcal {F}}=2^{Omega }}{displaystyle {mathcal {F}}=2^{Omega }}為冪集)。機率測度可簡寫為



(∗)P(A)=∑ωAp(ω)for all A⊆Ω{displaystyle (*)qquad P(A)=sum _{omega in A}p(omega )quad {text{for all }}Asubseteq Omega }

{displaystyle (*)qquad P(A)=sum _{omega in A}p(omega )quad {text{for all }}Asubseteq Omega }

使用σ-代數F=2Ω{displaystyle {mathcal {F}}=2^{Omega }}{displaystyle {mathcal {F}}=2^{Omega }}能夠完整描述樣本空間。一般來說,σ-代數相當於一個有限或可數的集合劃分Ω=B1∪B2∪{displaystyle Omega =B_{1}cup B_{2}cup dots }{displaystyle Omega =B_{1}cup B_{2}cup dots },事件A的一般型A∈F{displaystyle Ain {mathcal {F}}}{displaystyle Ain {mathcal {F}}}A=Bk1∪Bk2∪{displaystyle A=B_{k_{1}}cup B_{k_{2}}cup dots }{displaystyle A=B_{k_{1}}cup B_{k_{2}}cup dots }


p(ω)=0{displaystyle p(omega )=0}{displaystyle p(omega )=0}是被定義允許的情況但極少使用,因為如此的ω{displaystyle omega }omega 可以安全的從樣本空間中移除。



一般模式


如果Ω不可數,存在某些ω使得p(ω) ≠ 0 的情況仍然存在,那些ω稱為原子。他們大部分都是可數的集合(有可能為空集合)
,其可能性為所有原子機率的和。如果這個和等於1,那麼其他的點可以安全地從樣本空間中移除,回歸離散模式。反之,如果和少與1(有可能為零)那麼機率空間分解成為離散(原子)部分(可能為零),以及非原子部分。



例子


若樣本空間是關于一個机會均等的拋硬幣動作,則樣本輸出為“正面”或“反面”。事件為:



  • {正面},其概率為0.5。

  • {反面},其概率為0.5。

  • { }= 非正非反,其概率為0.

  • {正面,反面},不是正面就是反面,這是Ω,其概率為1。



相關概念



隨机變量


隨机變量是一個從Ω映射到另一個集合(通常是實數域R)的函數。 它必須是一個可测函數。比如說,若X是一個實隨机變量,則使X為正的樣本輸出的集合{ω∈Ω:X(ω)>0}是一個事件。


為簡便起見,{ω∈Ω:X(ω)>0}經常只寫作{X>0}。P({X>0})更被簡化為P(X>0)。



獨立


P(AB)=P(A)P(B),則AB兩個事件是独立的。


若任何与隨机變量X有關的事件和任何与隨机變量Y有關的事件獨立,則XY兩個隨机變量是獨立的。


獨立這個概念是概率論和測度論分道扬镳的地方。



互斥


P(AB)=0,则稱AB兩個事件互斥或不相交(這個性質要比AB=弱一些,后者是集合不相交的定義)。


若兩個事件AB不相交,則P(AB)=P(A)+P(B)。這個性質可以擴展到由(有限個或者可數無限個)事件組成的事件序列。 但不可數無限個事件組成的事件集合對應的概率与集合元素對應概率之和未必相等,例如若Z是正態分佈的隨机變量,則對任意xP(Z=x)=0,但是P(Z是實數)=1。


事件AB的意思是A并且B;事件AB的意思是A或者B.







Comments

Popular posts from this blog

Monte Carlo

Information security

章鱼与海女图