Axioms of Probability
样本空间 & 事件
Sample Space ：随机现象中所有可能结果的集合。例如：
其中，例1，2，3 中样本空间为有限可数，例4中样本空间为无限可数，例5为无限不可数。
注：如果样本空间为可数 (countable) 的集合，可以使用离散的当时来描述；反之，如果样本空间为不可数（uncountable）集合，需要使用连续的方式来描述。
Event： 的任一子集。例如：
- An event occurs outcome the event (subset)
- Q: How many different events if #=n < ?
- :collections of all subsets in ,
- 对可数样本空间：
集合运算
集合运算法则
使用数学归纳法可证明
概率测度
概率测度是一个函数，将样本空间 的所有子集（所有事件）映射到 之间：
概率空间
- ：样本空间
- ：所有事件的集合，即 的所有子集
- ：映射方式
古典概率
- 样本空间 是一个有限 集合
- 概率：对事件A：
注： 表示集合的大小
这就是为什么组合分析的为什么如此重要了！！因为都是在计算某个集合中元素的个数。
注：在例二中， 分母为 ，因为每个人都有365种可能，为List结构；分子为 Permautation 结构，因为保证这 n 个人不重复，相当于从365中选取n个排列开表示每个人的生日。
古典概率的缺陷：
- 必须是有限可数集合，不然分母没法计算。
- 样本空间 内每一个outcome 出现的几率必须相同，即:
现代概率
抽象化：在数学中非常powerful的想法，一法通万法通。 现代概率论走的就是抽象路线，从所有的应用中抽离出来共同的性质来用公理来描述。 公理axiom: 1. 不证自明的事实；2.能被所有人接受的描述
A probability measure on is a function from subsets of to the real number (or ) that satisfies the following axioms:
- Non-negativity. For any event .
- Total one.
- Additivity. If is a sequence of mutually exclusive events, when , then
Note： 必须为可数个数的事件
Notes:
- 三条公理只对 probability 进行了限制，并没有定义其值，而在古典概率中，直接定义了P(A)等于多少。
- Probability是定义在事件上面，不是定义在outcome上。事件是样本空间的子集，而outcome是样本空间中的一个元素。
- 在第三条公理的帮助下，只需要知道每个outcome的概率值，便可计算得到任意事件的概率值。复杂度从 降为 （仅在离散概率情况下）
离散概率空间的概率定义
是否需要对样本空间内 2^\Omega 个事件都定义概率值？不需要！
假设 ，样本空间为有限或者可数无限大。令 满足：
此时，对样本空间内的任意一个事件A，由公理3可得：
注： 和 的不同， 是对样本点 的定义， 是在事件 上的定义； 其实就是概率质量函数；如果是连续概率空间，样本点就是不可数个，那么就涉及到不可数个数值相加的问题，所以连续和离散样本空间分开讨论。
怎么定义？根据实际问题来定义。
以下：例1为简单概率计算的case；例2为样本点概率不相同的情况下使用现代概率计算的case；例3为样本空间为无限可数情况下使用现代概率计算的case
小结：现代概率的处理方法：
- 先定义出样本点的概率值；
- 然后再使用可加性计算事件的概率。
3条公理的推理
推理1 & 证明
注：Ax3 表示公理3：可加性
推理2 & 证明
推理3 & 证明
推理4 & 证明
推理5 & 证明
推理6 & 证明
推理7 & 证明
推理8 & 证明
注： 为任意 个事件的交集的概率和
连续概率空间的概率定义
回想在离散概率空间中概率定义，是定义概率空间中每个元素，然后通过概率公理第三条，进而得到任意事件的概率。
在连续概率空间中，由无限不可数个元素，因此，不再能延用之前离散概率空间的计算方式。
但是整体的思路依旧是相同的，同样是将大事件的概率拆成小事件的概率，只不过在连续概率空间中，小事件是个区间而不像离散概率空间中小事件是概率空间的集合。
总结
Note:
- 古典概率和现代概率的区别与联系；
- 事件是样本空间的子集，因此涉及到了集合运算规则；
- 从主观和客观两种视角来看待概率论；
- 概率在离散和连续样本空间上的定义的区别。