问题：如何从数据里估算普瓦松分布的均值？

晨枫 · 发表于 2019-2-4 11:38:35

本帖最后由晨枫于 2019-2-3 22:42 编辑

一般估算均值是简单的算术平均，但我的问题比较特别，其实都不是统计问题。

是这样的，我有一个吸收塔，从塔顶到塔底有一个温度分布，形状大体像普瓦松分布：

我要估算峰值出现在哪块塔板，所以想到用统计的办法。实际上，统计里这是概率密度，曲线高低代表在这一点的采样“数量”，但我在每一个点只有一个数据点。说到底，我就是要拟合一个“钟形曲线”，然后找峰值所在点。相当于上图中红线（或者lambda=2）里横轴1-2之间的位置。

正态分布有现成的计算办法，但这样的“扭曲正态分布”或者普瓦松分布有什么简单办法吗？我需要能在DCS上实现，所以不能用太复杂的离线算法。

爱坛里博士多如狗，教授满地走，想象起来，或许有谁在工作中碰到过类似的问题？

晨枫 · 发表于 2019-2-12 13:45:31

老马丁发表于 2019-2-11 21:55* K7 B# l- j" Y6 q
春节一直没来。现在来看到问题，这个问题是不是，prob(X=?|T=max(T))？实话实说，我没看太懂问题，我感觉不 ...

是的，已经解决。这个确实不是统计问题，是数值积分和重心估计问题。

老马丁 · 发表于 2019-2-12 11:55:43

春节一直没来。现在来看到问题，这个问题是不是，prob(X=?|T=max(T))？实话实说，我没看太懂问题，我感觉不是统计问题，而是数值拟合问题。如果已经找到解决方案，就不用专门答复我啦

晨枫 · 发表于 2019-2-5 11:33:06

数值分析发表于 2019-2-4 19:01
7 H p( H( E8 `( `/ Z Q6 n, o对,我们可以管这个叫"晨择原理".这是这个讨论的出发点.

就像那个“哥德巴赫猜想”一样……

数值分析 · 发表于 2019-2-5 09:01:03

holycow 发表于 2019-2-5 08:56
3 P. R& f. s9 v& E你是对的，有影响的是分布的skewness. 所以归根结底还是晨司机在零度原点图上扫了一眼，觉得看上去像是泊 ...

对,我们可以管这个叫"晨择原理".这是这个讨论的出发点.

holycow · 发表于 2019-2-5 08:56:55

数值分析发表于 2019-2-4 16:47
, u( ?2 z& q7 s0 S如果是单峰分布的话,期望存在的话,期望和峰度Kurtosis(也就是你说的陡峭程度)无关,一定在峰值的地方.唯一 ...

你是对的，有影响的是分布的skewness. 所以归根结底还是晨司机在零度原点图上扫了一眼，觉得看上去像是泊松分布

数值分析 · 发表于 2019-2-5 08:54:08

Dracula 发表于 2019-2-5 03:43% S( S2 o5 L! P9 x4 o
问题就是这个0度在哪儿你并不知道。至于曲线下的面积必须是1这一点，只要各个点同乘或同除一个数就都可以 ...

嗯...这个问题其实有点像"人择原理",不好表达清楚.
这一切讨论的开始都是晨司机觉得这个曲线像泊送分布曲线.只有这个"0度"的位置合适,温度曲线才长得像泊松分布.如果你上下平移一下,他就不像泊送分布了.我不知道我说明白了没有...

数值分析 · 发表于 2019-2-5 08:49:26

tanis 发表于 2019-2-5 03:26
# l3 a0 ~9 O" L! e5 o$ q, z' U冒昧的问一句，你搞过竞赛么~
, Q. j; R) O, ^1 l% z! }! w, X0 W& l5 w$ L' m# [5 j
思维方式挺像的~

我希望我搞过.可以当年没赶上机会.

不谦虚一下啊,我一直觉得我要是搞竞赛的话能有点小成绩的...呵呵...

数值分析 · 发表于 2019-2-5 08:47:33

本帖最后由数值分析于 2019-2-5 09:07 编辑

holycow 发表于 2019-2-5 02:42& ` G3 U3 E" e2 I) E
1. 极值出在哪里，只要估计出lambda即可
, R0 A; \7 v4 O- C3 }2. Lambda的估计需要依赖于归一
# G# C; g2 m# T6 E% I) d$ n3. 归一的分母是可以主观确定的 ...

如果是对称的单峰分布的话,期望存在的时候,期望和峰度Kurtosis(也就是你说的陡峭程度)无关,一定在众数Mode,即峰值的地方.唯一的例外是积分不收敛,即期望不存在(比如柯西分布,这时候没有重心).对于不对称的单峰分布,唯一能影响期望的是偏度Skewness.

这很直观,您再想想?

晨枫 · 发表于 2019-2-5 05:49:33

木不铎发表于 2019-2-4 15:31
% R! L; n2 L+ b- O9 L4 x不麻烦啊。查一下维基百科上关于“泊松分布”的页面嘛。
% c* c" U" \' g, C# |- l. c+ g7 J8 \% U' F6 v2 b
泊松分布的概率密度函数为

谢谢。这和42楼“数值分析”的方法是一样的。

木不铎 · 发表于 2019-2-5 05:31:41

不麻烦啊。查一下维基百科上关于“泊松分布”的页面嘛。

泊松分布的概率密度函数为

其中λ是单位时间（或单位面积）内随机事件的平均发生率，k代表发生某类事件的次数。
这里有一个很好的例子如下：

对某公共汽车站的客流做调查，统计了某天上午10:30到11:47来到候车的乘客情况。假定来到候车的乘客各批（每批可以是1人也可以是多人）是互相独立发生的。观察每20秒区间来到候车的乘客批次，共观察77分钟*3=231次，共得到230个观察记录。其中来到0批、1批、2批、3批、4批及4批以上的观察记录分别是100次、81次、34次、9次、6次。使用极大似真估计（MLE），得到的估计为λ=（81*1+34*2+9*3+6*4）/231=0.8658。

也就是说20秒之内平均有0.8658批客人。

这个例子应该和斯基的问题很类似。根据统计数字，用这个MLE方法，就能得到你的均值λ

Dracula · 发表于 2019-2-5 03:43:07

数值分析发表于 2019-2-5 02:23. u6 G) N$ y2 W. N3 u
这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以 ...

问题就是这个0度在哪儿你并不知道。至于曲线下的面积必须是1这一点，只要各个点同乘或同除一个数就都可以做到，这个条件并不能提供任何额外的约束来确定零度这个参数。

tanis · 发表于 2019-2-5 03:26:54

数值分析发表于 2019-2-5 02:239 i4 X- P2 Q; |: O' T6 }
这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以 ...

冒昧的问一句，你搞过竞赛么~

思维方式挺像的~

holycow · 发表于 2019-2-5 02:42:48

数值分析发表于 2019-2-4 10:32
5 Z9 z# ~: X$ y3 S$ v/ l1 U顺便说一下,如果是对称的单峰分布的话,就没有这个问题,随便上下平移,只要归一就可以. ...

1. 极值出在哪里，只要估计出lambda即可
2. Lambda的估计需要依赖于归一
3. 归一的分母是可以主观确定的 (导致曲线下面积变动)

就算是对称单峰分布，也要先解决这个峰的陡峭程度才知道这个峰在哪里，恰恰是峰的陡峭程度依赖于归一的分母...

数值分析 · 发表于 2019-2-5 02:32:14

holycow 发表于 2019-2-5 02:15
# P6 J6 N' | ^1 F伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观 ...

顺便说一下,如果是对称的单峰分布的话,就没有这个问题,随便上下平移,只要归一就可以.

数值分析 · 发表于 2019-2-5 02:23:02

本帖最后由数值分析于 2019-2-5 02:25 编辑

holycow 发表于 2019-2-5 02:15
0 P5 A% L7 t6 B, B r伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观 ...

这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以试想一下把泊松分布加上一,然后重新归一,也能得一个新的分布,这个分布也有期望,但期望很可能就不是最高点了. 不过单峰分布,只要不是骨骼轻奇(偏度skewness特别大),基本上最高点和重心差不太远.

holycow · 发表于 2019-2-5 02:15:03

数值分析发表于 2019-2-4 09:41: c1 Y3 f# @1 ~' h
所以我和晨风说要归一么.用histogram 面积归一以后,没问题.这实际是个加权平均问题,加权平均要求所以权重 ...

伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观确定的，就不能拿来当scaling的分母

晨枫 · 发表于 2019-2-5 02:02:38

数值分析发表于 2019-2-4 11:51
9 y9 w2 {$ d c7 s( E8 B- M" i2 Y* K如果不灵就是你那个偏态曲线和博松分布曲线实际上并不像,即重心和最高点不重合.不过有的修.如果到那一步 ...

多谢！will report back!

晨枫 · 发表于 2019-2-5 02:01:54

数值分析发表于 2019-2-4 11:54; s) Q7 u+ @0 j V
不过不管灵不灵,晨大可以帮我验证这样一个事儿,即把整个曲线平移n个单位,用同样的算法算完,结果应该是老 ...

我用“掐尾”正态分布已经试过了，不归一都精度不错。我再归一试试看！

Dracula · 发表于 2019-2-5 02:00:18

本帖最后由 Dracula 于 2019-2-5 03:16 编辑

数值分析发表于 2019-2-5 01:41
! q; o" r' P& S* n9 D所以我和晨风说要归一么.用histogram 面积归一以后,没问题.这实际是个加权平均问题,加权平均要求所以权重 ...

假设一个最简单的情况吧。只有两个点，y1和y2，y1<y2，如果你把零点设在y1, 那么y2的权重是1，y1的权重是0，只有第二个点的值决定结果。但是如果零点设在接近于负无穷，那么不管y1, y2的值是多少，都接近相当于两个点的权重都是0.5。零点的选择肯定是对结果有影响的。但是因为零点的选择是arbitrary的，这种情况不应该出现，因此我认为这个算法有问题。

数值分析 · 发表于 2019-2-5 01:54:37

晨枫发表于 2019-2-5 01:493 Y1 M' D. l/ E7 T) }% {& [
话说，如果选“爱坛最学术贴”，这个贴有没有希望当选？我肯定投一票！& S8 y8 |1 V9 ]' x2 U1 Q# O
/ V# ^$ [; i3 X! l: j7 R! K2 n4 `1 u
多谢各位老大帮忙、指点。正在用 ...

不过不管灵不灵,晨大可以帮我验证这样一个事儿,即把整个曲线平移n个单位,用同样的算法算完,结果应该是老结果平移n个单位.这个不管是不是博松,只要面积归一一定都灵.

		自动登录	找回密码
密码			注册

[科研心得] 问题：如何从数据里估算普瓦松分布的均值？

点评