问题：如何从数据里估算普瓦松分布的均值？

晨枫

一般估算均值是简单的算术平均，但我的问题比较特别，其实都不是统计问题。

; k7 V4 _- A9 T' o0 j是这样的，我有一个吸收塔，从塔顶到塔底有一个温度分布，形状大体像普瓦松分布：


) m' y- U  T) O/ y* Y. m: @
我要估算峰值出现在哪块塔板，所以想到用统计的办法。实际上，统计里这是概率密度，曲线高低代表在这一点的采样“数量”，但我在每一个点只有一个数据点。说到底，我就是要拟合一个“钟形曲线”，然后找峰值所在点。相当于上图中红线（或者lambda=2）里横轴1-2之间的位置。
$ F! S2 n3 }# h3 }9 O3 U7 y
正态分布有现成的计算办法，但这样的“扭曲正态分布”或者普瓦松分布有什么简单办法吗？我需要能在DCS上实现，所以不能用太复杂的离线算法。

3 J1 ^3 X) ^* R/ R8 l爱坛里博士多如狗，教授满地走，想象起来，或许有谁在工作中碰到过类似的问题？

晨枫

老马丁 发表于 2019-2-11 21:55
) J  U  y8 J3 B- y  E: X春节一直没来。现在来看到问题，这个问题是不是，prob(X=?|T=max(T))？实话实说，我没看太懂问题，我感觉不 ...

是的，已经解决。这个确实不是统计问题，是数值积分和重心估计问题。

老马丁

春节一直没来。现在来看到问题，这个问题是不是，prob(X=?|T=max(T))？实话实说，我没看太懂问题，我感觉不是统计问题，而是数值拟合问题。如果已经找到解决方案，就不用专门答复我啦

晨枫

数值分析 发表于 2019-2-4 19:01
对,我们可以管这个叫"晨择原理".这是这个讨论的出发点.

% w( A! m( T, R: J
9 d  R3 i8 G7 n& ^3 W# C6 N7 b- u就像那个“哥德巴赫猜想”一样……

数值分析

holycow 发表于 2019-2-5 08:56
1 q: f2 P! G" a/ r( G$ w你是对的，有影响的是分布的skewness. 所以归根结底还是晨司机在零度原点图上扫了一眼，觉得看上去像是泊 ...

对,我们可以管这个叫"晨择原理".这是这个讨论的出发点.

holycow

数值分析 发表于 2019-2-4 16:47
如果是单峰分布的话,期望存在的话,期望和峰度Kurtosis(也就是你说的陡峭程度)无关,一定在峰值的地方.唯一 ...

你是对的，有影响的是分布的skewness. 所以归根结底还是晨司机在零度原点图上扫了一眼，觉得看上去像是泊松分布

数值分析

Dracula 发表于 2019-2-5 03:43
2 ~4 j/ Y0 j$ E问题就是这个0度在哪儿你并不知道。至于曲线下的面积必须是1这一点，只要各个点同乘或同除一个数就都可以 ...

. a2 }/ R" r3 t4 u; E9 N嗯...这个问题其实有点像"人择原理",不好表达清楚.
' n- p5 w$ M3 T- p! \% I) W1 O这一切讨论的开始都是晨司机觉得这个曲线像泊送分布曲线.只有这个"0度"的位置合适,温度曲线才长得像泊松分布.如果你上下平移一下,他就不像泊送分布了.我不知道我说明白了没有...

数值分析

tanis 发表于 2019-2-5 03:26
* P  }! U( r& _冒昧的问一句，你搞过竞赛么~

- D) n" B6 C3 n思维方式挺像的~

; X1 v5 K7 a3 C3 e我希望我搞过.可以当年没赶上机会.
8 [& h9 D/ R" o
不谦虚一下啊,我一直觉得我要是搞竞赛的话能有点小成绩的...呵呵...

数值分析

  K1 H8 U5 y$ @# y% S4 P

holycow 发表于 2019-2-5 02:42
+ O( H7 H3 O# i8 o1 b1. 极值出在哪里，只要估计出lambda即可
2. Lambda的估计需要依赖于归一
3. 归一的分母是可以主观确定的  ...

7 s; `3 h# j. i7 j如果是对称的单峰分布的话,期望存在的时候,期望和峰度Kurtosis(也就是你说的陡峭程度)无关,一定在众数Mode,即峰值的地方.唯一的例外是积分不收敛,即期望不存在(比如柯西分布,这时候没有重心).对于不对称的单峰分布,唯一能影响期望的是偏度Skewness.

这很直观,您再想想?

晨枫

木不铎 发表于 2019-2-4 15:31
不麻烦啊。查一下维基百科上关于“泊松分布”的页面嘛。
6 S: u" S4 C  y: |$ U! x
5 m7 _6 S$ h9 S: ]5 _" e泊松分布的概率密度函数为

谢谢。这和42楼“数值分析”的方法是一样的。

木不铎

不麻烦啊。查一下维基百科上关于“泊松分布”的页面嘛。
" \" K( r; w% r& C1 Y/ C
泊松分布的概率密度函数为
: i7 X  d; N4 b  v
其中λ是单位时间（或单位面积）内随机事件的平均发生率，k代表发生某类事件的次数。
这里有一个很好的例子如下：


% E6 e8 X3 E: q% {9 L9 G9 a

对某公共汽车站的客流做调查，统计了某天上午10:30到11:47来到候车的乘客情况。假定来到候车的乘客各批（每批可以是1人也可以是多人）是互相独立发生的。观察每20秒区间来到候车的乘客批次，共观察77分钟*3=231次，共得到230个观察记录。其中来到0批、1批、2批、3批、4批及4批以上的观察记录分别是100次、81次、34次、9次、6次。使用极大似真估计（MLE），得到 的估计为λ=（81*1+34*2+9*3+6*4）/231=0.8658。

, |) p1 |- p, j& H1 ~* `3 z: a/ y; Y
也就是说20秒之内平均有0.8658批客人。

; `" N/ N8 C- Q这个例子应该和斯基的问题很类似。根据统计数字，用这个MLE方法，就能得到你的均值λ

Dracula

数值分析 发表于 2019-2-5 02:23
+ l$ q7 C) i: N% Z9 v+ I! P0 |这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以 ...

( r8 B; ]; a) s1 f问题就是这个0度在哪儿你并不知道。至于曲线下的面积必须是1这一点，只要各个点同乘或同除一个数就都可以做到，这个条件并不能提供任何额外的约束来确定零度这个参数。

) a) ^" C8 ]4 p& {( [( Z/ ~

tanis

数值分析 发表于 2019-2-5 02:23
+ V$ o+ M' [, J, k; M: ]; ~这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以 ...

冒昧的问一句，你搞过竞赛么~

2 n2 L8 S( S) j, B思维方式挺像的~

holycow

数值分析 发表于 2019-2-4 10:32
; F* Q2 r, o. q1 _+ Q" `+ x3 W顺便说一下,如果是对称的单峰分布的话,就没有这个问题,随便上下平移,只要归一就可以. ...

: ]& y5 j1 z, ~/ F- B7 i1. 极值出在哪里，只要估计出lambda即可
2. Lambda的估计需要依赖于归一
3. 归一的分母是可以主观确定的 (导致曲线下面积变动)

就算是对称单峰分布，也要先解决这个峰的陡峭程度才知道这个峰在哪里，恰恰是峰的陡峭程度依赖于归一的分母...

数值分析

holycow 发表于 2019-2-5 02:15
伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观 ...

顺便说一下,如果是对称的单峰分布的话,就没有这个问题,随便上下平移,只要归一就可以.

数值分析

$ b; K  j% L( J

holycow 发表于 2019-2-5 02:15
伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观 ...

' |8 o( M& _' \3 y' s3 v# j3 Z  E3 B" Z这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以试想一下把泊松分布加上一,然后重新归一,也能得一个新的分布,这个分布也有期望,但期望很可能就不是最高点了. 不过单峰分布,只要不是骨骼轻奇(偏度skewness特别大),基本上最高点和重心差不太远.

holycow

数值分析 发表于 2019-2-4 09:41
2 b, i8 j+ `% v1 P) Y( f/ n所以我和晨风说要归一么.用histogram 面积归一以后,没问题.这实际是个加权平均问题,加权平均要求所以权重 ...

) r( I+ P; Y* c伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观确定的，就不能拿来当scaling的分母

晨枫

数值分析 发表于 2019-2-4 11:51
2 B% d! H) Z( v8 `4 I如果不灵就是你那个偏态曲线和博松分布曲线实际上并不像,即重心和最高点不重合.不过有的修.如果到那一步 ...

多谢！will report back!

晨枫

数值分析 发表于 2019-2-4 11:54
不过不管灵不灵,晨大可以帮我验证这样一个事儿,即把整个曲线平移n个单位,用同样的算法算完,结果应该是老 ...

/ Y& [. _; a* s$ `1 ?我用“掐尾”正态分布已经试过了，不归一都精度不错。我再归一试试看！

Dracula

数值分析 发表于 2019-2-5 01:41
所以我和晨风说要归一么.用histogram 面积归一以后,没问题.这实际是个加权平均问题,加权平均要求所以权重 ...

. Q( O, I- @( l6 B0 b# p
, ]. R4 @2 S% L5 D% p3 t假设一个最简单的情况吧。只有两个点，y1和y2，y1<y2，如果你把零点设在y1, 那么y2的权重是1，y1的权重是0，只有第二个点的值决定结果。但是如果零点设在接近于负无穷，那么不管y1, y2的值是多少，都接近相当于两个点的权重都是0.5。零点的选择肯定是对结果有影响的。但是因为零点的选择是arbitrary的，这种情况不应该出现，因此我认为这个算法有问题。
  Z' c( x' I# q! t* i3 O
2 v, C/ g& h" B3 A, Q+ W
3 v' L$ O' K% I( s7 ^; r

数值分析

晨枫 发表于 2019-2-5 01:49
话说，如果选“爱坛最学术贴”，这个贴有没有希望当选？我肯定投一票！

8 B- M* P) F' V2 W" m多谢各位老大帮忙、指点。正在用 ...

* b+ W7 b( h# T/ T) V3 _. _不过不管灵不灵,晨大可以帮我验证这样一个事儿,即把整个曲线平移n个单位,用同样的算法算完,结果应该是老结果平移n个单位.这个不管是不是博松,只要面积归一一定都灵.