问题：如何从数据里估算普瓦松分布的均值？

晨枫

2 ^% N3 v1 S. \# U# X" A0 V
一般估算均值是简单的算术平均，但我的问题比较特别，其实都不是统计问题。

# T+ C( S6 o* V4 I  X; o2 Y是这样的，我有一个吸收塔，从塔顶到塔底有一个温度分布，形状大体像普瓦松分布：
/ u7 x( z7 M, |8 E1 _* v1 A; J


- V! N+ P4 s6 v& q* Q: o$ w; |9 R7 e我要估算峰值出现在哪块塔板，所以想到用统计的办法。实际上，统计里这是概率密度，曲线高低代表在这一点的采样“数量”，但我在每一个点只有一个数据点。说到底，我就是要拟合一个“钟形曲线”，然后找峰值所在点。相当于上图中红线（或者lambda=2）里横轴1-2之间的位置。

正态分布有现成的计算办法，但这样的“扭曲正态分布”或者普瓦松分布有什么简单办法吗？我需要能在DCS上实现，所以不能用太复杂的离线算法。
: I( a  c% q* `
8 {* u+ R% o3 a& j7 Y) [: C爱坛里博士多如狗，教授满地走，想象起来，或许有谁在工作中碰到过类似的问题？

晨枫

老马丁 发表于 2019-2-11 21:55
春节一直没来。现在来看到问题，这个问题是不是，prob(X=?|T=max(T))？实话实说，我没看太懂问题，我感觉不 ...

. |. p( d) u5 W1 P9 E
2 N4 r, `" m$ m- B! v: S9 r& W是的，已经解决。这个确实不是统计问题，是数值积分和重心估计问题。

老马丁

春节一直没来。现在来看到问题，这个问题是不是，prob(X=?|T=max(T))？实话实说，我没看太懂问题，我感觉不是统计问题，而是数值拟合问题。如果已经找到解决方案，就不用专门答复我啦

晨枫

数值分析 发表于 2019-2-4 19:01
对,我们可以管这个叫"晨择原理".这是这个讨论的出发点.

就像那个“哥德巴赫猜想”一样……

数值分析

holycow 发表于 2019-2-5 08:56
; S: ^/ u' C0 g- T# {你是对的，有影响的是分布的skewness. 所以归根结底还是晨司机在零度原点图上扫了一眼，觉得看上去像是泊 ...

对,我们可以管这个叫"晨择原理".这是这个讨论的出发点.

holycow

数值分析 发表于 2019-2-4 16:47
; S) Q: s  Q$ c如果是单峰分布的话,期望存在的话,期望和峰度Kurtosis(也就是你说的陡峭程度)无关,一定在峰值的地方.唯一 ...

* `+ E/ y# F# P& w9 a你是对的，有影响的是分布的skewness. 所以归根结底还是晨司机在零度原点图上扫了一眼，觉得看上去像是泊松分布

数值分析

Dracula 发表于 2019-2-5 03:43
* G4 F) p+ b- g' r问题就是这个0度在哪儿你并不知道。至于曲线下的面积必须是1这一点，只要各个点同乘或同除一个数就都可以 ...

嗯...这个问题其实有点像"人择原理",不好表达清楚.
8 c" F" ?+ ?% B+ i这一切讨论的开始都是晨司机觉得这个曲线像泊送分布曲线.只有这个"0度"的位置合适,温度曲线才长得像泊松分布.如果你上下平移一下,他就不像泊送分布了.我不知道我说明白了没有...

数值分析

tanis 发表于 2019-2-5 03:26
+ j- g; U6 q, @) Y0 \9 h# @" k冒昧的问一句，你搞过竞赛么~

思维方式挺像的~

我希望我搞过.可以当年没赶上机会.
% o7 l) ?0 u7 `4 P8 j
不谦虚一下啊,我一直觉得我要是搞竞赛的话能有点小成绩的...呵呵...

数值分析

! f: O) U" u0 R* l% L$ P: t* w% e

holycow 发表于 2019-2-5 02:42
) ?, k: w! s' j/ V! ?: t9 m- y1. 极值出在哪里，只要估计出lambda即可
3 D1 H$ j' \9 L; E0 g2. Lambda的估计需要依赖于归一
) @9 [' T2 S: Y4 R3 K9 @3. 归一的分母是可以主观确定的  ...

' x5 `1 Z, X9 A
如果是对称的单峰分布的话,期望存在的时候,期望和峰度Kurtosis(也就是你说的陡峭程度)无关,一定在众数Mode,即峰值的地方.唯一的例外是积分不收敛,即期望不存在(比如柯西分布,这时候没有重心).对于不对称的单峰分布,唯一能影响期望的是偏度Skewness.
! h% @& ^; {6 z0 }% D3 Q
这很直观,您再想想?

晨枫

木不铎 发表于 2019-2-4 15:31
不麻烦啊。查一下维基百科上关于“泊松分布”的页面嘛。
" n2 }2 J% Y0 r% a8 h) i  h
6 P! g" V+ q/ D# r& w: n! P0 }: G泊松分布的概率密度函数为

* k& Q* x- P/ \  N' E5 Z+ ?4 x谢谢。这和42楼“数值分析”的方法是一样的。

木不铎

不麻烦啊。查一下维基百科上关于“泊松分布”的页面嘛。
5 x4 s$ U0 \9 m! L8 k
( a0 g. ?9 ~5 d/ U. W9 u* A# _# G泊松分布的概率密度函数为
! `! x2 `0 d. D5 p4 W# E2 j1 V
其中λ是单位时间（或单位面积）内随机事件的平均发生率，k代表发生某类事件的次数。
这里有一个很好的例子如下：


# g' m6 O& o, m' q7 o, G

对某公共汽车站的客流做调查，统计了某天上午10:30到11:47来到候车的乘客情况。假定来到候车的乘客各批（每批可以是1人也可以是多人）是互相独立发生的。观察每20秒区间来到候车的乘客批次，共观察77分钟*3=231次，共得到230个观察记录。其中来到0批、1批、2批、3批、4批及4批以上的观察记录分别是100次、81次、34次、9次、6次。使用极大似真估计（MLE），得到 的估计为λ=（81*1+34*2+9*3+6*4）/231=0.8658。

/ I8 ]" \, b/ p3 ]. I/ u也就是说20秒之内平均有0.8658批客人。
+ {, R' D7 k" \2 B
; O' Z+ }( f! n  C) \这个例子应该和斯基的问题很类似。根据统计数字，用这个MLE方法，就能得到你的均值λ

Dracula

数值分析 发表于 2019-2-5 02:23
这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以 ...

& N& x* R* @" Q1 `+ L, x问题就是这个0度在哪儿你并不知道。至于曲线下的面积必须是1这一点，只要各个点同乘或同除一个数就都可以做到，这个条件并不能提供任何额外的约束来确定零度这个参数。

tanis

数值分析 发表于 2019-2-5 02:23
" ~% M2 x0 S: E这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以 ...

冒昧的问一句，你搞过竞赛么~
2 C" B- z$ K, ~# G5 P/ ]8 }
思维方式挺像的~

holycow

数值分析 发表于 2019-2-4 10:32
# |% Z6 U' Z  j+ @顺便说一下,如果是对称的单峰分布的话,就没有这个问题,随便上下平移,只要归一就可以. ...

9 I* K7 [" Y* F1. 极值出在哪里，只要估计出lambda即可
2. Lambda的估计需要依赖于归一
/ H, A- m+ A) A. D( _3. 归一的分母是可以主观确定的 (导致曲线下面积变动)
7 r8 H7 K$ E1 v1 C: y/ g8 |  T
就算是对称单峰分布，也要先解决这个峰的陡峭程度才知道这个峰在哪里，恰恰是峰的陡峭程度依赖于归一的分母...

数值分析

holycow 发表于 2019-2-5 02:15
伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观 ...

! ~; h9 l  c6 I3 v- ^* O8 V) X顺便说一下,如果是对称的单峰分布的话,就没有这个问题,随便上下平移,只要归一就可以.

数值分析

holycow 发表于 2019-2-5 02:15
伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观 ...

# F+ o: }0 _3 O这个答案很简单,因为用零度才像泊松分布,如果上下平移的话,重心还是存在的,只是和最高点不再重合.你可以试想一下把泊松分布加上一,然后重新归一,也能得一个新的分布,这个分布也有期望,但期望很可能就不是最高点了. 不过单峰分布,只要不是骨骼轻奇(偏度skewness特别大),基本上最高点和重心差不太远.

holycow

数值分析 发表于 2019-2-4 09:41
4 u, i. U/ w0 i- C) d0 p所以我和晨风说要归一么.用histogram 面积归一以后,没问题.这实际是个加权平均问题,加权平均要求所以权重 ...

& a3 f  \$ n8 N. z$ E6 o2 C& c伯爵的意思是说，总温度凭什么以零摄氏度做原点？如果零度不是原点，则和原点的相对温度差之和完全是主观确定的，就不能拿来当scaling的分母

晨枫

数值分析 发表于 2019-2-4 11:51
2 J: h% y- c, n3 ]9 K如果不灵就是你那个偏态曲线和博松分布曲线实际上并不像,即重心和最高点不重合.不过有的修.如果到那一步 ...

; r+ Z) r, ^% r. @4 {多谢！will report back!

晨枫

数值分析 发表于 2019-2-4 11:54
' H& j8 Z$ Z8 c3 H, {不过不管灵不灵,晨大可以帮我验证这样一个事儿,即把整个曲线平移n个单位,用同样的算法算完,结果应该是老 ...

我用“掐尾”正态分布已经试过了，不归一都精度不错。我再归一试试看！

Dracula

5 d+ c& \1 A3 ~( P  L

数值分析 发表于 2019-2-5 01:41
所以我和晨风说要归一么.用histogram 面积归一以后,没问题.这实际是个加权平均问题,加权平均要求所以权重 ...

2 s+ z( X6 c- A* k) Z
3 F- z8 `8 b) s4 O+ Y假设一个最简单的情况吧。只有两个点，y1和y2，y1<y2，如果你把零点设在y1, 那么y2的权重是1，y1的权重是0，只有第二个点的值决定结果。但是如果零点设在接近于负无穷，那么不管y1, y2的值是多少，都接近相当于两个点的权重都是0.5。零点的选择肯定是对结果有影响的。但是因为零点的选择是arbitrary的，这种情况不应该出现，因此我认为这个算法有问题。

数值分析

晨枫 发表于 2019-2-5 01:49
话说，如果选“爱坛最学术贴”，这个贴有没有希望当选？我肯定投一票！

多谢各位老大帮忙、指点。正在用 ...

不过不管灵不灵,晨大可以帮我验证这样一个事儿,即把整个曲线平移n个单位,用同样的算法算完,结果应该是老结果平移n个单位.这个不管是不是博松,只要面积归一一定都灵.