这是一个创建于 3408 天前的主题，其中的信息可能已经有所发展或是发生改变。
我有一批数据，简单来说就是客户端上报的 crash 记录的时间。
现在需要评估这些时间的离散程度，毕竟如果扎堆 crash 的话就说明出事情了。
数学没学深入，找不到合适的算法。现在比较挫的做法是没小时（分钟）聚合数据，看看哪个时间段发生的 crash 数量是否占了大多数（30%+）。
 |
1
Comdex 2015-07-27 12:40:58 +08:00  2
计算标准差离散系数，方差或协方差？
|
 |
3
Xs0ul 2015-07-27 13:01:13 +08:00 1
lz 现在的方法遇到了什么问题？或者说需求是什么？
1、如果需要一个实时预警（比如数据不断更新，发现大量用户crash，需要提醒），根据以往的数据设定一个绝对的阈值可能比较合适； 2、如果只是分析以往的数据，我觉得lz 可能需要可视化的工具，比如画个折线图。 |
 |
5
BUPTGuo 2015-07-27 13:11:39 +08:00 1
霍普金斯统计量，当时看聚类评估的时候，有书上提到用这个量来判断数据的随机程度，判断是否有聚类趋势
|
 |
6
theoractice 2015-07-27 13:19:22 +08:00
使命召唤里判断机枪枪管是否过热的算法用在这里挺合适的。具体不解释了，玩过的都知道
|
 |
7
ca1123 2015-07-27 13:23:00 +08:00 2
我来个土鳖思路
你定个时间间隔T 对于这个间隔: 连续测量/记录时间间隔内的crash事件的发生数量 用全部历史数据训练一个泊松分布出来 之后每一个新的测量都和这个泊松统计比较 看看这么多crash是什么概率的事件 如果crash数量多到是个小概率时间(你定的概率 5% 3% 1% 0.1% 都可以) 就说明你摊上大事了 |
|
8
ca1123 2015-07-27 13:25:15 +08:00
但是你的时间间隔T得足够长 使得通常这个间隔内有至少40次crash 不然泊松分布训练不出来
|
 |
11
iyaozhen OP @theoractice 解释下呗，玩过一会儿就没玩了。
|
|
12
ca1123 2015-07-27 13:34:17 +08:00 1
@iyaozhen 你弄个散热模型比如指数衰减散热 每打一发 增加50度 超过500度报警 没crash就冷下来了 不停crash温度就上去了 然后就该报警了
|
|
13
ca1123 2015-07-27 13:35:10 +08:00
或者牛顿冷却定律也可以
|
|
14
iyaozhen OP |
|
15
ca1123 2015-07-27 13:49:51 +08:00 via iPhone 1
@iyaozhen 这哥们提的和我说的可以互相转化 他的温度就是我的小概率 统计学的东西基本就是那么回事
|
|
17
ca1123 2015-07-27 14:18:17 +08:00 via iPhone
@iyaozhen 哪里困扰呢？你的普通crash是符合泊松分布的 你现在不就是想知道什么时候泊松分布失效么（摊上大事了） 就是过热的时候 或者出现小概率情况
|
|
18
iyaozhen OP @ca1123 时间窗口设置的问题。我是计算一天的泊松分布还是某个小时的？
一天的肯定不行，计算某个小时的话是可以看出今天的某个小时是否符合泊松分布（是否异常），这应该是可以的。 但是我目前的需求并不关心今天的 crash 是否和之前相比是否异常，更多的是需要看看今天的 crash 是否在某个时间段扎堆。（我是统计某个端的所有数据，端上某个时间扎堆 crash 的话可能是那个时刻 server 端出了问题。crash 是举个例子） |
|
19
ca1123 2015-07-27 16:37:46 +08:00 1
@iyaozhen 时间窗口越小越好 越小越接近"时刻"的概念 这个里面有个trade-off的地方 你选择的时间窗口越长 统计模型越准确 报警时越是应该实际的警报 但是你的时间分辨率就不行了 最好的情况是你的试验频率足够高(namely 使用的人足够多) 这样可以同时满足时间分辨率和报警精度 经验的说 时间窗口内有大约40个events就能满足要求了
另外 俗话说叫"扎堆" 用数学语言描述就叫和模型的背离程度 而你的模型怎么来的? 当然是经验来的, 这个经验可能是你自己的(就像我说的你自己训练一个泊松分布) 或者别人的经验 (你想象的 直接判定是否扎堆) 就算是别人的经验 也需要你的全局情况 不定义一般就定义不了特殊 另外的话 要注意你的events可能有潮汐 比如白天人多一些 晚上人少一些 这就要求你进一步修正模型 要把异常events 用使用频率来normalize一下 不然很可能系统没故障 只是用得人多了 正常导致故障events多了 你却产生了系统故障的错觉 |
|
20
iyaozhen OP @ca1123 非常感谢，我再研究研究。我也是突然想用数学（统计学）的一些东西来分析目前的数据，希望更科学一点，少一些拍脑门的、想当然的统计方法。
|
 |
23
hsyu53 2015-07-28 07:47:15 +08:00 via Android
咋一看，感觉是方差；仔细一看，感觉应该是对时间做一次微分
|
Select Language