基于时间序列异常检测分析的方法 Method of Anomaly Detection and Analysis Based on Time Series

doi:10.12677/ORF.2023.131016

Operations Research and Fuzziology
Vol. 13 No. 01 ( 2023 ), Article ID: 61155 , 6 pages
10.12677/ORF.2023.131016

基于时间序列异常检测分析的方法

瞿杏元¹，曹忠虔²

●How to Cite this Article

¹四川建筑职业技术学院数学教研室，四川德阳

²华为技术有限公司成都研究所，四川成都

收稿日期：2022年11月11日；录用日期：2023年2月2日；发布日期：2023年2月9日

摘要

不依赖于模型，基于累计变化量来实现异常点的检测，而无法检测出成片的异常点，并且很容易把正常点视为异常点，为了解决上述方法中所存在的问题，本文在所给方法的基础上重新定义了累计变化量，引入了推移算子，异常类型指示变量和异常惩罚量，并定义了两类异常类型，一种叫做高位异常，一种叫做低位异常，然后重新定义了异常点模型，引入了然后用2004年到2009年的沪市股票数据来进行数值实验，并对结果进行了对比证明了本文所给方法的有效性。

关键词

异常检测，异常点，高位异常，低位异常，时间序列

Method of Anomaly Detection and Analysis Based on Time Series

Xingyuan Qu¹, Zhongqian Cao²

¹Sichuan College of Architectural Technology, Deyang Sichuan

²Chengdu Research Institute of Huawei Technologies Co., Ltd, Chengdu Sichuan

Received: Nov. 11^th, 2022; accepted: Feb. 2^nd, 2023; published: Feb. 9^th, 2023

ABSTRACT

About not dependent on the model and is relatively simple and easy to implement about the methods of the time series anomaly detection, but it can not detected a piece of outliers, and it is easy to make normal points as outliers. In order to solve the problems, on the basis of the method given, this paper redefines the cumulative change and introduces the transition operator, one indicator variable and unusual punishment are introduced in this paper and two exception types are defined, one is called the high anomaly, another is called the low abnormal. The effectiveness of the method given in this article is proved by using the data from Shanghai Stock Market between 2004 and 2009 be proved through numerical experiments. The results are compared to prove the effectiveness of the method presented in this paper.

Keywords:Anomaly Detection, Outlier, High Anomaly, Low Anomaly, Time Series

This work is licensed under the Creative Commons Attribution International License (CC BY 4.0).

http://creativecommons.org/licenses/by/4.0/

1. 引言

在异常检测研究领域，经过了20多年的发展，已经产生了很多有效的方法，如统计学方法 [1] ，基于密度的方法，基于距离的方法。以上都是针对无序序列的异常点检测，由于时间序列的最重要一个特征就是具有时间属性，序列值之间必须按照时间先后顺序进行严格的排序，因此上面介绍的方法都不适合用于时间序列。目前针对时间序列中异常检测的方法主要有生物学方法 [2] ，机器学习的方法 [3] [4] ，基于小波的方法 [5] [6] ，基于AR模型的方法 [7] 等。虽然在对时间序列异常检测研究领域里已经产生很多种方法，但是这些方法还不是很成熟。并且目前对于时间序列异常点检测的方法大都需要在预先知道所给数据满足哪一种时间序列模型的基础上针对相应的模型来进行异常点检测，但是在一般情况下很难知道数据到底满足哪一种时间序列模型，而且，一些针对时间序列异常检测的方法很复杂不太容易实现，比如基于贝叶斯方法的异常检测，理论看起来很复杂，不仅需要抽样还要经过反复的迭代。

通过前面对时间序列异常检测的研究，结合文献 [8] 中的异常点检测方法给出了一种改进的模型，为了解决文献 [8] 中的模型不能检测出成片的异常点还有把正常点误以为是异常点的情况，在文中定义两种异常形式，一种叫做高位异常，一种叫做低位异常，并引入一个表示异常类型的示性变量和惩罚函数，最后借助计算机将模型应用于生活中实际数据。

2. 基础知识

定义1：设 ${ε_{t}}$ 是 $W N (0, σ^{2})$ ，且实系数多项式 $A (z)$ 和 $B (z)$ 没有公共根，满足以下所给的条件

$b_{0} = 1, a_{p} b_{q} \neq 0$

$A (z) = 1 - \sum_{j = 1}^{p} a_{j} z^{j} \neq 0, | z | \leq 1$

$B (z) = \sum_{j = 0}^{q} b_{j} z^{j} \neq 0, | z | < 1,$

那么我们就把下面的差分方程

$X_{t} = \sum_{j = 1}^{p} a_{j} X_{t - j} + \sum_{j = 0}^{q} b_{j} ε_{t - j}, t \in Z$

称为自回归滑动平均模型，简称为 $ARMA (p, q)$ 模型。

定义2：给出一时间序列， $X = (x_{1} = (v_{1}, t_{1}), x_{2} = (v_{2}, t_{2}), \dots, x_{n} = (v_{n}, t_{n}))$ 点 $x_{t_{i}} = (v_{t_{i}}, t_{i})$ 表示时间序列在 $t_{i}$ 时刻的观测值为 $v_{t_{i}}$ 。用 $(N_{1}, N_{2}, \dots, N_{k})$ 表示点 $x_{t_{i}}$ 的k个邻居点集合，其观测值集合记为 $(v_{N_{1}}, v_{N_{2}}, \dots, v_{N_{k}})$ ，给定阀值T，若点 $x_{t_{i}}$ 与其k个邻居点的累积变化量(Accumulative Change)大于T，则判定点 $x_{t_{i}}$ 为这段时间序列中的一个异常点，这一判定条件公式表示为

$AccumulativeChange = \frac{W_{1} | v_{t_{i}} - v_{N_{1}} | + W_{2} | v_{t_{i}} - v_{N_{2}} | + \dots + W_{k} | v_{t_{i}} - v_{N_{k}} |}{W_{1} + W_{2} + \dots + W_{k}} > T$

式中的 $(W_{1}, W_{2}, \dots, W_{k})$ 为权值向量，赋予每个变化量不同的权重，一般来说，在时间轴上，越接近点 $x_{t_{i}}$ 的邻居点赋予的权值越大；阀值T是用户给定的一个常数量，点 $x_{t_{i}}$ 的累积变化量和阀值的大小关系，是判定 $x_{t_{i}}$ 是否为一个异常点的依据 [8] 。

3. 异常点模型建立

文献 [8] 中利用上面定义2判定的异常点模型是通过时间序列的波动来得到的异常点，因此不需要知道时间序列具体是符合什么样的模型，而且这种异常点模型也容易在现实应用中实现，但是也存在一定的缺陷：

1) 由于是通过时间序列的波动来实现异常点的检测，因此，在波动量不是很大但却很频繁的时候，累积变化量也可能很大。

2) 在异常点成片出现的时候，因为不知道异常点成片出现时的数目，因此T的选择对异常点的检测很重要，这个异常点模型往往识别不了成片的异常点，因为可能成片的异常点之间的变化不大，从而造成了它们间的累积变化量不是大。

文献 [8] 中的方法在经过了一片异常点后，往往会把第一个出现的正常值视为异常点，因为在成片异常点后面的正常数据相对异常点的变化很大，所以累积变化量也很大。因此本文所定义的异常点思想是居于文献 [8] 中累积变化量的思想，然后试图重新对异常点模型进行定义，从而解决文献中对异常点定义所存在的缺点。

在定义异常数据点模型前,先给出高位异常点和低位异常点的定义。

定义3如果一个异常点的数据比它相邻的数据大很多，则称这个异常点为高位异常点。

定义4如果一个异常点的数据比它相邻的数据小很多，则称这个异常点为低位异常点。

为了解决文献 [8] 中的问题，引入 $λ_{i} (i = 1, 2, \dots, k)$ ，称 $λ_{i}$ 为数据的异常类型和异常惩罚量C。其中 $λ_{i}$ 的取值如下：

1) 当某一数据点为高位异常点时，那么 $λ_{i} = 1$ ；

2) 当某一数据点为低位异常点时，那么 $λ_{i} = - 1$ ；

3) 当数据点为正常数据点时，那么 $λ_{i} = 0$ 。

本文中重新定义累积变化量为：

$A C = | \frac{\sum_{i}^{k} W_{i} [(x_{t} - x_{t - i}) + λ_{i} \cdot C]}{W_{1} + W_{2} + \dots + W_{k}} |$

然后引入推移算子B，则模型可写成：

$A C = | \frac{{\sum_{i}^{k} W_{i}}_{i} [x_{t} (1 - B^{i}) + λ_{i} \cdot C]}{W_{1} + W_{2} + \dots + W_{k}} |$

异常点模型为：

$A C = | \frac{\sum_{i}^{k} W_{i} [x_{t} (1 - B^{i}) + λ_{i} \cdot C]}{W_{1} + W_{2} + \dots + W_{k}} | > T$

C和T需要用户确定，当AC > T时，则认为 $x_{t}$ 数据点为异常点，为了知道异常点是偏大还是偏小，定义如下：当

$\frac{\sum_{i}^{k} W_{i} [x_{t} (1 - B^{i}) + λ_{i} \cdot C]}{W_{1} + W_{2} + \dots + W_{k}} > 0$

则，异常点为高位异常点，并且该点的 $λ_{i} = 1$ 。当

$\frac{\sum_{i}^{k} W_{i} [x_{t} (1 - B^{i}) + λ_{i} \cdot C]}{W_{1} + W_{2} + \dots + W_{k}} < 0$

则，异常点为低位异常点，并且该点的 $λ_{i} = - 1$ 。当

$| \frac{\sum_{i}^{k} W_{i} [x_{t} (1 - B^{i}) + λ_{i} \cdot C]}{W_{1} + W_{2} + \dots + W_{k}} | < T$

则，该点为正常数据点，并且该点的 $λ_{i} = 0$ 。

4. 模型分析

本文中给出的模型相比较于文献 [8] 中的模型缺陷，有如下优势：

$| \frac{\sum_{i}^{k} W_{i} [x_{t} (1 - B^{i}) + λ_{i} \cdot C]}{W_{1} + W_{2} + \dots + W_{k}} | < T$

1) 因为文献 [8] 中的累积变化通过 $\sum_{i}^{k} W_{i} | v_{t} - v_{t - i} |$ 的值来表示的，因此，即使波动量不大，但是波动得很频繁的时候 $\sum_{i}^{k} W_{i} | v_{t} - v_{t - i} |$ 的值都会很大，而且，本文认为那些异常点莫非是相对于邻近点过大或者是过小的数据点，因此用 $\sum_{i}^{k} W_{i} (v_{t} - v_{t - i})$ 来描述某一数据点对于邻近点的变化会更好一些。

2) 对于惩罚量的引入：因为文献 [8] 中的异常点模型是通过 $\sum_{i}^{k} W_{i} | v_{t} - v_{t - i} |$ 的值来确定的，因此在出现成片异常点的地方 $\sum_{i}^{k} W_{i} | v_{t} - v_{t - i} |$ 会很小，从而导致检测不出异常，本文引入的惩罚量就是当t时刻的数据点是异常点时它会对后续的数据产生影响，因此即使在出现成片异常点的情况下，当引入异常惩罚量之后，即使异常点之间真实的波动量并不大，但是本文定义的累积变化也会很大，这样就可以检测出成片的异常点。

3) 对于指示变量的引入，由于上面加入了异常惩罚量，但是如果每个异常所加的惩罚量都是正或是负的话也会出现问题，假设惩罚量全部都取为正数，那么，当遇到成片的异常点时并且这些异常点会比正常的数据点数值要低，则在成片异常点后面出现的正常点往往就会被认为是异常点，再假设惩罚量全部都取为负数，当遇到成片的异常点时并且这些异常点会比正常的数据点数值要高，则在成片异常点后面出现的正常点往往也会被认为是异常点，并且，引入具有三个取值的指示变量还有一个好处，就是不仅知道某个数据点是否异常而且还可以知道异常点是偏高了还是偏低了。

5. 数值试验

结合实际数据进行试验，所用的数据是2004年到2009年的沪市股票数据一共有302条数据。为了了解由于异常点的存在对时间序列数据建立模型的影响，下面将会对所给的数据在对异常点进行修正前后来进行拟合模型的对比，主要看所拟合的模型的参数在修正异常点前后的差异，因为一般的金融数据都会有异方差的，在这先对数据进行异方差的检验，然后用数据进行GRACH模型的检验。

首先对数据进行了异方差检验，异方差检验结果如图1显示：

Figure 1. Heteroscedasticity test results

图1. 异方差检验结果

从上面图中可以看到，Q统计量从1到12的时滞窗体现出了方差随时间的变化，这些检验都显示数据存在着异方差。因此，用GRACH模型对数据进行建模，下面得到了GRACH模型的参数估计，如图2。

Figure 2. Parameter estimation of GRACH model

图2. GRACH模型的参数估计

用本文给出的异常检测方法对数据进行异常点的检测，然后与文献 [8] 中的方法进行对比。最后在异常点进行修正后对数据进行建模。我们的异常点判断模型为：

$A C = | \frac{\sum_{i}^{k} W_{i} [x_{t} (1 - B^{i}) + λ_{i} \cdot C]}{W_{1} + W_{2} + \dots + W_{k}} | > T$

异常修正后的参数估计结果如图3所示：

Figure 3. Parameter estimation after anomaly correction

图3. 异常修正后的参数估计

从图中可以看出，修正前与修正后的参数估计结果图相比，对异常点修正前后就行的建模，参数差别很大，因此，更加说明了异常检测的重要性。

6. 结语

在本文给出的异常点模型中引入了一个异常惩罚量，而且在数值试验时把它取值为滑动窗口数据的平均值，本文给出一个比较简单易于实施而且有效的异常点发现方法，该方法是基于文献 [8] 的基础，然后通过引入指示变量和惩罚函数，在最后的数值试验中也证明该方法的有效性。

文章引用

瞿杏元,曹忠虔. 基于时间序列异常检测分析的方法
Method of Anomaly Detection and Analysis Based on Time Series[J]. 运筹与模糊学, 2023, 13(01): 139-144. https://doi.org/10.12677/ORF.2023.131016

参考文献

1. 张保稳, 何华灿. 时态数据挖掘研究进展[J]. 计算机科学, 2002, 29(2): 124-126, 103.

2. 钱昱, 郑斌. 基于时序模式的异常检测[J]. 微机发展, 2004, 14(9): 53-55.

3. 杨虎, 王会琦, 程代杰. 基于时间序列异常数据挖掘[J]. 计算机科学, 2004, 31(4): 117-119.

4. 向馗, 蒋静坪. 时间序列的符号化方法研究[J]. 模式识别与人工智能, 2007, 20(2): 154-161.

5. 李爱国, 覃征, 贺升平. 时间序列数据的相似模式抽取[J]. 西安交通大学学报, 2002, 36(12): 275-1278.

6. Ester, M., Kriegel, H.P. and Sander, J., et al. (1996) A Density Based Algorithm for Discovering Clusters in Large Spatial Databases with Noise. AAAI Press.

7. Agrawal, R., Imielinski, T. and Swami, A. (1993) Mining Association Rules between Sets of Items in Large Databases. Management of data.

8. 林森. 时间序列异常检测的研究与应用[D]: [硕士学位论文]. 南京: 河海大学, 2008.

期刊菜单