基于循环神经网络的煤矿工作面瓦斯浓度预测模型研究.pdf

第 48 卷第 1 期煤 炭 科 学 技 术Vol. 48 No.1 2020 年 1 月Coal Science and TechnologyJan. 2020 移动扫码阅读 李树刚,马 莉,潘少波,等 . 基于循环神经网络的煤矿工作面瓦斯浓度预测模型研究[J]. 煤炭科学技术, 2020,48133-38.doi10. 13199/ j. cnki. cst. 2020. 01. 004 LI Shugang,MA Li,PAN Shaobo,et al. Research on prediction model of gas concentration based on RNN in coal mining face[J]. Coal Science and Technology,2020,48133-38.doi10. 13199/ j. cnki. cst. 2020. 01. 004 基于循环神经网络的煤矿工作面瓦斯浓度预测模型研究 李树刚1,马 莉2,潘少波2,石新莉2 1.西安科技大学 安全科学与工程学院,陕西 西安 710054；2.西安科技大学 通信与信息工程学院, 陕西 西安 710054 摘 要瓦斯灾害制约着煤矿安全生产的发展水平,瓦斯治理是高瓦斯煤矿开采工程中的重要环节, 有效预测出下一时间段瓦斯浓度并做出合理的安全防护措施,可为煤矿瓦斯治理决策提供一定的参 考依据。 利用循环神经网络适合处理连续时间序列样本的特性,构建了一种基于循环神经网络的煤 矿工作面瓦斯浓度预测模型。 该模型以宽泛策略为原则初步确定预测模型网络结构参数,选取数据 量更大、时间跨度更长的瓦斯浓度时间序列为训练样本。 首先采用邻近均值法和插值法处理训练样 本中的异常值和缺失值,同时采用最大最小值标准化法对数据进行归一化处理,其次以均方误差和运 行时间为评价指标,采用自适应矩估计优化器优化模型权重,选取修正线性为激活函数,隐藏层中加 入丢弃层,通过不断调节步长、网络层数等参数,最终得到最优的循环神经网络瓦斯预测模型。 研究 结果表明相比于反向传播神经网络预测模型和双向循环神经网络预测模型,基于循环神经网络的煤 矿工作面瓦斯浓度预测模型的训练误差降低至 0.003,预测结果误差降低至 0.006,具有更高的预测准 确度；同时,预测误差波动范围在 0.0010.024,具有更好的稳定性和鲁棒性。 基于循环神经网络的 工作面瓦斯浓度预测模型具有更高的准确度、稳定性和鲁棒性,可有效预测出下一时间段瓦斯浓度的 变化趋势,从而提前做出合理的防护措施,为煤矿安全生产提供一定的参考意见。 关键词煤矿安全；瓦斯浓度预测；循环神经网络；瓦斯治理 中图分类号TD712 文献标志码A 文章编号0253-2336202001-0033-06 Research on prediction model of gas concentration based on RNN in coal mining face LI Shugang1, MA Li2, PAN Shaobo2, SHI Xinli2 1.College of Safety Science and Engineering, Xi’an University of Science and Technology, Xi’an 710054, China； 2. College of Communication and Ination Engineering, Xi’an University of Science and Technology, Xi’an 710054, China 收稿日期2019-09-25；责任编辑王晓珍 基金项目国家自然科学基金资助项目51734007,51804248；西安科技大学博士启动金资助项目6310115032 作者简介李树刚1963,男,甘肃会宁人,教授,博士生导师。 E-maillisg63＠ Abstract Gas hazards restrict the development level of coal mine safety production. Gas control is an important part of high gas coal mine mining. Effective prediction of gas concentration in the next period and making reasonable safety protection measures can provide certain reference basis for decision-making of coal mine gas control. This paper builds a prediction model of gas concentration in coal mine work- ing face based on recurrent neural network RNN to process continuous time series samples. The model preliminarily determines the net- work structure parameters of the prediction model based on the broad strategy, and selects the gas concentration time series with larger data volume and longer time span as the training samples. Firstly, the outliers and missing values in training samples are processed by proximity mean and interpolation . At the same time, MinMaxScala is used to normalize the data. Secondly, MSE and running time are used as uation inds, Adam optimizer is used to optimize the weight of the model, Relu is selected as activation function, and Dropout layer is added to the hidden layer. By adjusting the parameters of batch size and network layers, the optimal RNN gas predic- tion model is finally obtained. The results show that compared with BP neural network prediction model and Bidirection RNN prediction model, the training error of gas concentration prediction model based on RNN is reduced to 0.003, the prediction error is reduced to 0.006, and the prediction error fluctuation range is 0.0010.024. The results indicate that the RNN gas prediction model has better accu- racy, stability and robustness. The model can effectively predict the trend of gas concentration in the next period. Therefore, reasonable 33 万方数据 2020 年第 1 期煤 炭 科 学 技 术第 48 卷 protection measures can be taken in advance to ensure coal mine safety production. Key wordscoal mine safety；gas concentration prediction；Recurrent Neural Network；gas control 0 引 言 长期以来,煤矿瓦斯灾害防治是高瓦斯煤矿安 全生产管理的重要任务,瓦斯浓度预测对煤矿安全 生产管理有重要意义。 然而目前煤矿瓦斯灾害预防 主要以监测为主,很难通过多个影响因素的线性关 系对瓦斯变化趋势进行描述和预测。 而瓦斯浓度数 据在时间上具有天然的连续性,因此,笔者采用循环 神经 网 络 Recurrent Neural Network, 以 下 简 称 RNN对基于时间序列的瓦斯浓度数据变化趋势进 行预测分析,通过对模型参数的不断调优,实现瓦斯 浓度的精准预测,为煤矿安全管理人员提供辅助 支持。 针对瓦斯浓度预测问题,国内外专家和学者做 了大量的研究工作。 围绕 SVM支持向量机,魏林 等[1]利用经验模态分解算法EMD与最小二乘支 持向量LSSVM相结合的方法；安藏鹏等[2]采用改 进后的最小支持向量机LS-SVM和基于径向基函 数RBF的神经网络进行预测；钱建生等[3]建立了 深度学习网络与粒子群优化 SVM 神经网络耦合的 算法模型；刘俊娥等[4]运用 SVM 进行回归预测并采 用粒子群PSO选取最佳的核函数参数 g 和惩罚因 子 c。 此外一些学者利用神经网络做了其他的研 究；姚青华等[5]提出了一种基于改进 BP 神经网络 的矿井瓦斯浓度预测算法；耿越[6]在混沌分析的基 础上结合人工神经网络技术建立了 CT - PSO - RBFNN 预测模型；龚星宇等[7]采用独立成分分析 ICA和 k-最近邻KNN法的反向传播人工神经 网络BP-ANN相结合的方法进行预测。 另外一些 专家如韩婷婷等[8]用马尔科夫模型对三阶灰色神 经网络模型预测结果进行修正,杨丽等[9]从岭估计 及局部二次近似迭代算法实现预测。 以上方法在预 测精准度上都有较大的提高,但是在数据样本的选 择上数据量样本偏小且时间跨度短,在预测大量瓦 斯浓度变化时具有一定的局限性。 近年来随着大数据时代的到来和人工智能技术 的发展,深度学习在许多领域都取得了很好的成绩, 其中 具 有 代 表 性 的 如 RNN, 其 在 网 络 社 交 应 用[10-13]、视频处理[14]、 机械工程[15]、 环保[16]、 能 源[17]、动态分析[18]、语音识别[19-20]等方面都有新的 突破。 结合 RNN 适合于处理和预测时间序列中有 间隔和延迟数据的特点,笔者提出了一种基于 RNN 的瓦斯浓度预测模型,期望在保证预测精度的前提 下提高预测模型的稳定性和鲁棒性。 1 瓦斯预测模型相关原理 传统的神经网络模型是从输入层到隐含层再到 输出层,层与层之间是全连接且每层之间的节点是 无连接。 因此,普通的神经网络在解决时间序列问 题上具有一定的局限性。 循环神经网络则弥补了传 统神经网络的不足之处,其结构如图 1 所示。 X 输入层的值； S 隐藏层的值； U 输入层到隐藏层的权重 矩阵； O 输出层的值； V 隐藏层到输出层的权重矩阵； W 隐藏层上一次的值作为这一次的输入的权重 图 1 RNN 结构图 Fig.1 RNN structure diagram RNN 运行公式为 O ＝ gVSt St＝ fUXt＋ WSt-1 { 1 式中t 为时刻；g 为激活函数；f 为自定义函数。 AdamA for Stochastic Optimization 是 一种可以替代传统随机梯度下降过程的一阶优化算 法,基于训练数据不断迭代更新神经网络的权重。 Adam 结合了 AdaGrad 和 RMSProp 算法优越的性 能,通过设定参数就可以解决绝大部分疏落梯度和 噪声问题。 其在 Keras 框架中的参数为lr＝ 0.001, β1＝0.9, β2＝ 0.999, ε ＝ 110 -8 ,其中lr 为学习效 率； β1和 β2分别为一阶与二阶矩估计的指数衰减 率；g 为下降梯度； ε 为防止计算中除以零的极小 数。 算法更新如下。 一阶矩估计与二阶矩估计 mt ＝β 1mt-1＋g1-β1 2 vt ＝β 2vt-1 ＋g 21-β 2 3 一阶矩估计偏差修正与二阶矩估计偏差修正 m′t ＝ m t/ 1 - β t 1 4 43 万方数据 李树刚等基于循环神经网络的煤矿工作面瓦斯浓度预测模型研究2020 年第 1 期 v′t ＝ v t/ 1 - β t 2 5 参数更新 θt ＝ θ t-1 - αm′t/ v′t＋ ε 6 式中 t 为时刻； mt和 vt分别为一阶矩估计与二阶矩 估计,初始值均为0；m′t和v′t分别为一阶矩估计偏差 修正与二阶矩估计偏差修正； θt为更新的参数。 2 RNN 瓦斯浓度预测模型建立 RNN 瓦斯浓度预测模型主要分 4 个步骤数据 采集、数据预处理、数据分析与建模、模型调优。 笔 者选取了某煤矿 2018 年 7 月 1 日到 2018 年 11 月 2 日的瓦斯监测数据作为试验样本,该数据包括抽采 浓度、混合流量、累计抽采日流量、纯量、上隅角瓦斯 浓度、回风流瓦斯浓度、工作面瓦斯浓度、工作面风 量、温度、抽采负压,共计 10 000 条数据。 其中数据 预处理主要是针对数据进行清洗、数据缩放和划分； 数据分析与建模则初步确定 RNN 预测模型的网络 结构参数和相关函数,模型调优主要根据预测结果 调节相关网络结构参数。 图 2 为 RNN 瓦斯浓度预 测模型流程。 图 2 RNN 预测模型流程 Fig.2 RNN prediction model flow chart 2.1 数据预处理 为确保预测结果的可靠性和真实性,本试验选 取真实的煤矿瓦斯监测数据,首先针对原始数据中 存在的异常值和缺失值等问题进行数据清洗,采用 邻近均值法替代异常数据值,利用缺失值的前一个 非空数值补全缺失值。 其次针对数据中存在不同量 纲数值的特点,采用 MinMaxScala 方法将数据缩放 到[0,1],提高模型运行效率,其中 MinMaxScala 运 行原理如公式7和8所示。 Xstd＝ [X - Xminaxis ＝ 0] / [Xmaxaxis ＝ 0 - Xminaxis ＝ 0]7 Xscaled ＝ X stdMax - Min ＋ Min 8 其中Xstd将 X 归一化到[0,1]；Xminaxis ＝ 0、 Xmaxaxis＝0为列最小值、最大值；Max、Min 为 Min- MaxScaler 的参数 feature_range 参数范围,即最终结 果的范围。 最后将处理好的数据划分为训练集、测 试集、回溯集和验证集,其中训练集和测试集用于模 型的训练和测试,回溯集是用于预测下一时间段的 先前时间序列,验证集用于验证模型预测结果。 2.2 分析与建模 结合 RNN 适合于处理和预测时间序列中有间 隔和延迟数据的特性,提出 RNN 瓦斯浓度预测模 型。 首先采用常用的激活函数 Relu 来提高运行深 度并减少梯度下降,初始化权重采用均值为 0 的 高斯随机分布初始化权重,采用向量式的编码方 式对输出层进行编码；其次根据宽泛策略初步搭 建一个简单结构,确定网络结构中隐藏层的数目 和每层中的神经元数量；然后随机给定其他超参 数一个可能值,调整学习效率到一个合适的阈值, 取阈值的一半作为初始值；最终确定合适的步长 得到 RNN 预测模型。 最后得到 RNN 预测模型的 网络结构参数为激活函数为 Relu,损失函数为 mean_square_error,神经元数量为 128,迭代次数为 25 次。 2.3 模型预测与调优 由于步长的设置决定了模型可利用时间序列数 据间的关联信息,影响模型的运行时间和精准度；网 络层数是模型的学习能力,影响预测结果的精准度； 激励函数和迭代次数影响模型的收敛效果等。 本试 验以 MSE 和运行时间为评价指标,采用 Adam 优化 器优化模型权重,选取 Relu 为激活函数,隐藏层中 加入 Dropout 层,通过不断调节步长、网络层数等参 数,最终得到最优的 RNN 瓦斯预测模型。 其中损失 函数选择为 MSEmean square error运行公式,如公 式9所示 MSE ＝ 1 n ∑ n i ＝ 1 fi - y i 2 9 其中 fi为预测值； yi为真实值。 以训练完成的 RNN 瓦斯浓度预测优化模型为 基础,调节相应的预测步长,以预测值与验证集之间 的误差、误差波动范围为评判指标,选取预测误差 小、误差波动低的预测步长,最终获取满足精度要求 的预测长度。 3 基于 RNN 瓦斯浓度预测模型的试验验证 3.1 基于 RNN 瓦斯浓度预测模型的调优 3.1.1 步长优化 步长主要用于梯度下降算法中表示模型可利用 时间序列数据间的关联信息。 因此本试验以宽泛策 略为原则,设定步长为 50、100 和 200,分别对比不 53 万方数据 2020 年第 1 期煤 炭 科 学 技 术第 48 卷 同步长下的训练误差和运行时间,运行效果如图 3 和表 1 所示。 图 3 步长误差对比 Fig.3 Comparison error of batch size 表 1 不同参数下的拟合效果对比 Table 1 Fitting effects comparison with different parameters 步长运行时间/ sMSE隐藏层数运行时间/ sMSE 502 0580.02512 6120.009 1001 3350.021213 7540.003 2008210.022373 6600.011 图 3 中步长为 50 和 100 时模型预测误差大致 相同,但相比于步长为 200 时,步长为 50 和 100 时, 在迭代次数为 525 次时波动性更小,收敛效果更 佳。 表 1 中步长为 100 时的运行时间虽不是最短 的,但误差是最小的。 综合考虑步长为 100 时效果 最佳。 在合理的范围内增大步长可有效提高内存利 用率和精准度,当步长增大到一定程度后,梯度下降 的方向基本不变,模型的预测精度和误差将不再提 高。 其原因为数值较大的步长收敛速度较快,但易 陷入局部最优；数值较小的步长引入的随机性更大, 预测效果较好但收敛速度较慢,步长过小时会导致 损失曲线震荡不收敛。 3.1.2 网络层数优化 网络层数指隐藏层的网络结构层数,一般情况 增加隐藏层可降低预测误差并提高精度,同时模型 的复杂程度更高,提高了模型的训练时间和过拟合 现象。 因此本试验以宽泛策略为原则,从一层 RNN 网络结构开始逐渐增加,分别对比不同网络层数下 的误差和运行时间,运行效果如图 4 和表 1 所示。 图 4 中网络层数为 1 层时,收敛速度偏快,易 损失爆炸；网络层数为 2 和 3 时,在收敛速度和收敛 程度上大致相同,在训练次数为 40 50,3 层 RNN 结构的损失曲线震荡严重。 表 1 中 RNN 为 2 层时, 耗时虽不是最短,但训练误差是最小的,为 0.003。 综合考虑网络层数为 2 层 RNN 时效果最佳。 其原 因是随着网络层数的增加,模型的学习能力增强的 图 4 网络层数误差对比 Fig.4 Comparison error of network layer 同时模型的复杂性也增强,相应地导致模型的过度 拟合,同时模型运行成本变大。 3.2 瓦斯浓度预测模型对比分析 双向 RNN 由 2 个叠加的独立 RNN 单元组成, 输出结果由 2 个 RNN 的状态决定。 BP 神经网络是 一种多层的前反馈神经网络,信号向前传播而误差 反向传播。 为验证 RNN 预测模型的适用性和实用 性,本训练模型对比了双向 RNN 瓦斯浓度预测模型 和 BP 瓦斯浓度预测模型的训练效果。 训练拟合误 差如图 5 所示,预测结果拟合效果如图 6 所示,运行 结果对比见表 2。 图 5 3 种模型误差对比 Fig.5 Comparison error of three models 图 6 3 种模型预测结果对比 Fig.6 Comparison of prediction results of three models 图 5 中显示 BP 神经网络的训练误差在前 5 次 过程中收敛过快,同时在 5 次过后 loss 函数的最终 收敛程度较低；双向循环神经网络 loss 函数变换趋 63 万方数据 李树刚等基于循环神经网络的煤矿工作面瓦斯浓度预测模型研究2020 年第 1 期 势和 RNN 网络虽然大致相同,但是双向循环神经网 络模型过于复杂导致训练成本过高；相反 RNN 网络 则收敛速度最佳,且在训练过程中的损失曲线能够 平稳地收敛到最低程度,RNN 网络的损失曲线可降 低到 0.003,且耗时更短,RNN 预测模型误差可降到 0.006表 2。 相比 BP 神经网络和双向循环神经网 络,RNN 预测模型耗时更少且拟合误差更低,其原 因为较 BP 网络层与层之间全连接、节点无连接的 结构,RNN 结构通过连接各节点不断更新输入权 重,更适合处理时间序列上连续相关的瓦斯浓度时 间序列,且预测精度更高；双向循环神经网络的双层 叠加的 RNN 结构虽然可以充分利用输入信息的关 联性,但是由于网络参数过多、模型复杂导致模型过 拟合、难以收敛,RNN 可通过不断更新输入信息的 权重,收敛速度快且运行时间短。 表 2 3 种模型预测及拟合误差对比 Table 2 Comparison of three model predictions and fitting errors 模型 运行 时间/ s 训练 MSE 最大预 测误差 最小预 测误差 平均预 测误差 反向传播神经网络17 1600.0870.0520.0020.015 循环神经网络13 7540.0030.0240.0010.006 双向循环神经网络68 4800.0170.0330.0040.020 基于 3 种训练后的瓦斯浓度预测模型,其预测 结果如图 6 所示。 其中 BP 神经网络预测模型和双 向循环神经网络预测模型的预测结果误差较大,分 别为 0.087 和 0.017。 RNN 预测模型整体预测误差 可降到 0.003,特别是在瓦斯浓度变化的时间拐点 处,具有更高的精确度；RNN 预测模型的预测误差 波动更小,波动范围在 0.0010.024,具有更高的稳 定性和鲁棒性。 4 结 论 1RNN 瓦斯浓度预测模型在搭建过程中,选取 合理的网络结构参数对提高预测精度、减少运行时 间有着显著的提高。 本试验以宽泛策略为原则,在 确定网络结构的基本参数后,调节对 RNN 预测模型 影响较大的参数步长和网络层数,最终选取步长为 100、隐藏层为 2 层 RNN 为优化模型的最终参数。 2相比 BP 神经网络预测模型和双向循环神经 网络预测模型,RNN 预测模型预测效果更佳,训练 误差可降到 0.003,预测误差可降到 0.006,预测平均 绝对误差波动范围在 0.0010.024,具有更高的准 确度和鲁棒性。 3循环神经网络 RNN 具有反馈结构,其输入不 仅与当前输入和网络权重有关,而且与前一时刻的 输入有关,适合处理连续的时间序列。 研究证明, RNN 预测模型可有效预测下一时间段瓦斯浓度,为 煤矿安全管理提供一定的参考意见。 参考文献References [1] 魏 林,白天亮,付 华,等.基于 EMD-LSSVM 的瓦斯浓度动 态预测模型[J].安全与环境学报,2016,162119-123. WEI Lin,BAI Tianliang, FU Hua,et al. Dynamic prediction model of gas concentration based on EMD-LSSVM[J].Journal of Safety and Environment,2016,162119-123. [2] 安葳鹏,孙 贝.基于分态的煤矿瓦斯浓度预测模型的研究 [J].计算机工程与应用,2014,5020233-238,243. AN Weipeng, SUN Bei. Research on prediction model of coal mine gas concentration based on dislocation[J].Computer Engineering and Applications, 2014,5020233-238,243. [3] 钱建生,邱春荣,李紫阳,等.深度学习耦合粒子群优化 SVM 的 瓦斯浓度预测[J].煤矿安全,2016,4711173-176. QIAN Jiansheng, QIU Chunrong, LI Ziyang,et al. Prediction of gas concentration in SVM based on deep learning coupled particle swarm optimization[ J]. Safety in Coal Mines,2016,47 11 173-176. [4] 刘俊娥,杨晓帆,郭章林.基于 FIG-SVM 的煤矿瓦斯浓度预测 [J].中国安全科学学报,2013,23280-84. LIU June, YANG Xiaofan, GUO Zhanglin. Prediction of coal mine gas concentration based on FIG - SVM [ J]. Chinese Journal of Safety Science, 2013, 23280-84. [5] 姚青华,邱本花.基于改进 BP 神经网络的矿井瓦斯浓度预测 算法[J].煤炭技术,2017,365182-184. YAO Qinghua, QIU Benhua. Mine gas concentration prediction al- gorithm basedonimprovedBPneuralnetwork [ J ]. Coal Technology, 2017, 365182-184. [6] 耿 越.基于混沌粒子群神经网络的瓦斯浓度预测[J].中国煤 炭,2017,433124-129. GENG Yue. Gas concentration prediction based on chaotic particle swarm neural network[J].China Coal,2017,433124-129. [7] 龚星宇,常心坦,贾澎涛.独立成分分析在瓦斯浓度预测中的 应用研究[J].工矿自动化,2015,41482-86. GONG Xingyu, CHANG Xintan, JIA Pengtao. Application of in- dependent component analysis in gas concentration prediction[J]. Industrial and Mining Automation, 2015, 41482-86. [8] 韩婷婷,吴世跃,王鹏军.基于马尔科夫残差修正的瓦斯浓度 预测[J].工矿自动化,2014,40328-31. HAN Tingting, WU Shiyue, WANG Pengjun. Prediction of gas concentration based on markov residual correction[J].Industrial and Mining Automation,2014, 40328-31. [9] 杨 丽,刘 晖,毛善君,等.基于多元分布滞后模型的瓦斯浓 度动态预测[J].中国矿业大学学报,2016,453455-461. YANG Li, LIU Hui, MAO Shanjun,et al. Dynamic prediction of gas concentration based on multivariate distribution hysteresis model[J]. Journal of China University of Mining ＆ Technology, 2016, 453455-461. 73 万方数据 2020 年第 1 期煤 炭 科 学 技 术第 48 卷 [10] 石 磊,杜军平,梁美玉.基于 RNN 和主题模型的社交网络突 发话题发现[J].通信学报,2018,394189-198. SHI Lei,DU Junping,LIANG Meiyu.Discovery of social network burst topics based on RNN and topic model[J].Journal on Com- munications,2018,39 4189-198. [11] 郝志峰,黄 浩,蔡瑞初,等.基于多特征融合与双向 RNN 的 细粒度意见分析[J].计算机工程,2018,447199-204,211. HAO Zhifeng, HUANG Hao, CAI Ruichu,et al.Fine-grained o- pinion analysis based on multi-feature fusion and bidirectional RNN[J].Computer Engineering, 2018, 447199-204,211. [12] 笱程成,秦宇君,田 甜,等.一种基于 RNN 的社交消息爆发 预测模型[J].软件学报,2017,28113030-3042. GOU Chengcheng, QIN Yujun, TIAN Tian, et al. A social message burst prediction model based on RNN[J]. Journal of Software,2017,28113030-3042. [13] ZHANG Yangsen, JIANG Yuru, TONG Yixuan.Study of sentiment classification for Chinese microblog based on recurrent neural network[J]. Chinese Journal of Electronics, 2016,254601-607. [14] HUANG Xuan, ZHANG Rong, PANG Jianxin. A RNN - based objective video quality measurement[J]. Chinese Optics Letters, 2009,7111004-1006. [15] 于建均,吴鹏申.基于 RNN 的机械臂任务模仿系统[J].北京 工业大学学报,2018,44111401-1408. YU Jianjun,WU Pengshen.RNN-based robotic arm task imitation system[J]. Journal of Beijing Polytechnic University,2018,44 111401-1408. [16] 范竣翔,李 琦,朱亚杰,等.基于 RNN 的空气污染时空预报 模型研究[J].测绘科学,2017,42776-83,120. FAN Yuxiang, LI Qi, ZHU Yajie,et al.Study on time and space prediction model of air pollution based on RNN[J].Science and Mapping Science,2017,42776-83,120. [17] 周洪煜,曾济贫,王照阳,等.基于混沌 DNA 遗传算法与 PSO 组合优化的 RNN 短期风电功率预测[J].电力系统保护与控 制,2013,412144-149. ZHOU Hongyu,ZENG Jipin,WANG Zhaoyang,et al.Short-term wind power prediction based on chaotic DNA genetic algorithm and PSO combination optimization[J].Power System Protection and Control, 2013,412144-149. [18] QIAO Chen,LIANG Dong,SUN Kefen.Dynamics analysis for ge- neric projection continuous-Time RNNs with bounded matrices [J]. Journal of Systems Science ＆ Complexity, 2015,284 799-812. [19] 张 宇,张鹏远,颜永红.基于注意力 LSTM 和多任务学习的 远场语音识别[J].清华大学学报自然科学版,2018,583 249-253. ZHANG Yu, ZHANG Pengyuan, YAN Yonghong. Far - field speech recognition based on attention LSTM and multi - task learning[J].Journal of Tsinghua UniversityScience and Technol- ogy,2018,583249-253. [20] 邓 航. 建筑施工高处坠落事故分析及预防对策[J]. 工业安 全与环保, 2010,36457-59. DENG Hang.Analysis and countermeasures about falling of archi- tecture construction[J].Industrial Safety and Environmental Pro- tection,2010,36457-59. 83 万方数据