期刊文献+
共找到646篇文章
< 1 2 33 >
每页显示 20 50 100
基于集群辨识和卷积神经网络-双向长短期记忆-时序模式注意力机制的区域级短期负荷预测 被引量:1
1
作者 陈晓梅 肖徐东 《现代电力》 北大核心 2024年第1期106-115,共10页
为了解决区域级短期电力负荷预测时输入特征过多和负荷时序性较强的问题,提出一种基于集群辨识和卷积神经网络(convolutional neural networks,CNN)-双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)-时序模式注意力... 为了解决区域级短期电力负荷预测时输入特征过多和负荷时序性较强的问题,提出一种基于集群辨识和卷积神经网络(convolutional neural networks,CNN)-双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)-时序模式注意力机制(temporal pattern attention,TPA)的预测方法。首先,将用电模式和天气作为影响因素,基于二阶聚类算法对区域内的负荷节点进行集群辨识,再从每个集群中挑选代表特征作为深度学习模型的输入,这样既能减少输入特征维度,降低计算复杂度,又能综合考虑预测区域的整体特征,提升预测精度。然后,针对区域电力负荷时序性的特点,用CNN-BiLSTM-TPA模型完成训练和预测,该模型能提取输入数据的双向信息生成隐状态矩阵,并对隐状态矩阵的重要特征加权,从多时间步上捕获双向时序信息用于预测。最后,在美国加利福尼亚州实例上分析验证了所提方法的有效性。 展开更多
关键词 短期电力负荷预测 双向长短记忆网络 序模式注意力机制 集群辨识 卷积神经网络
在线阅读 下载PDF
基于双向长短时记忆网络和自注意力机制的药物-药物相互作用预测
2
作者 张明香 顾海明 于彬 《青岛科技大学学报(自然科学版)》 CAS 2024年第5期149-158,共10页
提出了一种基于双层双向长短时记忆网络(bi-directional long short term memory,BiLSTM)和自注意力(self-attention)机制的药物-药物相互作用(drug-drug interactions,DDIs)预测方法SA-BiLSTM。首先,利用FP3指纹、MACCS指纹、Pubchem... 提出了一种基于双层双向长短时记忆网络(bi-directional long short term memory,BiLSTM)和自注意力(self-attention)机制的药物-药物相互作用(drug-drug interactions,DDIs)预测方法SA-BiLSTM。首先,利用FP3指纹、MACCS指纹、Pubchem指纹和PaDEL分子描述符对药物特征信息进行提取。其次,使用套索回归(least absolute shrinkage and selection operator,Lasso)方法消除对分类无关的特征,并利用重复编辑最近邻(repeated edited nearest neighbors,RENN)方法对数据进行平衡处理,得到最优特征向量。最后,将最优特征向量输入结合自注意力机制和双向长短时记忆网络的分类器预测DDIs。基于五折交叉验证,同时与其它预测方法进行比较,本工作所提出的方法在两个数据集上获得较高的预测准确率。为了综合评价SA-BiLSTM的性能,对药物-药物相互作用网络进行验证。实验结果表明,SA-BiLSTM表现出优秀的预测能力,可以为DDIs的预测提供一种新的思路。 展开更多
关键词 药物-药物相互作用 特征提取 重复编辑最近邻 双向长短记忆网络 注意力机制
在线阅读 下载PDF
基于多头自注意力机制和长短期记忆网络方法的区域售电量预测
3
作者 李伟 李晓舟 +1 位作者 樊沛林 张宏江 《电力需求侧管理》 2025年第1期67-73,共7页
区域售电量的精确预测对于电力部门实施有效的能源管理和规划方面发挥着关键作用。现有的预测模型主要依赖于历史售电量数据,部分模型考虑到温度的影响,但对多种气象因素的综合考量不足。因此,考量多气象因子,提出一种多头注意力机制和... 区域售电量的精确预测对于电力部门实施有效的能源管理和规划方面发挥着关键作用。现有的预测模型主要依赖于历史售电量数据,部分模型考虑到温度的影响,但对多种气象因素的综合考量不足。因此,考量多气象因子,提出一种多头注意力机制和长短期记忆网络结合的区域售电量预测方法(multi-head self-attention mechanism long short-term memory,MHAM-LSTM)。首先通过相关性分析筛选出关键变量,去除冗余变量。然后利用多头注意力机制重点关注对售电量有重要影响的关键指标,并生成新的指标变量。最后采用LSTM网络深入挖掘时间序列数据的潜在规律,实现区域售电量预测。实验表明,MHAM-LSTM模型在售电量预测精度方面优于随机森林、深度神经网络、长短时记忆网络、时间卷积神经网络和Transformer等对比模型,展现出较大的性能优势。此外,气象因素重要性分析结果显示,综合考虑多种气象变量,特别是温度、风速和湿度,能够提高预测的准确性。 展开更多
关键词 售电量预测 气象因素 长短记忆网络 多头注意力机制
在线阅读 下载PDF
基于残差神经网络、双向长短期记忆网络和注意力机制的肠鸣音检测方法研究
4
作者 郝亚丽 万显荣 +3 位作者 江从庆 任相海 张小明 翟详 《中国医疗器械杂志》 2024年第5期498-504,共7页
肠鸣音可以反映胃肠道的运动和健康状况,然而,传统的人工听诊方式存在主观性偏差且耗时耗力。为了更好地辅助医生对肠鸣音的诊断,提高肠鸣音检测的可靠性和高效性,该研究提出了一种结合残差神经网络(ResNet)、双向长短期记忆网络(BiLSTM... 肠鸣音可以反映胃肠道的运动和健康状况,然而,传统的人工听诊方式存在主观性偏差且耗时耗力。为了更好地辅助医生对肠鸣音的诊断,提高肠鸣音检测的可靠性和高效性,该研究提出了一种结合残差神经网络(ResNet)、双向长短期记忆网络(BiLSTM)和注意力机制的深度神经网络模型。首先使用自主研发的多通道肠鸣音采集系统采集了大量带标签的临床数据,采用多尺度小波分解和重构方法对肠鸣音信号进行预处理,然后提取对数梅尔谱图特征送入网络进行训练,最后通过10折交叉验证和消融实验来评估模型的性能和验证其有效性。实验结果表明,该模型在精确率、召回率和F1分数方面分别达到了83%、76%和79%,能够有效地检测出肠鸣音片段并定位其起止时间,表现优于以往的算法。该算法不仅可以为医生在临床实践中提供辅助信息,还为肠鸣音的进一步分析和研究提供了技术支撑。 展开更多
关键词 肠鸣音 残差神经网络 双向长短记忆网络 注意力机制
在线阅读 下载PDF
基于双向长短期记忆网络与稀疏自注意力的票据文本识别方法
5
作者 冯宪伟 姚炜 《传感技术学报》 CAS CSCD 北大核心 2024年第11期1946-1951,共6页
提出了一种基于双向长短期记忆网络(BiLSTM)与稀疏自注意力机制的票据文本识别方法。针对票据文本识别中面临的复杂布局、多变字体及背景噪声干扰等挑战,采用深度卷积神经网络进行预处理,准确提取文本区域,并将图像数据转换为序列数据... 提出了一种基于双向长短期记忆网络(BiLSTM)与稀疏自注意力机制的票据文本识别方法。针对票据文本识别中面临的复杂布局、多变字体及背景噪声干扰等挑战,采用深度卷积神经网络进行预处理,准确提取文本区域,并将图像数据转换为序列数据输入到BiLSTM模型中。BiLSTM通过其双向结构,能够同时捕捉文本序列中的前向和后向信息,有效提高了文本理解的准确性。为了进一步提升识别性能,引入了稀疏自注意力机制,通过计算序列中不同位置之间的相关性得分,形成稀疏的注意力矩阵,从而捕捉文本中的长距离依赖关系。这种机制不仅降低了计算复杂度,还提高了模型对关键信息的关注度。实验结果表明,所提出的票据文本识别方法在处理复杂票据文本时表现出色,具有较高的识别精度和效率。与传统方法相比,所提方法能够更好地适应票据文本的多样性和复杂性,并在实际应用中展现出良好的鲁棒性和泛化能力。 展开更多
关键词 稀疏注意力机制 双向长短记忆网络 票据文本识别 光学字符识别
在线阅读 下载PDF
基于融合注意力机制改进双向长短时记忆网络在电动汽车充电负荷中的预测研究 被引量:22
6
作者 王华彪 李小勇 《电网与清洁能源》 北大核心 2022年第6期104-112,共9页
电动汽车的规模化发展以及充电设施的持续建设将给电网带来重要影响,严重威胁到了电力系统频率稳定性。结合电动汽车充电负荷数据特点,在深度学习方法的基础上提出基于融合注意力机制(attention mechanism,AM)改进的双向长短时记忆网络... 电动汽车的规模化发展以及充电设施的持续建设将给电网带来重要影响,严重威胁到了电力系统频率稳定性。结合电动汽车充电负荷数据特点,在深度学习方法的基础上提出基于融合注意力机制(attention mechanism,AM)改进的双向长短时记忆网络模型(long short-term memory network,LSTM),实现对电动汽车的优化调度。通过使用实测电动汽车充电负荷数据,比较了所提方法与已有方法的性能。结果表明,在LSTM和(bidirectional long short-term memory network,BiLSTM)分别添加了注意力机制的(long short-term memory attention network,LSTMA)和(bidirectional long shortterm memory attention network,BiLSTMA)模型相对于已有方法,在预测结果评价指标上都有明显的提升,证明了注意力机制在电动汽车充电负荷序列预测上的有效性。 展开更多
关键词 充电负荷 回归预测 递归神经网络 双向长短记忆网络 注意力机制
在线阅读 下载PDF
基于注意力机制的双向长短时记忆网络模型突发事件演化关系抽取 被引量:13
7
作者 闻畅 刘宇 顾进广 《计算机应用》 CSCD 北大核心 2019年第6期1646-1651,共6页
针对现有突发事件关系抽取研究多集中于因果关系抽取而忽略了其他演化关系的问题,为了提高应急决策中信息抽取的完备性,应用一种基于注意力机制的双向长短时记忆(LSTM)网络模型进行突发事件演化关系抽取。首先,结合突发事件演化关系的概... 针对现有突发事件关系抽取研究多集中于因果关系抽取而忽略了其他演化关系的问题,为了提高应急决策中信息抽取的完备性,应用一种基于注意力机制的双向长短时记忆(LSTM)网络模型进行突发事件演化关系抽取。首先,结合突发事件演化关系的概念,构建演化关系模型并进行形式化定义,依据模型对突发事件语料进行标注;其次,搭建双向LSTM网络结构,并引入注意力机制计算注意力概率以突出关键词汇在文本中的重要程度;最终,使用搭建的网络模型进行演化关系抽取得到结果。在演化关系抽取实验中,相对于现有因果关系抽取方法,所提方法不仅抽取出更加充分的演化关系,为突发事件应急决策提供了更完善的信息;同时,在正确率、召回率和F1分数上分别平均提升了7.3%、6.7%和7.0%,有效提高了突发事件演化关系抽取的准确性。 展开更多
关键词 关系抽取 突发事件 演化关系 注意力机制 双向长短记忆网络
在线阅读 下载PDF
基于注意力机制和双向长短时记忆网络的横波速度预测方法及应用 被引量:5
8
作者 何运康 李庆春 刘兴业 《石油物探》 CSCD 北大核心 2023年第2期225-235,共11页
横波速度信息对油气勘探而言至关重要,但实际测井资料中常常缺失横波速度资料。横波速度与测井参数之间存在非线性相关性,二者关系复杂难以用解析解表征。为此,提出了一种基于注意力机制和双向长短时记忆网络的横波速度预测方法(AT-BLS... 横波速度信息对油气勘探而言至关重要,但实际测井资料中常常缺失横波速度资料。横波速度与测井参数之间存在非线性相关性,二者关系复杂难以用解析解表征。为此,提出了一种基于注意力机制和双向长短时记忆网络的横波速度预测方法(AT-BLSTM)。该方法首先利用注意力机制为测井参数分配权重,自动聚焦对横波速度预测贡献大的测井参数,然后利用双向长短时记忆网络以及横波速度曲线纵向上的时序特征,挖掘各种测井参数与横波速度之间的相关关系,获得各种测井参数与横波速度之间的学习模型,再输入优选测井参数,最终可直接获得横波速度的预测结果。将上述方法应用于挪威北海Volve油田和我国西南某工区的实际测井资料进行横波速度预测,并将预测结果与常规双向长短时记忆网络、门控循环神经网络以及基于经验公式的传统方法的预测结果进行对比。结果表明,利用基于注意力机制和双向长短时记忆网络的横波速度预测方法得到的测井参数权重分配合理,横波速度预测结果与实测横波速度误差较小、相关系数较高,有效提高了横波速度预测精度,预测结果具有良好的稳定性。 展开更多
关键词 测井参数 横波速度预测 深度学习 注意力机制 双向长短记忆网络
在线阅读 下载PDF
融合注意力机制与双向长短时记忆网络的基于语音分析的抑郁识别方法 被引量:4
9
作者 赵张 汪静莹 +2 位作者 耿馨佚 朱廷劭 王守岩 《复旦学报(自然科学版)》 CAS CSCD 北大核心 2021年第6期733-739,共7页
为有效地通过语音识别抑郁状态,在将语音进行滤波、降采样等预处理后通过短时傅里叶变换成时频图,输入本文提出的DD-AudioNet(一种融合注意力机制与双向长短时记忆网络的卷积神经网络)进行训练,提取神经网络的瓶颈层向量作为深度学习特... 为有效地通过语音识别抑郁状态,在将语音进行滤波、降采样等预处理后通过短时傅里叶变换成时频图,输入本文提出的DD-AudioNet(一种融合注意力机制与双向长短时记忆网络的卷积神经网络)进行训练,提取神经网络的瓶颈层向量作为深度学习特征,共128个,再加上声学、频域、停顿、Mel频率倒谱系数和色度5类常用特征共计563个,基于特征选择方法Lasso选择了26个.用迁移学习方法CORAL拉近训练集和测试集的特征分布,最后通过逻辑回归、随机森林和XgBoost分别进行分类辨识.实验结果表明,本文通过高维度特征定义与选择,设计的DD-AudioNet提取的深度学习特征可有效提升基于语音的抑郁状态辨识能力. 展开更多
关键词 抑郁症 语音处理 注意力机制 双向长短记忆网络 迁移学习
在线阅读 下载PDF
基于双向长短时记忆网络和注意力机制的RNA m5C甲基化位点预测 被引量:1
10
作者 胡梦 李慧敏 +2 位作者 唐轶 王煜 陈鹏辉 《中国生物化学与分子生物学报》 CAS CSCD 北大核心 2023年第2期303-310,共8页
RNA 5-甲基胞嘧啶(m5C)修饰在许多生物过程中发挥重要的作用,对m5C位点的准确识别有助于更好地理解其生物学功能,所以识别m5C甲基化位点十分必要。尽管已发展了多种识别m5C甲基化位点的机器学习方法,但预测能力仍有待提高。本文基于双... RNA 5-甲基胞嘧啶(m5C)修饰在许多生物过程中发挥重要的作用,对m5C位点的准确识别有助于更好地理解其生物学功能,所以识别m5C甲基化位点十分必要。尽管已发展了多种识别m5C甲基化位点的机器学习方法,但预测能力仍有待提高。本文基于双向长短时记忆网络和注意力机制,提出了一种预测RNA m5C甲基化位点的深度学习算法。用该方法在人、小鼠、酿酒酵母和拟南芥共4种生物的RNA m5C数据集上进行实验,m5C位点预测AUC值分别达到92.5%、99.7%、93.6%和86.5%。与现有预测方法相比,该方法具有较好的预测性能,并且具有更优的泛化能力,为RNA m5C甲基化位点预测提供了一种新方法。 展开更多
关键词 双向长短记忆网络 注意力机制 m5C甲基化位点 深度学习
在线阅读 下载PDF
基于时空注意力机制的双向长短期记忆神经网络的股指预测研究 被引量:2
11
作者 杨蓦 王静 《运筹与管理》 CSSCI CSCD 北大核心 2023年第8期174-180,共7页
股票市场是一个高噪音的混沌系统,其外部属性之间的相关性问题以及在长期预测时外部影响对股价波动的加剧,导致对股票市场进行准确预测是一项富有挑战性的工作。为解决上述问题,本文利用基于注意力机制的双向长短期记忆神经网络(BiLSTM... 股票市场是一个高噪音的混沌系统,其外部属性之间的相关性问题以及在长期预测时外部影响对股价波动的加剧,导致对股票市场进行准确预测是一项富有挑战性的工作。为解决上述问题,本文利用基于注意力机制的双向长短期记忆神经网络(BiLSTM)对香港地区恒生指数收盘价进行有效性的实证检验。其中,空间注意力机制用于捕捉输入指标之间的相关性并为其赋予区别权重,时间注意力机制用于描述数据的时间相关性以解决长期预测中的时间依赖问题并为时间步赋予区别权重,BiLSTM神经网络用于拟合数据并构建预测模型。本文还比较了四种基于注意力机制的神经网络方法和六种基线方法,实验结果表明,与当下流行的股票指数预测方法相比,基于双维度注意力机制的BiLSTM可以在短、中、长期预测中均实现更准确的股票指数收盘价预测。 展开更多
关键词 注意力机制 双向长短记忆神经网络 股票指数预测 长期预测 空关系
在线阅读 下载PDF
双向长短期记忆网络的时间序列预测方法 被引量:4
12
作者 管业鹏 苏光耀 盛怡 《西安电子科技大学学报》 EI CAS CSCD 北大核心 2024年第3期103-112,共10页
时间序列预测即利用历史时间序列数据,预测未来一段时间内的数据信息,以便提前制定相应策略。目前,时间序列的类别复杂繁多,而现有的时间序列预测模型面对多种类型数据时无法取得稳定预测的结果,进而难以同时满足对现实中多种复杂的时... 时间序列预测即利用历史时间序列数据,预测未来一段时间内的数据信息,以便提前制定相应策略。目前,时间序列的类别复杂繁多,而现有的时间序列预测模型面对多种类型数据时无法取得稳定预测的结果,进而难以同时满足对现实中多种复杂的时序数据预测的应用需求。针对上述问题,提出了一种基于时间注意力机制双向长短期记忆网络的时间序列预测方法。笔者提出的网络模型采用改进的正向和反向传播机制提取时序信息并通过自适应权重分配策略推理未来的时序信息。具体来说,设计了一个改进的双向长短期记忆网络,通过结合双向长短期记忆和长短期记忆网络提取深度时间序列特征,挖掘上下文的时序依赖关系。在此基础上,融合所提出的时间注意力机制,实现对深度时间序列特征进行自适应加权,提升深度时序特征的显著性表达能力。通过与同类代表性方法在多个不同类别数据集上的客观定量对比,实验结果表明,该方法能够在多种类别的复杂时间序列数据上更优的预测性能。 展开更多
关键词 间序列 双向长短记忆网络 长短记忆网络 注意力机制 深度学习
在线阅读 下载PDF
基于注意力机制和双向长短期记忆网络的电能质量扰动识别 被引量:4
13
作者 王以忠 栾振国 +2 位作者 郭肖勇 许素霞 侯勇 《天津科技大学学报》 CAS 2021年第4期51-56,共6页
提出一种基于深度学习的电能质量扰动信号分类新方法.该方法应用注意力机制和双向长短期记忆网络构建分类模型,并利用Matlab仿真产生训练数据集与验证数据集.考虑了7种常见的复合扰动信号,并将其作为序列数据直接输入到网络中进行训练... 提出一种基于深度学习的电能质量扰动信号分类新方法.该方法应用注意力机制和双向长短期记忆网络构建分类模型,并利用Matlab仿真产生训练数据集与验证数据集.考虑了7种常见的复合扰动信号,并将其作为序列数据直接输入到网络中进行训练和验证.实验结果表明,本方法能准确地识别不同的扰动信号,在验证集上模型的识别准确率可以达到99.7%.通过对比实验发现,应用注意力机制和双向长短期记忆网络的模型的识别能力要优于支持向量机和多层感知机等传统机器学习算法. 展开更多
关键词 电能质量 扰动分类 注意力机制 双向长短记忆网络
在线阅读 下载PDF
基于注意力机制-双向长短时记忆网络的智能车周车行为预测 被引量:1
14
作者 高云清 朱菊萍 高洪波 《中国科学技术大学学报》 CAS CSCD 北大核心 2022年第9期59-67,I0003,共10页
本文提出了一种智能驾驶车辆周车行为预测方法。行驶车辆和环境变化的不确定性大导致周车行为预测困难。提出了基于编码器与双向长短时记忆网络(Bi LSTM)联合的预测方法,保证长序列下的可记忆性。根据不同信息的重要性程度,基于注意力... 本文提出了一种智能驾驶车辆周车行为预测方法。行驶车辆和环境变化的不确定性大导致周车行为预测困难。提出了基于编码器与双向长短时记忆网络(Bi LSTM)联合的预测方法,保证长序列下的可记忆性。根据不同信息的重要性程度,基于注意力机制构造双向长短时记忆网络,保证了编码器在长序列下的可记忆性。所设计的注意力机制双向长短时记忆网络模型保证了周车行为预测的准确性与高效性。 展开更多
关键词 行为预测 注意力机制 长短记忆网络 智能车
在线阅读 下载PDF
基于卷积双向长短期记忆网络的微网继电保护故障诊断技术
15
作者 杨志淳 闵怀东 +3 位作者 杨帆 雷杨 胡伟 陈鹤冲 《太阳能学报》 北大核心 2025年第1期420-428,共9页
分布式电源种类和容量不断提升的微网运行方式复杂、故障特征微弱,现有的继电保护装置故障诊断方法无法满足保护需求。提出一种基于卷积双向长短期记忆网络的微网继电保护故障诊断技术。首先,分析多能源互补微网系统架构,对采集的三相... 分布式电源种类和容量不断提升的微网运行方式复杂、故障特征微弱,现有的继电保护装置故障诊断方法无法满足保护需求。提出一种基于卷积双向长短期记忆网络的微网继电保护故障诊断技术。首先,分析多能源互补微网系统架构,对采集的三相电流数据进行预处理,提高后续模型对数据的学习效率;然后,融合卷积神经网络和双向长短期记忆网络提出卷积双向长短期记忆网络的微网继电保护故障诊断方法,提取三相电流数据长序列和局部序列特征实现故障分类、故障定位,融合注意力机制,重点关注对故障诊断有影响的特征,提高故障诊断准确率;最后经过RTDS实时仿真系统进行验证,实验结果表明,所提方法故障诊断精度高、计算时间短,同卷积神经网络、长短期记忆网络、人工神经网络相比,故障分类准确率分别提升8.53%、9.62%、11.45%,故障定位准确率分别提升7.47%、10.61%、10.85%,验证所提方法的有效性与先进性。 展开更多
关键词 微网 继电保护 故障诊断 卷积双向长短记忆网络 三相电流 注意力机制
在线阅读 下载PDF
基于联合注意力机制和一维卷积神经网络-双向长短期记忆网络模型的流量异常检测方法 被引量:22
16
作者 尹梓诺 马海龙 胡涛 《电子与信息学报》 EI CSCD 北大核心 2023年第10期3719-3728,共10页
针对流量数据集中类别不平衡限制了分类模型对少数类攻击流量的检测性能这一问题,该文提出一种基于联合注意力机制和1维卷积神经网络-双向长短期记忆网络(1DCNN-BiLSTM)模型的流量异常检测方法。首先在数据预处理过程中利用BorderlineSM... 针对流量数据集中类别不平衡限制了分类模型对少数类攻击流量的检测性能这一问题,该文提出一种基于联合注意力机制和1维卷积神经网络-双向长短期记忆网络(1DCNN-BiLSTM)模型的流量异常检测方法。首先在数据预处理过程中利用BorderlineSMOTE方法对流量数据不平衡训练样本预处理,使得各类流量数据均衡,有助于后续模型对各类数据的充分训练。然后设计联合注意力机制和1DCNN-BiLSTM的模型对流量数据进行训练,提取流量数据的局部和长距离序列特征并进行分类,通过注意力机制将对分类有用的特征按其重要性赋予权值,提高对少数攻击类的检出率。实验结果表明,同几种现有方法相比,该文方法对NSL-KDD和CICIDS2017数据集的检测准确率最高(可达93.17%和98.65%),对NSL-KDD数据集中的提权攻击(U2R)攻击流量的检出率至少提升13.70%,证明了该文方法提升少数类攻击流量检出率的有效性。 展开更多
关键词 流量异常检测 类别不平衡 一维卷积神经网络-双向长短记忆网络 注意力机制
在线阅读 下载PDF
基于层级注意力机制与双向长短期记忆神经网络的智能合约自动分类模型 被引量:8
17
作者 吴雨芯 蔡婷 张大斌 《计算机应用》 CSCD 北大核心 2020年第4期978-984,共7页
针对区块链平台上智能合约应用种类繁多,人工筛选合适的智能合约应用服务日益困难的问题,提出一种基于层级注意力机制与双向长短期记忆(Bi-LSTM)神经网络的智能合约自动分类模型——HANN-SCA。首先,利用Bi-LSTM网络从智能合约源代码和... 针对区块链平台上智能合约应用种类繁多,人工筛选合适的智能合约应用服务日益困难的问题,提出一种基于层级注意力机制与双向长短期记忆(Bi-LSTM)神经网络的智能合约自动分类模型——HANN-SCA。首先,利用Bi-LSTM网络从智能合约源代码和账户信息两个角度同时建模,最大限度地提取智能合约的特征信息。其中源代码角度关注智能合约中的代码语义特征,账户信息角度关注智能合约的账户特征。然后,在特征学习过程中从词层面和句层面分别引入注意力机制,重点捕获对智能合约分类有重要意义的单词和句子。最后,拼接代码特征与账户特征以生成智能合约文档级特征表示,通过Softmax层完成分类任务。实验结果表明,所提模型在Dataset-E、Dataset-N和Dataset-EO数据集上的分类正确率分别达到了93.1%、91.7%和92.1%,效果明显优于传统的支持向量机模型(SVM)和其他神经网络基准模型,且具有更好的稳定性与更高的收敛速度。 展开更多
关键词 智能合约分类 层级注意力机制 双向长短记忆网络 代码语义特征 账户特征
在线阅读 下载PDF
注意力机制的长短时记忆神经网络航线订座需求预测 被引量:1
18
作者 陈思杰 傅仰耿 《福州大学学报(自然科学版)》 CAS 北大核心 2022年第3期308-314,共7页
针对航线订座需求预测中存在的预测结果不稳定,偏差较大的问题,提出一种基于注意力机制的长短时记忆神经网络航线订座需求预测模型.首先,对采集得到的航线订座需求数据进行数据清洗与指标计算处理;接着,对处理后的指标数据基于注意力机... 针对航线订座需求预测中存在的预测结果不稳定,偏差较大的问题,提出一种基于注意力机制的长短时记忆神经网络航线订座需求预测模型.首先,对采集得到的航线订座需求数据进行数据清洗与指标计算处理;接着,对处理后的指标数据基于注意力机制做权重分配;然后进行长短时记忆神经网络航线订座需求预测模型的建立,从而得到航线订座需求的最终预测结果值.将训练优化得到的模型应用于国内某航司的航线订座需求预测中,计算出预测结果.实验结果表明,基于注意力机制的长短时记忆神经网络航线订座需求预测模型预测精度较高,以厦门-上海航线为例,预测结果与真实值对比,平均绝对误差为13.1,均方根误差为17.2,相比较于移动平均法、指数平滑法及循环神经网络,CNN-LSTM混合模型有较好的预测效果. 展开更多
关键词 需求预测 长短记忆神经网络 注意力机制 航线 订座
在线阅读 下载PDF
基于Bi‑LSTM和时序注意力的异常心音检测
19
作者 卢官明 蔡亚宁 +3 位作者 卢峻禾 戚继荣 王洋 赵宇航 《南京邮电大学学报(自然科学版)》 北大核心 2025年第1期12-20,共9页
异常心音检测是对心脏病进行初步诊断的一种有效而方便的方法。为提升异常心音的检测性能,提出了一种基于双向长短时记忆网络(Bi⁃directional Long Short⁃Term Memory,Bi⁃LSTM)和时序注意力的异常心音检测算法。首先对心音片段进行分帧... 异常心音检测是对心脏病进行初步诊断的一种有效而方便的方法。为提升异常心音的检测性能,提出了一种基于双向长短时记忆网络(Bi⁃directional Long Short⁃Term Memory,Bi⁃LSTM)和时序注意力的异常心音检测算法。首先对心音片段进行分帧处理,使用平均幅度差函数(Average Magnitude Difference Function,AMDF)和短时过零率(Short⁃Time Zero⁃Crossing Rate,STZCR)提取每帧心音信号的初始特征;然后将它们拼接后作为Bi⁃LSTM的输入,并引入时序注意力机制,挖掘特征的长期依赖关系,提取心音信号的上下文时域特征;最后通过Softmax分类器,实现正常/异常心音的分类。在PhysioNet/CinC Challenge 2016提供的心音公共数据集上对所提出的算法使用10折交叉验证法进行了评估,其准确度、灵敏度、特异性、精度和F1评分分别为0.9579、0.9364、0.9642、0.8838和0.9093,优于已有的其他算法。实验结果表明,该算法在无需进行心音分段的基础上就能有效实现异常心音检测,在心血管疾病的临床辅助诊断中具有潜在的应用前景。 展开更多
关键词 心音分类 平均幅度差函数 过零率 双向长短记忆网络 注意力机制
在线阅读 下载PDF
基于注意力长短时记忆网络的中文词性标注模型 被引量:21
20
作者 司念文 王衡军 +2 位作者 李伟 单义栋 谢鹏程 《计算机科学》 CSCD 北大核心 2018年第4期66-70,82,共6页
针对传统的基于统计模型的词性标注存在人工特征依赖的问题,提出一种有效的基于注意力长短时记忆网络的中文词性标注模型。该模型以基本的分布式词向量作为单元输入,利用双向长短时记忆网络提取丰富的词语上下文特征表示。同时在网络中... 针对传统的基于统计模型的词性标注存在人工特征依赖的问题,提出一种有效的基于注意力长短时记忆网络的中文词性标注模型。该模型以基本的分布式词向量作为单元输入,利用双向长短时记忆网络提取丰富的词语上下文特征表示。同时在网络中加入注意力隐层,利用注意力机制为不同时刻的隐状态分配概率权重,使隐层更加关注重要特征,从而优化和提升隐层向量的质量。在解码过程中引入状态转移概率矩阵,以进一步提升标注准确率。在《人民日报》和中文宾州树库CTB5语料上的实验结果表明,该模型能够有效地进行中文词性标注,其准确率高于条件随机场等传统词性标注方法,与当前较好的词性标注模型也十分接近。 展开更多
关键词 词性标注 长短记忆网络 注意力机制 上下文特征
在线阅读 下载PDF
上一页 1 2 33 下一页 到第
使用帮助 返回顶部