人工神经网络的自适应结构学习(AdaNet)是基于Boosting集成学习的神经结构搜索框架,可通过集成子网创建高质量的模型。现有的AdaNet所产生的子网之间的差异性不显著,因而限制了集成学习中泛化误差的降低。在AdaNet设置子网网络权重和集...人工神经网络的自适应结构学习(AdaNet)是基于Boosting集成学习的神经结构搜索框架,可通过集成子网创建高质量的模型。现有的AdaNet所产生的子网之间的差异性不显著,因而限制了集成学习中泛化误差的降低。在AdaNet设置子网网络权重和集成子网的两个步骤中,使用Adagrad、RMSProp、Adam、RAdam等自适应学习率方法来改进现有AdaNet中的优化算法。改进后的优化算法能够为不同维度参数提供不同程度的学习率缩放,得到更分散的权重分布,以增加AdaNet产生子网的多样性,从而降低集成学习的泛化误差。实验结果表明,在MNIST(Mixed National Institute of Standards and Technology database)、Fashion-MNIST、带高斯噪声的Fashion-MNIST这三个数据集上,改进后的优化算法能提升AdaNet的搜索速度,而且该方法产生的更加多样性的子网能提升集成模型的性能。在F1值这一评估模型性能的指标上,改进后的方法相较于原方法,在三种数据集上的最大提升幅度分别为0.28%、1.05%和1.10%。展开更多
通过定量地评估本体中概念或实体的波及效应,本体的所有者和使用者均能够准确、全面地分析本体演化。现有方法初步量化了本体中的波及效应,但是并未考虑本体中语义关系强弱对于波及效应的影响。针对上述问题,本文提出了基于术语频率与...通过定量地评估本体中概念或实体的波及效应,本体的所有者和使用者均能够准确、全面地分析本体演化。现有方法初步量化了本体中的波及效应,但是并未考虑本体中语义关系强弱对于波及效应的影响。针对上述问题,本文提出了基于术语频率与本体频率(term frequency and ontology frequency,TFOF)的定量评估方法,并将其应用于本体演化研究。该方法利用本体中语义关系的出现频率计算关系的权重,从而获得本体所对应的语义关系矩阵,最后运用改进的Floyd-warshall算法计算各个概念或实体的波及效应。实验结果表明,基于TFOF波及效应的评估方法能够更精准地度量本体演化过程中概念或实体的波及效应,且该方法对不同版本中共有结点的度量结果更加稳定。展开更多
文摘人工神经网络的自适应结构学习(AdaNet)是基于Boosting集成学习的神经结构搜索框架,可通过集成子网创建高质量的模型。现有的AdaNet所产生的子网之间的差异性不显著,因而限制了集成学习中泛化误差的降低。在AdaNet设置子网网络权重和集成子网的两个步骤中,使用Adagrad、RMSProp、Adam、RAdam等自适应学习率方法来改进现有AdaNet中的优化算法。改进后的优化算法能够为不同维度参数提供不同程度的学习率缩放,得到更分散的权重分布,以增加AdaNet产生子网的多样性,从而降低集成学习的泛化误差。实验结果表明,在MNIST(Mixed National Institute of Standards and Technology database)、Fashion-MNIST、带高斯噪声的Fashion-MNIST这三个数据集上,改进后的优化算法能提升AdaNet的搜索速度,而且该方法产生的更加多样性的子网能提升集成模型的性能。在F1值这一评估模型性能的指标上,改进后的方法相较于原方法,在三种数据集上的最大提升幅度分别为0.28%、1.05%和1.10%。
文摘通过定量地评估本体中概念或实体的波及效应,本体的所有者和使用者均能够准确、全面地分析本体演化。现有方法初步量化了本体中的波及效应,但是并未考虑本体中语义关系强弱对于波及效应的影响。针对上述问题,本文提出了基于术语频率与本体频率(term frequency and ontology frequency,TFOF)的定量评估方法,并将其应用于本体演化研究。该方法利用本体中语义关系的出现频率计算关系的权重,从而获得本体所对应的语义关系矩阵,最后运用改进的Floyd-warshall算法计算各个概念或实体的波及效应。实验结果表明,基于TFOF波及效应的评估方法能够更精准地度量本体演化过程中概念或实体的波及效应,且该方法对不同版本中共有结点的度量结果更加稳定。
