-
题名大语言模型可信:内涵、影响、挑战与对策
被引量：2
- 1
-
-
作者
钱明辉
李胡蓉
杨建梁
-
机构
中国人民大学信息资源管理学院
中国人民大学智能信息分析研究中心
中国人民大学数字人文研究院
-
出处
《图书情报工作》
CSSCI
北大核心
2024年第20期69-86,共18页
-
基金
国家社会科学基金重点项目“基于数智融合的信息分析方法创新与应用”(项目编号:22AZD158)研究成果之一。
-
文摘
[目的/意义]大语言模型可信能够确保模型在医疗、教育、法律等关键领域中可靠和安全地使用,并让公众对其信任,从而推动生成式人工智能技术的健康和可持续发展。[方法/过程]采用文献调研法对有关大语言模型可信相关研究展开分析,从大语言模型可信概念及内涵、大语言模型可信的影响因素、大语言模型可信面临的挑战及构建实现大语言模型可信的“TRUE”应对策略4个方面,对大语言模型可信进行全面分析。[结果/结论]大语言模型可信研究尚处于探索阶段,从内涵、影响、挑战等方面出发,搭建了信息技术、信息资源、信息用户和信息环境“TRUE”对策体系,以期推进大语言模型的善用,助力生成式人工智能向着更美好的方向发展。
-
关键词
大语言模型可信
内涵
影响
挑战
对策
-
Keywords
large language models trustworthiness
connotation
influence
challenge
trategy
-
分类号
G250
[文化科学—图书馆学]
-
-
题名面向可信大语言模型智能体的安全挑战与应对机制
- 2
-
-
作者
张熙
李朝卓
许诺
张力天
-
机构
北京邮电大学网络空间安全学院
北京航空航天大学网络空间安全学院
-
出处
《信息通信技术与政策》
2025年第1期33-39,共7页
-
文摘
随着大语言模型驱动的智能体在各领域的应用日益深化,潜在的安全隐患逐渐凸显。旨在系统梳理基于大语言模型的智能体面临的信息泄露、模型攻击、幻觉输出、伦理道德风险和法律合规隐患等安全可信问题。通过对这些安全隐患的成因与影响进行深入分析,探讨现有的防护措施和技术手段,提出构建可信大语言模型智能体的建议,为相关研究和实践提供参考。
-
关键词
可信大语言模型智能体
安全
防御
-
Keywords
trustworthy large language model agent
security
defense
-
分类号
TP391.1
[自动化与计算机技术—计算机应用技术]
-
