以 ChatGPT 为代表的人工智能大模型技术已经展现出其巨大的潜力和应用价值。然而,随着大模型技术的快速发展,其面临的安全风险也日益凸显,如数据隐私泄露、幻觉问题、提示注入攻击、后门攻击等问题亟待解决,已成为制约大模型技术发展和应用的关键因素。
为了探讨大模型技术在应用过程中面临的安全风险及有效应对策略,共同推动大模型安全技术的创新与发展,7月17日下午,黑龙江省计算机前沿技术大会---大模型安全风险与应对论坛在哈尔滨举行。本届论坛由黑龙江省科学技术学会主办,黑龙江省计算机学会、CCF计算机应用专业委员会、《网络空间安全科学学报》、哈尔滨工业大学网络空间安全学院、黑龙江省委网信办共同承办。会议邀请清华大学、哈工大、安天科技、西安交通大学、浙江大学等专家学者介绍人工智能安全领域的学术研究科研成果,分享各自的关于人工智能安全的风险对策与实践经验。
在会议的panel环节,与会专家学者共同讨论了大模型因样本规模大、使用环境复杂开放、求解过程不确定性、主体责任与约束不到位等带来的机密性、完整性、可控性等挑战,倡导在永无止境地探索和提升大模型性能的同时,坚守应用过程中的安全底线,从原理、技术、管理、标准、法律法规与科技伦理等方面积极应对并最小化使用中的风险。来自全国高校、企业的100余位教师、学生和社会人士参加会议,并进行热烈讨论。
![](/__local/D/7A/53/13E57BB1268CD14FA4BD892248F_653AC711_997E.png)