以 ChatGPT 为代表的人工智能大模型技术已经展现出其巨大的潜力和应用价值。然而，随着大模型技术的快速发展，其面临的安全风险也日益凸显，如数据隐私泄露、幻觉问题、提示注入攻击、后门攻击等问题亟待解决，已成为制约大模型技术发展和应用的关键因素。

为了探讨大模型技术在应用过程中面临的安全风险及有效应对策略，共同推动大模型安全技术的创新与发展，7月17日下午，黑龙江省计算机前沿技术大会---大模型安全风险与应对论坛在哈尔滨举行。本届论坛由黑龙江省科学技术学会主办，黑龙江省计算机学会、CCF计算机应用专业委员会、《网络空间安全科学学报》、哈尔滨工业大学网络空间安全学院、黑龙江省委网信办共同承办。会议邀请清华大学、哈工大、安天科技、西安交通大学、浙江大学等专家学者介绍人工智能安全领域的学术研究科研成果，分享各自的关于人工智能安全的风险对策与实践经验。

在会议的panel环节，与会专家学者共同讨论了大模型因样本规模大、使用环境复杂开放、求解过程不确定性、主体责任与约束不到位等带来的机密性、完整性、可控性等挑战，倡导在永无止境地探索和提升大模型性能的同时，坚守应用过程中的安全底线，从原理、技术、管理、标准、法律法规与科技伦理等方面积极应对并最小化使用中的风险。来自全国高校、企业的100余位教师、学生和社会人士参加会议，并进行热烈讨论。