中国信通院联合金橙果科技等十七家单位发起人工智能大模型安全基准测试

2024年2月20日下午,AIIA“SafetyAI Bench”(人工智能大模型安全基准测试)线上研讨会成功举办。来自中国信息通信研究院(以下简称“中国信通院”)、厦门大学、北京大学、北京交通大学、360、百度、蚂蚁集团、VIVO、西门子、小鹏汽车、马上消费、浪潮科技、海信视像、交通银行、商汤科技、邮储银行、普华永道、科大讯飞、金橙果科技、万商天勤律所、中兴通讯、博特智能、开源网安、云天励飞等单位40余位科研机构专家及企业代表参加了本次会议。

中国信通院人工智能研究中心、AIIA 安全治理委员会 AI原生安全工作组组长张蔚敏介绍了AIIA“SafetyAI Bench”的工作背景。为了进一步推动大模型的安全部署应用,中国信通院联合17家单位发起大模型安全基准测试SafetyAI Bench,秉持公平公正、产业应用和场景导向的原则,目标建立业内权威大模型安全中文基准测试体系。以提高内容安全、数据安全和科技伦理等安全能力为目标,覆盖价值观正确、合法合规、隐私保护、文明健康等二十个维度的中文评测数据集。帮助大模型技术提供方提升模型安全风险防范能力,为大模型研发和落地保驾护航。

中国信通院人工智能研究中心安全与元宇宙部白入文博士介绍了“大模型评测系统”建设工作,系统将依托工信部大模型公共服务平台形成大模型评测执行的“硬工具”,为通用大模型、行业大模型、 大模型应用产品等提供一站式评测服务。一是以中立身份形成全维度、可拓展、公开、公正、公平的大模型评测能力,二是围绕产业实际应用需求开展动态评测服务,三是提供包括模型选型与供需对接在内的应用落地配套服务。

金橙果科技是人工智能中台技术研发的优秀团队,其产品AZSYS系统可以有效提升对异构数据的处理能力,帮助大模型与应用场景深度融合。搭载了该系统的伙伴AI在深度学习、自然语言理解、AI模型开发、角色构建与训练等领域均有非常出色的表现。金橙果科技CEO宋佰轩表示,我们正处于新的科技革命爆发前夕,AI不仅会改变我们思考和解决问题的方式,更会为人类社会生产生活方式激活无限新可能。未来AI将无处不在,随之而来的AI安全问题将是我们面临的巨大挑战,我们愿意携手更多同道者,一起推动行业安全标准的制定和实施,共建美好AI未来。