清华团队与合作者推出大语言模型RealSafe-R1
中新网北京2月24日电 (记者 张素)2月23日,清华大学与瑞莱智慧联合团队推出大语言模型RealSafe-R1。研发团队代表介绍说,实验数据表明RealSafe-R1安全性提升显著,“安全增强版DeepSeek”可为更多应用提供可靠坚实基座。
连日来,国产开源大模型DeepSeek的优异表现备受关注,其在自然语言处理和多任务推理方面的能力展现了强大的技术实力,尤其是在复杂问题解决和创造性任务中表现出色。业内专家同时提醒,DeepSeek R1和V3在面对一些安全性挑战时仍存在一定的局限性。
针对“安全对齐机制不足”这一当前开源大模型的通病,清华瑞莱联合团队提出基于模型自我提升的安全对齐方式。“大模型的安全性瓶颈是本质的,只有通过持续投入和攻坚补齐短板弱项,人工智能产业才能真正实现高质量发展。”瑞莱智慧首席执行官田天说。
据介绍,研发团队将安全对齐与内省推理相结合,使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险,实现基础模型自身能力的自主进化。具体来说,研发团队对DeepSeek-R1系列模型进行后训练,正式推出RealSafe-R1系列大模型。
实验数据表明,RealSafe-R1安全性提升显著,在多个基准测试中有效增强了对各种越狱攻击的抵抗力,并减轻了安全与性能之间“跷跷板”现象。有评论认为,这为开源大模型安全发展与风险治理提供了创新性解决方案。
田天表示,RealSafe-R1各尺寸模型及数据集,将于近期向全球开发者开源。他进一步指出,这一创新成果将为开源大模型的安全性加固提供有力支持,也为政务、金融、医疗等场景的应用提供更为可靠的坚实基座。(完)
(原标题:清华瑞莱联合团队:“安全增强版DeepSeek”可为应用提供坚实基座)
本文链接:http://knowith.com/news-2-2623.html清华团队与合作者推出大语言模型RealSafe-R1
声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
关于公布2023年国家技术创新示范企业名单和国家技术创新示范企业复核评价结果的通知(工信部科函〔2024〕7号)
【解读】本市新增8项专技人员职业资格与职称对应关系取得职业资格符合条件可聘相应职称
“创客北京2022”创新创业大赛顺义区级赛暨第三届“创新顺义”创新创业大赛启动的通知
关于金融支持住房租赁市场发展的意见(银发〔2024〕2号)
【解读】证监会就《上市公司向特定对象发行可转换公司债券购买资产规则(征求意见稿)》公开征求意见
北京市新型冠状病毒感染监测预警工作方案
北航破解“折翼”无人机飞行难题
“北京智造”牵手“北京服务”融合发展
推动科技向善 把好伦理“方向盘”——科技部有关负责人解读《科技伦理审查办法(试行)》
天津经开区与公检法部门联合发布优化法治化营商环境若干措施