清华团队推出“保险加强版DeepSeek”

作者: [db:作者]   点击次数:    发布时间: 2025-02-27 08:49

国民网北京2月24日电 （记者赵竹青）2月23日，清华年夜学盘算机系相干研讨团队发布推出年夜言语模子RealSafe-R1。该模子基于DeepSeek R1停止深度优化与后练习，在确保机能稳固的基本上，明显晋升了保险性，为开源年夜模子的保险开展与危险管理供给了翻新性处理计划。 克日来，国产开源年夜模子DeepSeek在天然言语处置跟多义务推理方面展示了强盛的技巧气力，但在面临逃狱攻打等保险性挑衅时仍存在必定范围性。为此，清华团队提出了基于模子自我晋升的保险对齐方法，将保险对齐与内省推理相联合，使年夜言语模子可能经由过程存在保险认识的头脑链剖析来检讨潜伏危险，实现基本模子本身才能的自立退化。 基于该方式，团队对DeepSeek-R1系列模子停止后练习，正式推出RealSafe-R1系列年夜模子。试验数据标明，RealSafe-R1保险性晋升明显，在多个基准测试中无效加强了对种种逃狱攻打的抵御力，并加重了保险与机能之间的“跷跷板”景象。 据悉，RealSafe-R1各尺寸模子及数据集将于近期向寰球开辟者开源。 (责编：赵竹青、吕骞) 存眷大众号：国民网财经 分享让更多人看到