中新網北京2月24日電 (記者 張素)2月23日，清華大學與瑞萊智慧聯合團隊推出大語言模型RealSafe-R1。研發團隊代表介紹說，實驗數據表明RealSafe-R1安全性提升顯著，“安全增強版DeepSeek”可為更多應用提供可靠堅實基座。
連日來，國產開源大模型DeepSeek的優異表現備受關注，其在自然語言處理和多任務推理方面的能力展現了強大的技術實力，尤其是在復雜問題解決和創造性任務中表現出色。業內專家同時提醒，DeepSeek R1和V3在面對一些安全性挑戰時仍存在一定的局限性。
針對“安全對齊機制不足”這一當前開源大模型的通病，清華瑞萊聯合團隊提出基于模型自我提升的安全對齊方式。“大模型的安全性瓶頸是本質的，只有通過持續投入和攻堅補齊短板弱項，人工智能產業才能真正實現高質量發展。”瑞萊智慧首席執行官田天說。
據介紹，研發團隊將安全對齊與內省推理相結合，使大語言模型能夠通過具有安全意識的思維鏈分析來檢查潛在風險，實現基礎模型自身能力的自主進化。具體來說，研發團隊對DeepSeek-R1系列模型進行后訓練，正式推出RealSafe-R1系列大模型。
實驗數據表明，RealSafe-R1安全性提升顯著，在多個基準測試中有效增強了對各種越獄攻擊的抵抗力，并減輕了安全與性能之間“蹺蹺板”現象。有評論認為，這為開源大模型安全發展與風險治理提供了創新性解決方案。
田天表示，RealSafe-R1各尺寸模型及數據集，將于近期向全球開發者開源。他進一步指出，這一創新成果將為開源大模型的安全性加固提供有力支持，也為政務、金融、醫療等場景的應用提供更為可靠的堅實基座。(完)