在業(yè)界對新一代旗艦模型DeepSeek V4的翹首期盼中,DeepSeek團隊卻悄然放出了一篇新的學術論文論文。這篇論文由DeepSeek聯合北大、清華共同撰寫,將研究方向投向了決定大模型實際應用落地的關鍵一環(huán)——推理速度,為日益復雜的AI智能體,提供一套高效的底層系統(tǒng)解決方案。
具體來說,新論文介紹了一個名為DualPath的創(chuàng)新推理系統(tǒng),專門針對智能體工作負載下的大模型(LLM)推理性能進行優(yōu)化論文。通過引入“雙路徑讀取KV-Cache(類似記憶緩存)”機制,重新分配存儲網絡負載,將離線推理吞吐量最高提升1.87倍,在線服務的每秒智能體運行數平均提升1.96倍。(第一財經記者 劉曉潔)