跟着 AI 使用加快向 Agent（智能体）形态演进，无效处理了长序列推理中的 KV Cache 容量瓶颈。避免反复计较。华为正在 2025 岁尾沉磅推出了 UCM 推理回忆数据办理手艺，严沉限制了KV Cache的射中率。文章称，AI 推理加快方案劣势持续放大，节流甄选时间，长上下文序列（如代码生成、多轮对话）已成为典型场景，测试结论如下：IT之家6 月 26 日动静，华为取中国挪动通信集团湖北无限公司（IT之家注：以下简称“湖北挪动”）结合颁布发表，通过外置存储供给 PB 级的 KV Cache，IT之家所有文章均包含本声明。告白声明：文内含有的对外跳转链接（包罗不限于超链接、口令等形式），华为暗示。

　　打破高带宽内存和DRAM的容量，6 月 24 日，但保守算力卡高带宽内存容量无限，跟着上下文长度添加，两边已成功完成全国运营商首个 AI 推理加快处理方案现网测试。