首页
学习
活动
专区
圈层
工具
发布

优刻得携手华中科技大学探索Agent推理基础设施新路径

5月28日,据优刻得-W(688158.SH)消息,优刻得与华中科技大学达成产学研合作,聚焦Agent场景下的大模型推理瓶颈,围绕KV Cache卸载与复用技术展开联合研究,共同探索面向下一代AI推理基础设施的系统级创新方案。

双方结合云基础设施、分布式存储与异构计算等领域能力,从“单请求长上下文推理”与“跨请求前缀复用”两个维度,共同推进多层级KV Cache卸载体系建设,为Agent推理服务提供更高效、更具扩展性的底层支撑。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/ODSA8T8V4RnldkKkDUStFl8w0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券