【腾讯云将全面升级云基础设施】财联社 9 月 16 日电，在 9 月 16 日举行的 2025 腾讯全球数字生态大会上，腾讯集团副总裁、腾讯云总裁邱跃鹏透露，目前，腾讯云已在推理加速、Agent Infra 和国际化布局等方面取得突破，腾讯云正不断升级云基础设施，以支撑 Agent 规模化落地和企业全球化发展。邱跃鹏介绍，在推理加速方面，腾讯云深入参与开源贡献，向 DeepSeek、vLLM、SGLang 等社区提交了多项优化技术。针对大模型推理面临的内存瓶颈，腾讯云自研并开源 FlexKV 多级缓存技术，大幅降低 KVCache 的占用，将首字时延降低多达 70%。
科创板日报
27分钟前
