2025年6月3日

llm-d 第 1+2 周项目新闻汇总

嘿，llm-d 项目团队在 5 月 20 日发布后一直非常忙碌。

我们在 GitHub 上达到了 1000 颗 ⭐️

以下是一些活跃的设计讨论

加入我们的 Google Group

我们使用 Google Group 来分享架构图和其他内容。请加入： llm-d-contributors Google Group

• 2025-06-01 [公开] llm-d KVTransfer 协议
• 重新审视 InferenceModel API
• ModelService：llm-d 上的声明式推理服务
• [外部] Kubernetes 中大模型服务器指标的标准化
• [公开] LLM 工作负载
• [公开] LLM-D 推理调度器路线图

希望跟踪我们或参与项目的人员的项目链接

• 项目启动
• 贡献者指南
• 项目日历
  • 所有 SIG 会议
  • 每周社区会议，每周三美国东部时间下午 12:30
• 加入 llm-d Google group - 所有工程草稿都在这里分享。您必须加入该群组才能访问项目 google docs。
• 加入 Slack
• llm-d 第二季度路线图

在社交媒体上关注我们的地方

• https://llmd.cn
• LinkedIn
• Bluesky - @llm-d.ai
• @_llm_d_
• r/llm_d
• YouTube - 即将推出