跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

3 条精选近 30 天 2 条共收录 37 条

更新

部署工程的精选

9月22日周二第 1–3 条
9月17日周四
  1. GitHub Blog · AI & ML74

    GitHub Copilot 用 Copilot 将 80 万行运行时从 TypeScript 重写为 Rust

    GitHub 借助 GitHub Copilot app 和 Copilot CLI,把 Copilot agent 运行时从 TypeScript 重写为超过 800,000 行生产 Rust,128 个 PR 合入 main,8 月 21 日运行时达到 100% Rust,性能提升若干数量级。

    推荐理由:原文用会话日志量化了智能体写代码时的探索比例与编译器报错分布,并给出原地原子替换的迁移方法,可迁移到其他大规模重构。

8月28日周五
  1. Google DeepMind65

    Gemini Omni 1.1 Flash 发布,新增场景延长与首尾帧插值等视频控制能力

    Gemini Omni 1.1 Flash 发布,新增场景延长、首尾帧插值、360p 快速草稿、4K 上采样和视频参考五项创意控制,已通过 Gemini API 在 Google AI Studio 与 Agent Platform API 开放。

    推荐理由:逐项给出五项新控制能力与对应 API 用法,方便开发者判断是否把生成视频流程迁到 Omni 1.1。