跳到正文

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

最新精选

第 21–25 条 · 共 25 条
4月27日周一
3月18日周三
  1. Google Research74

    Google Research 发布机器学习改进乳腺癌筛查工作流的两项 Nature Cancer 研究

    Google Research 与多家 NHS 组织在 AIMS 研究中发布两项 Nature Cancer 配套研究,评估 AI 乳腺癌检测系统在英国乳腺筛查中的独立性能、部署可行性和双读流程整合效果。

    推荐理由:两项 Nature Cancer 研究把独立性能与双读流程放在一起比较,呈现医疗 AI 落地的工作量影响。

10月16日周四
  1. World Labs77

    World Labs 发布 RTFM 实时生成式世界模型研究预览

    World Labs 分享了 RTFM(Real-Time Frame Model),一个可在交互时实时生成视频的生成式世界模型,今天以研究预览版开放。RTFM 可用于探索生成的 3D 世界和真实地点,并可在浏览器中 demo;其目标是在单个 H100 GPU 上以交互帧率推理。

    推荐理由:原文披露了单 H100 实时生成持久 3D 世界的架构思路,可作为世界模型工程取舍参考。

8月9日周六
7月11日周五
  1. moonshotai · Hugging Face 新模型85

    Moonshot AI 发布 Kimi-K2-Instruct,1T 参数 MoE 模型面向 Agent 能力

    Moonshot AI 发布 Kimi-K2-Instruct,这是 Kimi K2 的后训练版本,面向通用聊天和 agentic experiences。Kimi K2 是 MoE 语言模型,拥有 1T 总参数、32B 激活参数、128K 上下文窗口,并在 15.5T tokens 上预训练。

    推荐理由:材料同时给出架构参数、基准对比和部署方式,便于评估 Kimi K2 的编码与工具调用定位。