<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
    <channel>
        <title>1M上下文 on AI博士 万戈</title>
        <link>https://www.yesmiracle.net/tags/1m%E4%B8%8A%E4%B8%8B%E6%96%87/</link>
        <description>AI博士万戈的技术博客，聚焦 Agentic AI、AI Infra 与 Agent Security，分享 AI 基础设施与工程落地实践。</description>
        <generator>Hugo -- gohugo.io</generator>
        <language>zh-cn</language>
        <managingEditor>admin@yesmiracle.net (万戈)</managingEditor>
        <webMaster>admin@yesmiracle.net (万戈)</webMaster>
        <lastBuildDate>Fri, 17 Jul 2026 00:00:00 +0000</lastBuildDate><atom:link href="https://www.yesmiracle.net/tags/1m%E4%B8%8A%E4%B8%8B%E6%96%87/index.xml" rel="self" type="application/rss+xml" /><item>
        <title>横空出世！月之暗面发布 Kimi K3，2.8 万亿参数开源模型，1M 上下文硬刚 GPT-5.6！</title>
        <link>https://www.yesmiracle.net/post/20260717-moonshot-kimi-k3-open-3t-model/</link>
        <pubDate>Fri, 17 Jul 2026 00:00:00 +0000</pubDate>
        <author>admin@yesmiracle.net (万戈)</author>
        <guid>https://www.yesmiracle.net/post/20260717-moonshot-kimi-k3-open-3t-model/</guid>
        <description>&lt;img src="https://www.yesmiracle.net/post/20260717-moonshot-kimi-k3-open-3t-model/cover.svg" alt="Featured image of post 横空出世！月之暗面发布 Kimi K3，2.8 万亿参数开源模型，1M 上下文硬刚 GPT-5.6！" /&gt;&lt;p&gt;如果你关注开源大模型的天花板在哪，昨天月之暗面（Moonshot AI）给出了一个让人瞠目结舌的答案。&lt;/p&gt;
&lt;p&gt;7月16日，Moonshot 静悄悄地在 API 文档页面上加了一行字：「🎉 Kimi K3 has launched!」——没有盛大的发布会，没有 CEO 演讲，没有 Benchmark 榜单——但这是全球第一个 &lt;strong&gt;3T 级开源模型&lt;/strong&gt;，2.8 万亿参数的 MoE，带着 1M Token 上下文和原生视觉理解，直接站到了 GPT-5.6 Sol 和 Claude Fable 5 面前。&lt;/p&gt;
&lt;h3 id=&#34;28t开源模型的天花板被捅穿了&#34;&gt;2.8T：开源模型的天花板被捅穿了&lt;/h3&gt;
&lt;p&gt;先看数字。Kimi K3 总参数 2.8 万亿（官方说 2.8T，社区戏称「向上取整到 3T」），是 DeepSeek V4 Pro（1.6T）的将近两倍，超过之前所有开源模型的总和量级。&lt;/p&gt;
&lt;p&gt;它采用 Mixture of Experts 架构，896 个专家，每次激活约 16 个，活跃参数估计在 40-60B 之间（比 K2.6 的 32B 翻倍）。Moonshot 称，相比 Kimi K2，&lt;strong&gt;整体扩展效率提升了约 2.5 倍&lt;/strong&gt;——同样的算力，K3 能转化成更强的智能。&lt;/p&gt;
&lt;p&gt;这不是一个「堆参数」的粗暴故事。从 2025 年 7 月到 2026 年 7 月，整整 12 个月里，Kimi 系列模型有 9 个月占据着开源模型参数规模的头把交椅。K3 是这个持续押注 Scaling Law 的集大成者。&lt;/p&gt;
&lt;h3 id=&#34;kimi-delta-attention1m-上下文的秘密武器&#34;&gt;Kimi Delta Attention：1M 上下文的秘密武器&lt;/h3&gt;
&lt;p&gt;1M 上下文，很多模型都说支持，但真正能用、能用好、能用得起是另一回事。&lt;/p&gt;
&lt;p&gt;K3 的核心技术是 &lt;strong&gt;Kimi Delta Attention（KDA）&lt;/strong&gt;，一种混合线性注意力机制（论文 arXiv 2510.26692，2025 年 10 月）。设计思路很巧妙：&lt;strong&gt;3:1 的线性注意力与全注意力的交错层&lt;/strong&gt;——三个线性层处理局部序列结构，一个全注意力层维护全局信息流。&lt;/p&gt;
&lt;p&gt;效果是什么？&lt;strong&gt;KV-Cache 内存减少 75%，解码吞吐量提升 6 倍&lt;/strong&gt;（在 1M 上下文长度下），同时短上下文、长上下文和 RL 后训练任务的表现不输全注意力基线。&lt;/p&gt;
&lt;p&gt;这就是为什么 K3 的定价是&lt;strong&gt;平坦的&lt;/strong&gt;——没有长上下文溢价。通常 1M 上下文意味着 KV-Cache 主导内存成本，KDA 一刀砍掉 75% 的缓存，长上下文的成本结构就变了。&lt;/p&gt;
&lt;p&gt;加上 Attention Residuals（AttnRes）的架构改进，以及 Stable LatentMoE 框架，K3 在工程上不是简单的「更大」，而是「更聪明地大」。&lt;/p&gt;
&lt;h3 id=&#34;定价对比sonnet-级价格opus-级能力&#34;&gt;定价对比：Sonnet 级价格，Opus 级能力？&lt;/h3&gt;
&lt;table&gt;
  &lt;thead&gt;
      &lt;tr&gt;
          &lt;th&gt;模型&lt;/th&gt;
          &lt;th&gt;输入价格（/M Tokens）&lt;/th&gt;
          &lt;th&gt;输出价格（/M Tokens）&lt;/th&gt;
          &lt;th&gt;缓存输入&lt;/th&gt;
      &lt;/tr&gt;
  &lt;/thead&gt;
  &lt;tbody&gt;
      &lt;tr&gt;
          &lt;td&gt;Kimi K3&lt;/td&gt;
          &lt;td&gt;$3.00&lt;/td&gt;
          &lt;td&gt;$15.00&lt;/td&gt;
          &lt;td&gt;$0.30&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;Claude Sonnet 5&lt;/td&gt;
          &lt;td&gt;$3.00&lt;/td&gt;
          &lt;td&gt;$15.00&lt;/td&gt;
          &lt;td&gt;$0.15&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;Claude Opus 4.8&lt;/td&gt;
          &lt;td&gt;$15.00&lt;/td&gt;
          &lt;td&gt;$75.00&lt;/td&gt;
          &lt;td&gt;$7.50&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;GPT-5.6 Sol&lt;/td&gt;
          &lt;td&gt;$10.00&lt;/td&gt;
          &lt;td&gt;$40.00&lt;/td&gt;
          &lt;td&gt;$2.50&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;GPT-5.5 High&lt;/td&gt;
          &lt;td&gt;$5.00&lt;/td&gt;
          &lt;td&gt;$20.00&lt;/td&gt;
          &lt;td&gt;$1.25&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;DeepSeek V4 Pro&lt;/td&gt;
          &lt;td&gt;$0.50&lt;/td&gt;
          &lt;td&gt;$2.00&lt;/td&gt;
          &lt;td&gt;$0.10&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;GLM-5.2&lt;/td&gt;
          &lt;td&gt;$1.00&lt;/td&gt;
          &lt;td&gt;$4.00&lt;/td&gt;
          &lt;td&gt;$0.20&lt;/td&gt;
      &lt;/tr&gt;
  &lt;/tbody&gt;
&lt;/table&gt;
&lt;p&gt;K3 的 $3/$15 定价直接对标 Claude Sonnet 5 系列，但自报的 Benchmark 却在 Opus 4.8 级别。&lt;strong&gt;$3/$15 拿到 Opus 级的性能，这就是 K3 的核心卖点。&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;按 Artificial Analysis 的测算，K3 每任务成本约 $0.94，与 GPT-5.6 Sol（$1.04）接近，大约是 Opus 4.8（$1.80）的一半。&lt;/p&gt;
&lt;p&gt;不过有一个&lt;strong&gt;大坑&lt;/strong&gt;：K3 的思考模式&lt;strong&gt;无法关闭&lt;/strong&gt;，且目前只有 &lt;code&gt;max&lt;/code&gt; 一个档位（Moonshot 说后续会加更多）。这意味着每次请求都在支付完整的推理链成本，$15/M 的输出价格是实打实的。&lt;/p&gt;
&lt;h3 id=&#34;benchmark-表现自报数据-vs-独立评测&#34;&gt;Benchmark 表现：自报数据 vs 独立评测&lt;/h3&gt;
&lt;p&gt;Moonshot 自报的 Benchmark 数据相当亮眼：&lt;/p&gt;
&lt;table&gt;
  &lt;thead&gt;
      &lt;tr&gt;
          &lt;th&gt;Benchmark&lt;/th&gt;
          &lt;th&gt;K3 得分&lt;/th&gt;
          &lt;th&gt;对比参考&lt;/th&gt;
      &lt;/tr&gt;
  &lt;/thead&gt;
  &lt;tbody&gt;
      &lt;tr&gt;
          &lt;td&gt;FrontierSWE&lt;/td&gt;
          &lt;td&gt;81.2&lt;/td&gt;
          &lt;td&gt;软件工程智能体&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;Terminal-Bench 2.0&lt;/td&gt;
          &lt;td&gt;88.3&lt;/td&gt;
          &lt;td&gt;CLI/终端智能体&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;DeepSWE&lt;/td&gt;
          &lt;td&gt;67.5&lt;/td&gt;
          &lt;td&gt;困难多步 SWE 任务&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;BrowseComp&lt;/td&gt;
          &lt;td&gt;91.2&lt;/td&gt;
          &lt;td&gt;单 Agent 网络研究（无上下文压缩）&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;GPQA-Diamond&lt;/td&gt;
          &lt;td&gt;93.5&lt;/td&gt;
          &lt;td&gt;研究生级科学问答&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;MMMU-Pro&lt;/td&gt;
          &lt;td&gt;81.6&lt;/td&gt;
          &lt;td&gt;多模态理解&lt;/td&gt;
      &lt;/tr&gt;
      &lt;tr&gt;
          &lt;td&gt;GDPval-AA v2&lt;/td&gt;
          &lt;td&gt;1687 Elo&lt;/td&gt;
          &lt;td&gt;仅次于 Fable 5 和 GPT-5.6 Sol，超 Opus 4.8 的 1600&lt;/td&gt;
      &lt;/tr&gt;
  &lt;/tbody&gt;
&lt;/table&gt;
&lt;p&gt;&lt;strong&gt;Frontend Code Arena 上，K3 甚至超越了 Claude Fable 5，成为第一名。&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;但注意：&lt;strong&gt;所有数据都是 Moonshot 自报的&lt;/strong&gt;。Hacker News 上已有人质疑——开源模型阵营的供应商自报 Benchmark 普遍偏高，社区对 Benchmark 泄露进训练数据的担忧一直存在。&lt;/p&gt;
&lt;p&gt;第一天的独立评测显示，K3 的 Arena Elo 约 1486（文本）和 1530（编码），比 Fable 5 和 GPT-5.6 Sol 低一个档次。Moonshot 自己也承认：「整体性能仍落后于最强的闭源模型 Fable 5 和 GPT-5.6 Sol。」&lt;/p&gt;
&lt;p&gt;开发者们倒是普遍称赞一点：&lt;strong&gt;K3 的推理痕迹（reasoning traces）是完全暴露的&lt;/strong&gt;，比 Fable 5 的不透明摘要「far, far more informative」——这对于调试 Agent 行为来说，是个巨大的优势。&lt;/p&gt;
&lt;h3 id=&#34;开源生态已承诺开源尚待验证&#34;&gt;开源生态：已承诺开源，尚待验证&lt;/h3&gt;
&lt;p&gt;K3 的权重已承诺在 &lt;strong&gt;7月27日之前开源&lt;/strong&gt;。之前的 K2 系列用的是 Modified MIT 许可证，K3 的许可证尚未公布。&lt;/p&gt;
&lt;p&gt;Moonshot 正在与推理合作伙伴和开源维护者协调技术细节，确保跨生态系统的可靠部署。一旦权重放出，这将是第一个能在本地运行（当然，需要相当多的 GPU）的 3T 级模型。&lt;/p&gt;
&lt;p&gt;K3 的发布也碰上了月之暗面的新一轮融资——传闻估值已从 5 月的 $200 亿涨到 $315 亿。K3 成了他们估值故事的核心。&lt;/p&gt;
&lt;h3 id=&#34;写在最后&#34;&gt;写在最后&lt;/h3&gt;
&lt;p&gt;Kimi K3 的意义不在于参数大小，而在于它证明了 &lt;strong&gt;Scaling Law 在开源世界依然成立&lt;/strong&gt;——当大多数人以为开源模型只能在 1T 以下竞争时，Moonshot 直接翻倍到了 2.8T。&lt;/p&gt;
&lt;p&gt;$3/$15 的定价，Opus 级的自报性能，1M 上下文，开源承诺——如果权重如期放出且独立评测验证了 Benchmark，K3 将是开源社区对抗闭源前沿最有力的武器。&lt;/p&gt;
&lt;p&gt;但「如果」两个字划重点。&lt;strong&gt;自报数据 vs 独立评测的差距、始终开启的思考模式导致的 token 成本、以及即将到来的 7月27日权重是否能按时释放&lt;/strong&gt;——这三个问题，决定了 K3 是「开源里程碑」还是「又一个漂亮的 PPT」。&lt;/p&gt;
&lt;p&gt;7月27日见分晓。到时候我们再来跑一遍。&lt;/p&gt;
</description>
        </item>
        
    </channel>
</rss>
