Kimi K3，这款旗舰模型由北京初创公司 Moonshot AI 开发，于 7 月上线。它是迄今最大的开放权重模型，拥有 2.8 万亿参数，并能够在单次查询中处理 100 万个 token（足以容纳一个中等规模的完整代码仓库）。
凭借其能力，这款模型赢得了业内赞誉。独立追踪机构 Frontend Code Arena 和 Artificial Analysis 将其与 Claude Fable、GPT-5.6 Sol Max 等模型相提并论；在两者各自的排行榜上，该模型分别位列第一和第三。
作为开放权重模型，K3 可供任何人下载并在自己的网络中运行。此前，它高达 1.56 TB 的体积令人望而却步，实际上很少有人能够做到这一点；即使是压缩程度最高的 883 GB 版本，也远超家用电脑的能力范围。
不过，近几周这一情况已经发生了变化。去中心化 AI 云计算公司 Pipe Network发布了一个开源移植版，使 Kimi K3 能够在部分 Apple Silicon 台式机上运行。
Pipe 的 Kimi K3 移植版将内存占用降低了 75% 以上
Pipe Network 的工程师将运行该模型一个版本所需的内存从 883 GB 降至 350 GB，使其达到最高规格 Mac Studio 的能力范围；后者最多配备 512 GB 统一内存。
他们通过一套精简模型工作流程的剪枝系统实现了这一点。K3 采用混合专家（Mixture-of-Experts，MoE）机器学习架构，将查询分配给一组“专家”；这些专家本质上是为特定任务设计的子网络。K3 包含 93 层，其中 92 层各包含 896 个路由专家。对于每个 token，模型只选择其中 16 个专家执行计算。因此，在处理任意一个 token 时，最多有 98% 的专家处于闲置状态。
不过，正常部署仍需要将全部专家权重载入内存，因为不同 token 可能被路由到不同的专家——这是一个高度消耗内存的过程，远超消费级硬件的能力。Pipe 的方法是在此前从模型中剪除数百个影响较小的专家，从而降低这一要求，生成一个小得多的版本，使其能够完全装入 Mac Studio 的统一内存。
这大幅降低了主机的内存占用，意味着整个模型可以在单台 Mac 内运行。
REAP 系统同时削减了内存需求和模型能力
为了决定针对特定任务保留哪些专家、舍弃哪些专家，该转换器采用了 AI 计算公司 Cerebras 开发的一项名为 REAP（Router-weighted Expert Activation Pruning，路由器加权专家激活剪枝）的技术。通过让模型处理示例文本，该系统可以识别哪些专家对输出的影响最为稳定。对于特定查询类型很少被激活，或很少产生有意义变化的专家，会被从阵容中删去。
需要注意的是，最终结果并不完全等同于运行完整版 Kimi K3。输入适配模型的示例文本会改变最终产品的能力，因为示例文本决定了哪些专家被剪除、哪些专家继续保持活跃。
例如，完全使用英文示例文本进行校准的版本，其生成中文结果的能力会大幅下降，反之亦然。因此，Pipe Network 的转换器会收窄模型的能力，使其专门适用于校准数据所代表的领域。基础模型的覆盖面仍然更广，但代价是大得多的内存占用。
另一个需要注意的问题是适配模型的输出速度。由于每个输入 token 仍需经过处理并分配给某个专家，处理能力仍是主要限制因素。Pipe Network 的适配方案成功将模型剪枝到足以在 Mac 上运行的程度，但每个输出 token 仍需从内存中读取约 87 GB 数据。剪枝后的 K3 平均每秒运行 5.5 个 token，处理一句话大约需要 6 秒——远慢于大多数基于云的模型，后者的平均速度超过每秒 100 个 token。
剪枝程度更高或更低，对此影响都不大，因为这是硬件限制，无法通过巧妙的软件工程绕过。要缩小这一差距，还需要提升消费级设备的内存带宽。