昔时数月，开源模子才略呈现爆发式增长。跟着 DeepSeek V4-Pro 和 GLM5.2 智能水平靠近 Opus，开源模子已成为闭源模子具资本益的替代案。而 Kimi K3 的出现，记号着开源新时间的到来。

但是，强智能时时追随大范围。GLM5.2 参数目达 7530 亿，DeepSeek V4-Pro 为 1.6 万亿，Kimi K3 是达 2.8 万亿。这意味着在分拨 100 万 token 落魄文的 KV Cache 前，仅权重加载就需过 1.5TB 存。即等于配备 8 张 GPU 的 NVIDIA B200 节点也法容纳 Kimi K3，部署遴荐受限：要么使用单卡 288GB 存的 B300 节点，要么部署两个 B200 节点（TP16）。

AMD MI355X 的价比势

在此布景下成都铁皮保温，领有 288GB 存的 AMD MI355X 成为要道变量。其单卡均价约为 B300 的 1/2.4、B200 的 1/1.7，硬件规格对标 Blackwell 架构，具价比。尽管 AMD 长久受限于软件生态，但跟着其对 Kimi K3 提供日援手，部署门槛大幅裁减。

实测数据示，在 1,024-token 输入 /400-token 输出的基准测试中，MI355X 节点团聚浑沌量达 952 tok/s，单流解码速率为 118 tok/s。比较双节点 TP16 B200 部署（团聚浑沌量 498 tok/s），MI355X 团聚浑沌量出 3.8 倍以上，单流速率快 1.3 倍。天然 B300 节点团聚浑沌量（1,568 tok/s）仍比 MI355X 约 1.65 倍，但接头到 B300 价钱是 MI355X 的 2.4 倍，MI355X 在每好意思元能上达成反。

值得注重的是，B200 数据偏低部分源于其跨节点全归约支拨（RoCE v2），这是唯需最初两个节点着实立，铝皮保温因为单节点法同期容纳 Kimi K3 权重和百万 KV 池。这也凸了 MI355X 大存势在内容部署中的价值。

时刻化旅途

为达成上述能成都铁皮保温，团队针对 ROCm 平台进行了两项要道化：

1. 建造测解码崩溃

Kimi K3 枯竭内置草稿张量，需依赖外部块扩散草稿。在 ROCm 上，sglang 的禁受采样考证器因缺失 top_k_renorm_prob 界说致调养器崩溃。建造案并非编写自界说内核，而是奏凯在 PyTorch 层面达成 Top-k renorm 操作（排序、掩码、重缩放）。此举使单流能擢升约 2.2 倍，峰值团聚浑沌量擢升 18，并援手并发。

2. 化预填充蔓延

针对用户感知的"字蔓延"，团队发现 MI355X 在冷预填充阶段耗时远 B300（51 秒 vs 23 秒）。根源在于 K3 在 TP8 边幅下每层 12 个注重力头，与 AITER MLA 内核条款的 4/8/16 倍数不匹配，致回退至安静的 Triton 通用内核。通过将头数填充至 16，告捷调用快速 ASM 内核，使预填充速率擢升 2-3 倍，著字蔓延。

论断

在 MI355X 上初始 Kimi K3 着实立相对开箱即用，遭遇的框架 Bug 少于此前 GLM5.2 的部署告诫，且需自界说内核。跟着 AMD 对前沿模子援手的完善，其在每好意思元能上的势正逐渐回荡为内容竞争力，CUDA 的护城河靠近严峻挑战。

【星途科讯 图文丨小林 发于 ZAKER 科技，转载请注明出处】手机：18632699551（微信同号）相关词条:罐体保温施工     异型材设备     锚索    玻璃棉    保温护角专用胶

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。