模型观察12 分钟
Kimi K3 NVFP4 私有化部署:8 张 B300 为何仍不是即装即用
基于 NVIDIA、Moonshot AI、vLLM 与 SGLang 官方资料,拆解 Kimi K3 NVFP4 的 1.6TB 权重、8×B300 配方、上下文、运行时成熟度和企业采购边界。
汇总与本地部署相关的企业 AI 研究、关键概念与实践观察。
基于 NVIDIA、Moonshot AI、vLLM 与 SGLang 官方资料,拆解 Kimi K3 NVFP4 的 1.6TB 权重、8×B300 配方、上下文、运行时成熟度和企业采购边界。
基于 Z.ai 官方模型卡、产品文档与许可,拆解 GLM-5.3 的 744B-A40B 架构、1M 上下文、网络安全能力、集群成本和企业编码 Agent 治理边界。
基于 Qwen 与 Z.ai 官方模型卡,拆解两款新 Flash 多模态 MoE 的参数、上下文、许可、运行时和企业私有化边界。
基于 IBM 官方发布、模型卡与代码,分析 Granite 4.2 的 3B/8B/30B、推理档位、128K/512K 上下文、工具调用、许可和企业本地部署边界。