蒜粒小编2026/10/16 09:28:15

大模型知识采购避坑

英伟达发布Nemotron 3.5：120B开源VL加两档端侧版

英伟达 10 月 15 日发布 Nemotron 3.5 Super VL：一个开放的 1200 亿参数视觉语言模型，官方定位是给「常驻型」agent 用，强调任务完成速度与准确率。同时补了两个边缘版——Nemotron 3.5 Bolt 74B-A9B 24GB 面向本地 agent 负载，讲的是每 GB 的智能与速度；Nemotron 3.5 Bolt E4B 4GB 面向快速对话，讲的是每 GB 的智能。Super VL 和 74B 版现在已经可用，E4B 在 10 月 23 日发布。 三个模型合起来覆盖的范围，是从企业级服务器一直到边缘设备和本地硬件。对做私有化或端侧 agent 的人来说，意义是选型从「能力还是可部署性二选一」变成「按显存档位挑」。 用起来可以按三步走：先按显存定档，24GB 这一档大致对应单卡工作站，4GB 这一档对应更小的本地设备；再把「数据能不能出内网」当第一问，能放在本地的就先别上云；最后算总成本，本地部署的成本是硬件摊销加运维人力和功耗，不要只比较模型是不是免费。