亚马逊推出Strands Decider 2B开源决策模型,支持本地部署
IT之家10月3日消息,Amazon(亚马逊)Strands Agents团队当地时间本月1日宣布推出Strands Decider 2B决策模型。其已在GitHub上开源,权重则可在Hugging Face上找到; 可在本地的CPU/GPU上运行 。
Strands Decider 2B基于预训练的Qwen3.5-2B“躯干”, 以具备评分功能的指针“头部”替换拥有文本生成能力的原有语言模型“头部”。新“头部”规模较小,总参数仅略超过一百万;“躯干”则通过一个rank-16 LoRA适配器进行微调。
Strands Decider 2B在JevBench公开数据集上 具有不错的准确率和校准度表现 。其在2B级别模型中排名第3,优于所有严格不超过2B的竞争对手。
在市面常见硬件上本地运行该模型时,Strands Decider 2B交出了113ms的决策时延中位数 。其在NVIDIA GeForce RTX 3090上执行小型决策任务的中位数时延是153ms。
转载说明引用来源:IT之家引用网址:https://www.ithome.com/1/009/509.htm