算力资讯
算力资讯产业动态

AMD XDNA2 NPU率先获得Unsloth Desktop适配,支持超百款智能体

IT之家 11 月 20 日消息,AMD 当地时间 19 日宣布,其锐龙 AI 处理器上的 "XDNA 2" NPU 成为 首款获得 Unsloth Desktop 本地界面支持的神经网络处理器 。

具体来看,兼容的应用程序向 Unsloth Desktop API 发送模型请求,而 Lemonade 和 FastFlowLM 则在 AMD XDNA 2 NPU 上处理模型服务和推理。模型的响应返回给应用程序,供其工作流程使用。

这意味着 OpenClaw、Hermes 等超百款智能体可通过 Unsloth Desktop 在锐龙 AI 处理器的 NPU 上本地运行, 从 CPU 和 GPU 上卸载相关 AI 工作负载 ,留出更多算力以供其它任务使用,也有助于延长带电池设备的续航。

转载说明引用来源:IT之家引用网址:https://www.ithome.com/1/030/131.htm