小板子运行大模型：deepin 25 RVA23版本适配进迭时空芯片SpacemiT K3

deepin作为国内领先的Linux操作系统发行版，一直致力于为用户提供更广泛的硬件支持，并积极投身于蓬勃发展的RISC-V生态建设。自deepin-ports SIG（特别兴趣小组）成立以来，deepin在RISC-V架构的适配工作上取得了令人瞩目的成果——从单板计算机到开发板，从桌面环境到内核与图形驱动，deepin已成功支持市面上大多数主流平台，为Linux操作系统生态注入了新的活力。

近期，在deepin-ports SIG的协助下，结合Next (RVA23)仓库，deepin 25现已适配进迭时空（SpacemiT）K3设备，并在其上顺利运行本地AI模型版本的小U同学（原UOS AI）。这意味着RISC-V平台上的桌面操作系统，第一次真正具备了"开箱即用"的本地大模型能力。

K3是进迭时空（SpacemiT）推出的新一代旗舰级RISC-V计算芯片，也是全球首批完整符合RISC-V RVA23规范的AI计算平台之一。它采用RISC-V同构融合计算技术，在单颗SoC中集成了两类定位互补的核心：

8颗X100通用计算核：4发射、乱序执行的64位RISC-V CPU，完整符合RVA23规范，单核SpecINT2006大于9.0/GHz，最高主频2.4 GHz，8核共享8 MB L2缓存，整机通用算力约130 KDMIPS，负责系统控制、桌面交互与通用计算。

8颗A100 AI计算核： 专为AI负载设计的RISC-V AI-CPU，通过进迭时空自研的IME（矩阵运算扩展）指令集提供原生AI算力，8核合计约60 TOPS（INT4稀疏），可流畅运行最高300亿参数的大模型（30B下推理速度大于10 tokens/s），并同样符合RVA23规范，可与通用CPU共享同一套编程模型，无需额外的算子转换开销。

此外还集成了2颗RT24实时核，用于系统管理与低功耗控制，形成"通用+ AI + 实时"的三域协同架构。

K3还集成了支持Vulkan/OpenGLES的3D GPU、4K编解码的视频引擎，以及PCIe Gen3、USB 3.0等丰富接口。典型功耗仅15–25 W，非常适合AI消费硬件、办公会议与内容创作等场景。

值得强调的是，X100与A100均支持RVV 1.0向量扩展（VLEN分别为256与1024）以及部分RVA23的可选扩展（Vector Crypto等），这为上层软件充分利用向量与矩阵指令打下了硬件基础。

deepin 25早在数月前就通过deepin-ports SIG支持了SpacemiT K3，并持续通过deepin-ports仓库维护和更新内核与GPU驱动：

目前，用户可以在deepin-ports的镜像列表中下载到最新的K3体验镜像，按照安装指南完成分区、刷写bootloader与系统镜像的完整流程。

传统的deepin 25主线基于RVA20构建，其核心组件版本（GCC/LLVM/glibc等）虽然稳定，却已无法满足RVA23新硬件的生态需求。为此，deepin-ports SIG提出了独立的Next仓库（RFC见deepin-community/rfcs#18），作为deepin 25的上层叠加仓库，同时启用amd64、arm64、riscv64、loong64四个架构的构建，并针对riscv64架构开启RVA23全局优化。

Next仓库提供了一套更高基线的基础运行库，并将核心工具链整体升级：

GCC 15(默认) + 16： 是原生完整支持RVA23 Profile的版本，可直接通过标准-march参数开启相关指令集。

Binutils 2.46： 引入对RVA23 Profile的汇编与链接支持。

Glibc 2.42： 合入RISC-V RVA23相关的字符串与内存操作优化。

LLVM 21(默认) + 22：RISC-V后端迭代极快，选用较新的稳定版以让Rust、Clang构建的软件包吃满最新优化。

OpenSSL 3.5： 集成SM3、SM4、SHA512、ChaCha20等算法的RISC-V Vector/Zbb汇编级优化。

仓库内的软件包完全按照RVA23基线构建，并特别地在GCC 15/16与binutils中backport了SpacemiT K1/K3的矩阵运算扩展（IME）支持。该仓库的维护原则是尽量减少下游patch、直接跟随上游版本，以适应有限的维护人力，同时也作为deepin下一代版本（next）的技术验证场，降低未来跨大版本迁移的风险。

本次适配的最大亮点，是deepin在RISC-V平台上打通了从工具链到应用层的本地AI全链路。

适配镜像中的小U同学（原UOS AI）使用基于RVA23与SpacemiT矩阵运算私有扩展构建的本地AI运行时deepin-modelhub，已针对riscv64下的CPU dispatch完成适配，能够根据当前芯片能力自动选择最优算子实现。与此同时，llama.cpp等模型运行时常用的GGML运算库也对应打开了SpacemiT相应指令集的支持（全部variant已在RVA23仓库中构建并验证RVV加速），并合入了SpacemiT K1/K3私有扩展的加速能力。

自此，RISC-V设备真正成为一台可以离线运行大模型的桌面计算机。

如图所示，系统正确识别到了K3的8颗X100通用核与8颗A100 AI核。

在运行本地AI模型时，相关任务会自动派发到8个A100 AI核心，充分释放K3的AI算力。

适配K3的最新deepin 25 RISC-V体验镜像已在deepin-ports镜像列表发布，用户可参考安装指南完成镜像下载、校验与刷写。同时，Next (RVA23)仓库相关的基础库与工具链仍在持续构建与验证中，后续将进一步完善RISC-V桌面与本地AI体验。

欢迎更多开发者与爱好者加入deepin-ports SIG，一起为RISC-V桌面生态与本地AI添砖加瓦。