把 180 TOPS 塞进一块明信片大小的主板,拿铁熊猫 Sigma 2 来了!

想用上大模型,常见的路子有两条:要么每个月订阅 Coding Plan 或是给云端 API 交一笔费用,要么在本地跑,配一台塞着大显卡的机箱。
做 LattePanda Sigma 2 的时候,我们想换个思路:同样在本地跑,但不用大机箱。我们把它做成一块 146 × 102 mm 的板子,差不多一张明信片大小,出厂就装好系统、驱动和本地大模型。开机后双击桌面上的一个图标,就能和本地 AI 对话,从开机到聊上天都不需要联网,也不用调用云端 API 。
Sigma 2 是一块什么样的板子?
我们给它的定位是“嵌入式 AI 单板服务器”。简单说,它是一块具备完整电脑能力的主板:x86 架构,支持 Windows 11 和 Ubuntu 24.04 LTS 及更高版本,常见的 x86 软件和开发工具都能直接用,平时用惯了 OpenVINO 、 llama.cpp 或 Ollama 的话,也可以直接拿来用。
和普通迷你主机比,它有两点不一样。第一,它是专门为“本地跑 AI”设计的,算力、内存、扩展口都围绕这个目标来配。第二,它是一块尺寸小巧的单板,方便装进你自己的设备、机器人或者机柜里。
配置一览(附大白话)
| 项目 | 配置 | 对你意味着什么 |
|---|---|---|
| 处理器 | Intel 酷睿 Ultra X7 358H,16 核(4P + 8E + 4LPE),最高 4.8GHz,18MB 缓存 | 日常开发、编译、跑服务都很从容 |
| 显卡 | Intel Arc B390,12 个 Xe 核心,最高 2.5GHz,最高 122 TOPS(INT8) | 预装的大模型默认就跑在它上面 |
| NPU | Intel NPU,最高 50 TOPS(INT8) | 处理器里专门跑 AI 运算的低功耗单元 |
| 平台 AI 算力 | 180 TOPS(INT8),由 CPU 、 GPU 、 NPU 共同提供 | GPU 、 NPU 、 CPU 三部分峰值相加,见下文说明 |
| 内存 | 64GB LPDDR5X-8533,带宽 136.5 GB/s,最多 59GB 可分配给显卡当显存 | 能装下多大的模型,主要看这一项 |
| 存储 | 出厂装好 1TB NVMe SSD(WD SN7100,预装 Ubuntu);板上共 3 个 M.2 M-Key 插槽,出厂 SSD 占用其中 1 个 | 系统和模型都在这块盘里,不够还能再加盘 |
| 网络 | 2 个 10GbE 万兆网口(RJ45) | 做 NAS 、边缘服务器、传大量数据都够快 |
| USB / 雷电 | 2 个雷电 4(40Gbps)、 2 个 USB 3.2 Gen 2(10Gbps)、 2 个 USB 2.0 | 外接显卡坞、高速硬盘、 8K 显示器 |
| OCuLink | 1 个,PCIe 4.0 x2 | 接显卡扩展坞、硬盘坞、 PCIe 采集卡 |
| 显示 | HDMI 2.1(最高 4096 × 2304 @ 60Hz)、 Type-C 输出 DP 2.1(最高 7680 × 4320 @ 60Hz,即 8K 60Hz)、 eDP 1.5(最高 3840 × 2400 @ 120Hz) | 接屏幕很灵活,eDP 可以直接接面板 |
| 协处理器 | RP2350 MCU,通过 GPIO 提供 I²C 、 SPI 、 UART 和模拟输入 | 直接接传感器、控制执行器,不用另外加一块单片机 |
| 无线 | 板载不带,可在 M.2 E-Key 插槽自行加装无线模块 | 需要 Wi-Fi / 蓝牙的话要另配模块和天线 |
| 供电 | USB Type-C PD 20V(建议 100W 及以上),或 DC 15~20V(建议 120W 及以上) | 包装里带电源适配器 |
| 尺寸 | 146 × 102 mm(3.5 英寸规格) | 差不多一张明信片大小 |

关于 180 TOPS,需要说明一下的是:它是 GPU(122 TOPS)、 NPU(50 TOPS)、 CPU(8 TOPS)三部分峰值算力加在一起的平台总数,不等于单个模型能用到的算力。我们预装的大模型默认跑在 GPU 上,对它来说直接相关的是 GPU 的 122 TOPS 。所以评估一个模型跑不跑得动,先看内存装不装得下,再看 GPU 的算力。
亮点一:开机就能用的本地 AI
板子出厂自带一块 1TB SSD,我们已经在里面装好了 Ubuntu 系统、 GPU 和 NPU 驱动、 OVMS(OpenVINO Model Server,Intel 的模型推理服务)、本地 AI 智能体 OpenClaw,以及本地大模型。
拿到手的流程很简单:开机进入桌面,双击“Start AI Assistant”图标,等终端提示服务就绪,浏览器会自动打开 OpenClaw 的对话界面,直接提问就行。第一次对话要做一次预热,可能要等 30 秒甚至更久,之后的对话就顺畅了。整个过程不用装驱动、配环境、下模型,也不用申请云端 API 。
如果你有自己的 AI 应用,也可以只启动推理服务。它提供和 OpenAI 兼容的接口,地址是 http://localhost:8080/v3,不需要 API Key 。原来调用 OpenAI 格式接口的代码,把地址和模型名改一下,基本就能切到本地跑。推理全部在设备本地完成,适合对数据隐私比较敏感的场景。
亮点二:64GB 内存,35B 级的模型也装得下
本地跑大模型,很多时候卡住你的不是算力,而是显存不够大,模型根本装不进去。
所以我们给 Sigma 2 配了 64GB 统一内存:CPU 和显卡共用同一块内存,最多可以分配 59GB 给显卡当显存。这些空间够装下一个 35B 级的量化 MoE 模型,再加上长上下文需要的 KV 缓存。速度也够用:用 INT4 量化加 OpenVINO,Qwen3.6-35B-A3B 每秒大约能输出 30 个 token,聊天时基本不用干等。
MoE(混合专家)模型可以理解成一个“专家团”:模型里有很多组“专家”,每生成一个 token,只调用其中一小部分。我们预装的 Qwen3.6-35B-A3B 就是这一类,总参数约 350 亿,名字里的 A3B 表示每次只激活约 30 亿参数。所以它占的内存要按 35B 来算,但每一步的计算量大致相当于一个 3B 级的模型,比同样大小的普通模型轻得多,这也是它适合在一块板子上跑的原因。
速度方面,我们和初代 LattePanda Sigma 做过一组对比测试:同样用 OpenVINO GenAI 2026.4 、在核显上跑 Qwen3.5-4B(INT4)模型,输入 1K token 、输出 0.5K token,Sigma 2 每秒能生成 32 个 token,初代是 17 个,接近翻倍;平均直流输入功耗从 35W 到 38W,只多了 3W 。这组对比用的是 4B 小模型,主要是看两代之间的提升。
不跑任务时,整机闲置功耗大约 4.5W 。本地 AI 服务器大部分时间都在待命,空闲功耗低,7×24 小时开着也更省心。

亮点三:不够用?还能往上加
板载的 122 TOPS GPU 算力只是起点,我们给 Sigma 2 留了好几条扩展的路:
- 3 个 M.2 M-Key 插槽(PCIe 5.0 x2 、 PCIe 4.0 x4 、 PCIe 4.0 x1):出厂 SSD 占用其中一个,其余插槽可以加 NVMe 硬盘,也可以插 AI 加速卡
- OCuLink 接口:接显卡扩展坞、 NVMe 硬盘坞或者 PCIe 采集卡
- 2 个雷电 4:接外置显卡坞、高速硬盘、 8K 显示器,或者通过雷电桥接和其他电脑高速直连
视频里我们也演示了“多模型协同、一机部署”:核显跑 Qwen3.6-35B-A3B 大模型,M.2 加速卡跑 YOLO26n 、 PP-OCRv5 等视觉模型,几个智能体在同一台 Sigma 2 上同时工作。
提醒一句:M.2 插槽共用 3.3V 8A 的供电额度,插多张高功耗卡之前,建议先算一下功耗。


亮点四:一边跑 AI,一边控硬件
做机器人、做设备的朋友应该会喜欢这一点。
除了 Intel 处理器,我们还在板子上放了一颗 RP2350 单片机,专门负责硬件控制。 Intel 处理器跑 AI 推理和高负载应用,RP2350 独立读取传感器、控制执行器,通过 GPIO 接 I²C 、 SPI 、 UART 和模拟信号,两边并行工作,互不耽误。
RP2350 出厂已经烧好 MicroPython 固件,我们的文档里也准备了 MicroPython 和 Arduino C++ 的编程教程,玩过单片机的朋友上手会很快。
以前做一台“会思考、能动手”的设备,常常要一台迷你主机加一块单片机板,两块板子之间还要再拉线连接。现在这两件事,一块 Sigma 2 就能同时承担。

它适合谁?
我们设计 Sigma 2 时,主要想着这四类用法:
- 本地 AI 一体机:在公司内网里跑私有知识库问答(RAG)、 AI 智能体,敏感数据留在本地
- 家庭实验室:NAS 、虚拟机、影音服务、本地 AI 放在同一台小机器上
- 专业仪器:装进紧凑的专业设备里,直接在本地采集和处理高速、大量的数据
- 移动机器人:感知、导航、规划、实时控制放在同一个平台上
如果你打算把 Sigma 2 做进自己的产品里,我们提供 3 年以上的产品生命周期保障,不用担心刚做完设计板子就买不到了。开机 Logo 和 BIOS 可以按你的需求定制,做集成项目时,我们的工程师也能直接跟你对接。
也想跟大家坦白说一句:Sigma 2 是我们面向本地大模型和高性能边缘计算做的板子,配置和价格都是按这个定位来的。如果你只是想入门学 Linux 、跑跑小项目,可以先看看我们其他的拿铁熊猫产品,选一款更合适的;如果你正要把本地大模型装进设备、机器人或私有服务器里,又想少用几块额外的板子,Sigma 2 就是为这件事准备的。
现在,国内可以直接买了
Sigma 2 已经上架 DFRobot 中文商城,现在国内也可以直接下单了!
点击购买:https://www.dfrobot.com.cn/goods-4384.html
用的过程中有任何问题,欢迎在评论区留言,我们会尽快回复。



