瑞芯微RK3588+算力拓展卡方案上新,最高160T算力,适配端侧7B大模型应用!

发布时间:2026-08-28 阅读量:334 来源: 我爱方案网 作者: bebop

边缘计算设备在引入大模型后,普遍遭遇单芯片资源争抢导致的系统卡顿与推理延迟。瑞芯微RK3588与RK1828或其他算力卡模组组成的双芯异构架构,将系统调度、外设交互与AI推理任务进行物理隔离,从硬件层面杜绝了CPU与NPU的资源冲突。

该方案在保障数据本地化安全的前提下,实现了端侧7B级大模型的流畅推理,为工业质检、智能安防等对实时性与隐私性要求极高的场景,提供了兼具高性能与高可靠性的底层算力支撑,彻底解决了传统单SoC架构在多任务并发下的稳定性难题。

另外,瑞芯微RK3588处理器自带6TOPS AI算力。对于常规机器视觉、目标检测和智能识别任务,它可以直接承担端侧推理,不必把现场图像全部送到云端处理。这样既能减少网络传输带来的等待,也能降低持续回传图像对带宽的占用。

本文我爱方案网将推荐瑞芯微RK3588/RK3588J开发的边缘计算盒子方案,支持2路M.2 PCle标准接口扩展,可选配三款算力模组,按需升级大模型算力;采用“通用主控+专用AI算力”灵活组合,最高可提供160 TOPS@INT8 异构算力,覆盖轻量化推理到工业级复杂任务处理等场景。

扫码可申请免费样片以及获取方案demo资料

image.png

瑞芯微RK3588大模型AI边缘计算盒子方案

image.png

方案采用RK3588/RK3588J芯片,内置6TOPS@INT8算力,兼容Ubuntu、Debian、麒麟等多类操作系统。

该系列产品针对大模型场景做了专属散热与供电强化,配备 2 路M.2 PCIe 高速接口,支持双算力模组并行,最高可提供 326TOPS@INT8异构算力,为边缘侧大模型部署提供强劲算力支撑。

另外,该方案支持2路M.2 PCle标准接口扩展,可选配三款算力模组,按需升级大模型算力,算力模组规格参数如下:

image.png

瑞芯微RK3588+DEEPX AI加速模块方案

DX-M1MM4202是一款基于DEEPX DX-M1M处理器设计的高性能低功耗工业级AI加速模块。具备如下特点:

(1)强算力基于高性能AI架构,支持INT8,算力高达25TOPS。

(2)高速存储:模块内置4片LPDDR4X,容量合计2GByte,数据吞吐大。

(3)极速传输:支持PCIe 3.0,2Lane,具备高吞吐量输入输出能力,保障任务流畅运行。

(4)框架兼容:支持TensorFlow、ONNX、Keras、PyTorch等主流框架网络模型。

(5)超低功耗:最低功耗仅2.46W,绿色节能,散热压力小。

(6)小巧便携:尺寸为42*22*4.9mm,重量约为7.4g,易于嵌入各种设备。

image.png

参数之外,还得看它装进整机后的实际表现。

在RK3588工控机的适配测试中,DEEPX模块运行YOLOv5s目标检测模型时,平均处理帧率达到454.3fps,RK3588 CPU使用率为2.75%。AI推理任务交给加速模块后,主处理器仍保留了较充足的资源,可以继续处理业务逻辑、通信和设备控制等任务。

image.png

瑞芯微RK3588+Hailo-8 AI加速模块方案

Hailo-8 HM218B1C2FAE是一款基于Hailo-8处理器设计的工业级AI加速模块,Hailo-8 AI算力加速卡具备如下特点

(1)极致力:高性能AI架构加持,支持INT8,算力高达26TOPS,轻松应对高负载AI任务,尤其擅长CNN类视觉模型的高效推理。

(2)高速传输:支持PCIe 3.0,4Lane,具备高吞吐量输入输出能力,保障任务流畅运行。

(3)广泛兼容:支持Keras、TensorFlow、TensorFlowLite、PyTorch、ONNX等主流深度学习框架。

(4)低功耗:典型功耗仅2.5W,满负荷运行最大功耗也仅8.25W,兼顾性能与能效。

(5)轻巧便携:尺寸仅80*22*4.2mm(不含散热器),重量约5.9g(不含散热器),适配各类空间紧凑型设备。

image.png

为验证RK3588工控机适配Hailo-8 M.2 AI加速模块性能,我们选取YOLOv8s目标检测模型开展实测,具体数据如下。

image.png

在运行YOLOv8s模型时,平均处理帧率为84.7fps,RK3588 CPU使用率为10.05%。

扫码可申请免费样片以及获取方案demo资料

image.png


相关资讯
8K鼠标方案上新,可提供Demo样机、完善的例程和SDK,以及软件代码,可二次开发

方案助SPARK的UWB架构,该设计实现了与有线级响应相当的无线游戏性能。

瑞芯微、北京君正、华为海思高性能SoC开发的摄像头方案合集

方案内置高算力,在摄像头前端即可完成多目标检测、结构化语义提取与视频浓缩编码。

全新国产1500W数字电源方案上市:峰值效率>98%,主频600MHz,GaN器件,方案Demo可交付!

方案以完全自主的数字控制为核心,采用图腾柱无桥拓扑架构,彻底摒弃传统输入端整流桥,并结合第三代半导体氮化镓(GaN)与硅基MOSFET混合器件方案,实现了高效率、高功率因数、高可靠性的综合性能突破

瑞芯微人脸识别方案:2TOPS算力、0.3秒准确识别、200W双目活体

智能动态人脸识别技术采用人脸检测算法、人脸质量评分算法以及智能动态人脸识别算法,实现公共场合出入口人员或道路人群人脸的抓拍采集、建模存储,实时黑名单比对报警和人脸后检索等功能。 快包推出瑞芯微RV1126人工智能人脸识别开发板方案,内置独立NPU,提供2T高算力,让人脸识别更快更准确。其他大部分考勤/门禁/闸机设备方案,可以做到0.3秒准确识别,大大提升效率。

两款高性能变频器方案上新:2.2kW、FOC算法、16段速,PFC加电机控制应用

在工业自动化浪潮中,变频器作为电机调速与节能控制的核心设备,广泛应用于机床、风机、水泵、空压机、传送带等场景,可实现30%-50%的节能效果,同时提升控制精度与生产效率。 快包推荐泰为通用变频器解决方案,该方案支持异步感应电机矢量控制和同步电机控制,同时还支持面板控制、端子控制和通讯控制,具有过载、过流、过压、欠压、过温等保护功能,有多种控制逻辑可选择设定,异步电机驱动满足工业风机、泵类等大部分应用场景。