爆火的DeepSeek在瑞芯微RK3588上成功本地运行了！

摘要：瑞芯微RK3588助力香橙派5成功本地运行deepseek-r1 1.5B语言大模型，展现出卓越的性能与适配性。端侧运行时，RK3588凭借自身架构和NPU算力，可流畅运行1.5B模型，生成速度每秒十几token，其能力范围可以覆盖6B、7B模型，虽运行效率和流畅度略低，但足见其强大算力与适配能力。我爱方案网平台可提供安全稳定且即插即用的RK3588开发板及主控芯片。

扫码可申请免费样片以及获取产品技术规格书

RK3588是瑞芯微电子推出的一款高性能处理器，采用先进的8nm制程工艺，集成了四核Cortex-A76和四核Cortex-A55 CPU，以及Mali-G610 MP4 GPU。更重要的是，RK3588内置了独立的NPU（神经网络处理单元），可提供高达6TOPS的AI算力，为运行复杂的深度学习模型提供了强劲动力。

AI界新星DeepSeek（中文名：深度求索）在近期迅速崛起，凭借低成本、高性能的AI模型火爆全网。其核心是一个强大的语言模型，能够理解自然语言并生成高质量文本，此外DeepSeek免费向全球开发者开放，加速了AI技术普及。

在RK3588上部署Deepseek可以通过瑞芯微官方的 RKLLM量化部署。

RKLLM-Toolkit 是为用户提供在计算机上进行大语言模型的量化、转换的开发套件。通过该工具提供的Python接口可以便捷地完成以下功能：

1.模型转换：支持部分格式的大语言模型转换为RKLLM 模型转换后的 RKLLM 模型能够在 Rockchip NPU 平台上加载使用2.量化功能：支持将浮点模型量化为定点模型

DeepSeek转换完成的RKLLM模型如下图所示：

然后将其传输到开发板上，使用对应的可执行文件运行即可，运行之后如下图所示：

接下来向该模型提出问题即可，回复内容如下所示：

在回复的过程中查看CPU和NPU的利用率，可以看到CPU的占用率为84%，并且调用了NPU的3个核心进行加速推理：

• 智能家居： RK3588可搭载于智能摄像头、智能门锁等设备中，利用DeepSeek实现人脸识别、行为分析等功能，提升家居安全性和便捷性。例如，当识别到陌生人闯入时，系统可自动报警；当识别到老人摔倒时，系统可及时通知家人。
• 工业控制： 在工业生产线上，RK3588可结合DeepSeek实现产品质量检测、设备状态监控等功能，提高生产效率和产品质量。例如，在表面检测场景中，DeepSeek可快速识别产品表面的缺陷，并自动进行分类和记录。
• 表面检测： RK3588可应用于各种表面检测设备中，例如PCB板检测设备、液晶面板检测设备等，利用DeepSeek实现高精度、高效率的缺陷检测，提高生产效率和产品质量。

我爱方案网平台推出了很多设计优化的RK3588主板方案，它们都是稳定出货、即插即用，在具体场景实现应用的产品。

瑞芯微RK3588工控机开发板

方案简介：

方案基于Rockchip新一代旗舰 RK3588处理器开发设计，采用先进8nm制程工艺集成4核Cortex-A76+4核Cortex-A55架构，主频最高达2.4GHZ，支持8K超清显示，四屏异显，内置瑞芯微自研三核NPU，综合算力可达6TOPS。

方案特点：

1.6 TOPS算力加持，赋能人工智能应用

2.提供多种显示接口，支持四屏异显

3.提供丰富的CPU接口资源，满足计算链接存储需求

4.支持多种操作系统和二次开发

5.支持双千兆网口通讯

应用场景：

AGV、边缘计算、智慧大屏、高端平板、智能NVR、可视化网关等领域。

瑞芯微3588直播一体机

方案简介：

瑞芯微 3588 直播机是一款即插即用直播机方案，方案可供直播机设备终端制造商开发自定义直播机。该直播机主板采用RK3588高端8核处理器，6T算力，屏幕分辨率最大可支持1920*1080，并配有两个USB3.0、一个Type-C全功能接口，方便客户组合外设，设置WiFi和4G互联，监控外设录像/编辑，快速导入产品创新。

方案特点：

SOC ：RockChip RK3588

CPU ：4×Cortex-A76+4×Cortex-A55

GPU ：ARM Mali-G610 MP4 四核 GPU

NPU ：6TOPS

应用场景：

教学培训、直播带货、产品宣传

瑞芯微RK3588边缘计算盒子

方案简介：

瑞芯微RK3588边缘计算盒子，主频高达2.4GHz，适用于边缘计算，广告机，miniPC整机，工控一体机，零售机和快递柜。支持安卓12系统，内嵌高性能AI加速硬件，支持6T算力NPU.板载LPDDR4/LPDDR4X 8G内存，EMMC标配128GB（最大可选512GB），支持WIFI6通信、10000M以太网。可直接驱动1920*1080液晶屏。

方案特点：

1.RK3588超强CPU搭载Android 12系统，速度更快，性能更强。

2.支持PCIE WIFI6，BT5.0，双天线。

3.网口设计，支持一个1000M网口。

4.分辨率最大支持4K@60。

应用场景：

扫码可申请免费样片以及获取产品技术规格书