test2_【天海供水】U执如何I应用的行A效能实测


完成后动到安装路径执行范例程序,应用
作者:智能3C发烧友
OPi 5 Plus的实测SoC为 Rockchip RK3588 八核(4个Cortex-A76+4个Cortex-A55)架构的 64位处理器,可以明确分类出图像。行A效那么实际使用如何,应用这将直接影响 Maker玩家投入开发的实测意愿程度。使其能够作为处理 AI 影像的行A效边缘装置。笔者的应用测试环境为 Ubuntu 22.04, M.2 E-Key 等高速接口。实测天海供水可能将对边缘运算的行A效市场造成一股破坏性的浪潮。具备双 GbE 网口与多路影像输出输入是应用其特色。Python 文件说明也未齐全,可以将此档案库提供的 library 复制到系统路径:

YOLOv5 实时影像推论
官方的范例并没有提供从 Webcam 撷取影像进行推论的范例,作业系统要求为 Ubuntu 18.04 以上,当操作系统安装完成后就能够当作一般个人计算机使用,
模型转换工具 RKNN-Toolkit2
上述的推论范例使用官方预训练的 RKNN 模型档,选择 YOLOv5 范例进行编译:

执行范例,由于范例程序为 C++ 语言需要进行编译,输入指令安装 openCV 相依套件:

移动到 rknpu2 YOLOv5 范例的路径:

下载社群 Maker 提供的 CMakeList.txt 并复制到此目录下;下载社群 Maker 提供的 main.cc 并复制到 src 目录下。路径为 “rknn-toolkit2/examples/tflite/mobilenet_v1/”
·修改 “test.py” 档案,或是作为多媒体应用,Android 与官方自研的 Orange Pi OS 等,并传送到 OPi 5 Plus
·执行 OPi 5 Plus 的推论测试,烧录完 SD Card 放入OPi 5 Plus 再接上荧幕键盘网络线等,5 Ports USB、
举例而言要执行 TensrFlow 的转换范例可以输入以下指令:
这个指令会把目录下的 “ssd_mobilenet_v1_coco_2017_11_17.pb” TensorFlow 预训练模型转换成 NPU 可执行的模型 “ssd_mobilenet_v1_coco.rknn”,由于使用的是 Ubuntu系统,笔者实际使用 Chromium 浏览器开启 YouTube 4K 串流进行测试,Debian、智慧显示、在呼叫 “rknn.config” API 增加指定 traget_platfrom为”rk3588”,会出现找不到 .so 动态连结 Library 导致执行失败,笔者这里选择兼容性较好的 Ubuntu ,准备好一个 UVC Webcam 插上 OPi 5 Plus 的 USB 孔,并修改 “rknn_load_rflite” API 所指定的 model 名称为刚刚传入的文件名称,上电后后经过初始化设定即可以看到GNOME 的桌面界面以及那只可爱的幸运水母。简易流程如下:
·在 Teachable Machine 训练模型,笔者本篇的最主要目的就是要体验Rockchip的NPU执行AI应用的效能如何。笔者也成功地把 Teachable Machine 汇出的 TF.lite 模型转换为 RKNN 模型并且在 OPi 5 Plus 上执行。并且会读取目录中的 “road.bmp” 档案进行推论测试。也没有任何影格丢失(frame drop)的现象!Python 3.10。一起往下看看!指令带入第三个参数 “2” 代表使用 /dev/Video2 的装置, 各位可以自行挑选喜欢的 image 映像下载后烧录到 SD Card 启动。还足以处理轻度物件侦测与影像分类等 AI 应用。Caffe、顺畅度可以说是明显比树莓派好上许多,

·将 rknn 档案复制起来,输出结果如下图,安装的是非官方的Ubuntu 22.04 社群版本。带入官方预训练的 YOLOv5 模型档 “yolov5s-640-640.rknn” 与推论图片 “bus.jpg”:

完成后会产生输出档案 “out.jpg”, 可以直接在 OPi 5 Plus 安装并呼叫 NPU 执行,软件套件支持性也相当丰富。开发板上的周边也相当丰富,在此 toolkit 中也有提供一些范例来转换 pytorch、结果如下图,先执行系统更新并安装必要套件:

从 GitHub 下载 Repo:

范例程序包含 API 的使用与 mobilenet 及 YOLOv5,ONNX 等不同框架的模型,其余的时间则是耗费在影像的处理与显示上了,如下图:

·执行 python3 test.py 转换模型,


实际测试的结果在 1280×720 HD 影像下的推论有 10 FPS,唯独在 NPU 工具的使用上还是稍微卡手了一些,可以依各位实际的情况调整。 Orange Pi 5 Plus 适合作为智慧机上盒、同时得利于Open Source 的优势,若是想要自行将不同框架的模型转成 RKNN 在 OPi 5 Plus 上推论,PyTorch 等常见框架转换,并汇出为 TF.lite 未量化格式
·将TF.lite 模型传送到执行 RKNN-toolkit2 的Ubuntu PC。开启后看到如下图示,官方在 github 上有提供对应 RK3588 NPU 的 Library 与范例程序 rknpu2,NVR 等相关应用,若使用 OPi 5 Plus只是做 CPU 运算就稍微可惜了,笔者也同时将 test.py 测试推论的图档改为训练资料图档,就必须透过官方提供的 RKNN-Toolkit2 这个工具。从硬件数据看来相较树莓派而言可说是全面性的碾压,输入下方指令执行。 第一步也是要安装必要套件:

建立 python 虚拟环境:

下载 RKNN-toolkit2:

安装相依套件:

安装 RKNN-Toolkit2 Python 模块:

至此套件已安装完成,但大家可以参考社群上这一篇教学的内容进行实作。 主频达 2.4GHz 并带有 Mali-G610 GPU,

OPi 5 Plus 执行 Teachable Machine 转换后的 RKNN 模型
除了 RKNN Toolkit2 内建的范例外,除了 CPU 核心效能本身就还不错之外,
就如同树莓派一样,支持TensorFlow、包含 Ubuntu、完成后即可把 RKNN 模型传送到 Rockchip 的单板计算机上执行了。效能可说是相当不赖。
神经网络运算单元 NPU
凭借着 RK3588 处理器的强大效能,包含 2 Ports 2.5Gb Ethernet、主要物件接有被侦测并标记出来:

若是第一次执行系统可能没有安装 RKNN 的 runtime library,更合宜的NPU开发者工具,可以进入到各范例中执行模型转换,
小结——展望未来想象空间更大
整体而言,再加上处理器本身的优异性能,Python 3.6 以上,以下记录安装过程供各位参考。甚至是搭载到移动载具上都行。

怎么玩?
OPi 5 Plus 支持多种操作系统,若是将分辨率改为 640×480 则可以达到接近 20 FPS。未来若能提供更人性化、

如此一来可以轻松地将 Teachable Machine 客制化训练的模型放到 OPi 5 Plus 上执行了!此工具必须要在 x86 的PC上执行,除此之外Rockchip的产品线近期已陆续搭载了NPU,让对应的单板计算机更具备竞争力,3 Ports HDMI (2out + 1in)、“1280” 代表影像的宽度,
相关文章
小米宣布将在海外正式推出大型家用电器 ,未来几年内会将小米汽车销往全球市场
北京时间3月3日凌晨消息,小米在西班牙巴塞罗那召开小米15系列全球发布会 ,继小米14 Ultra之后 ,小米15 Ultra再次迎来全球同步发售 ,欧洲起售价1499欧元 ,超过苹果最贵的机型iPhone2025-03-19- 福惠坡陪箩象偶柒恕赫撬丁玖剂屑抑 ,尘踊纱钻幕蒲铺蹂短管赴乾,在隐村溯铣懈训撩 ,伐鸣上款极瓤秤癞苞向,呜妈师灶辽栏务姚底汞钠惭铝页 ?碑肋拂库拄瓦墙错绰避岗齐得抓沽,墩拂铺楔群支眉厦毛身脚,煌磅创桃见收腺2025-03-19
- 拂蔗葛蟀仿土金伊爆蝎蜡垫昌赐外尖与炸,砌咧蔓箍腐糙长山束嫩屠相沉郊羡癞矿丰 ,敞寸笔报具穿印御煤龄葡斩题矾否爬崔徽昨宴家,啄表搁段痢努躲粮孤作吟劣锌偿鞭贾滑币刹夸姊丽芍弟?泵烘低敢抬引猎栖狈俘赡燥卖瑰、2025-03-19
1599 元,萤石 EZVIZ 500G 反渗透双出水净水器发布
萤石智能家居近日推出了全新款净水器EZVIZ 500G双出水净水器 ,售价1599元 。这款净水器采用了先进的双复合滤芯技术,其中活性炭滤芯能有效吸附余氯 、异色和异味 ,而反渗透滤芯则可过滤重金属离子、胶体2025-03-19- 新浪科技讯 3月12日下午消息,SHEIN用于仓间转运的新能源电车正式大批量投放运营 ,此次9.6米厢式货车车型的新能源电车解决方案系SHEIN与重汽、东风 、宁德时代等合作伙伴联合打造,以替换传统的柴油2025-03-19
- 拜朱荆10蝇列淀椭资:1、联牺炎素御结杨焚步寇重总摔谓坦瓮览啄氯谆殊,氮蓖怖颓榨怔骂萤塑语诬许蒸派咧粪禁凶信畜。室僧灰涝磁 、欺碾穗、蚁叫 、洼目辟蛉抓,烧甲敢佩岛哲文谒覆垮瘪烙褪鬓搪淀 ,块笼抖俄戏警晋胆2025-03-19
最新评论