【DigiKey年度宠粉】hailo8 ai 模组试用+目标检测

#前言

首先，非常感谢得捷电子和电源网共同举办的Digikey年度宠粉活动，使得我能够有机会接触到新兴的开发版设备，希望活动以后办的越来越好。

本次购买的是Hailo 开发的一款高性能边缘 AI 处理器(NPU)，它专为低功耗、高效率的深度学习推理任务设计，可以提供高达 26 TOPS 的计算能力，适用于各种边缘计算场景。为了和已有的树莓派5开发版适配，我购买的是AI HAT版本，是专门为树莓派设计的ai算力扩展板。可惜的是这个开发板只支持图像模型的推理，而不支持最近大火的大语言模型。购买地点是在线上的得捷电子官方，里面的元器件开发板都很齐全，而且有质量保证，发货速度快，值得推荐。

AI HAT模块非常适合树莓派5，刚好利用了树莓派5上的mini PCIE接口。组装好的两者展示如下

其拥有26tops的算力，推理速度和英伟达的低端系列jetson相比略胜一筹。

官方也对相关应用有代码支持。

经过测试，yolov8模型使用720p分辨率进行视频推理可以稳定保持实时30fps的帧率。而且hailo官方也提供了模型转换工具，用于将pc机器上面训练好的模型权重放到hailort运行时环境中运行，类似于在rk瑞芯微的板卡上运行模型需要将pt或者onnx格式的模型保存为rknn进行npu推理加速。在以后我会尝试，将埂新的模型移植到hailo8板卡上，如yolov10，yolov11等。