42| 0
|
二哈识图2 +行空板M10+M10扩展板组合+超声波+本地DeepSeek... |
本帖最后由 ckkk 于 2025-10-2 16:00 编辑 二哈识图2 +行空板M10+M10扩展板组合+超声波+本地DeepSeek——《智慧护眼精灵》 一、问题来源 针对青少年近视防控的严峻现状,本装置聚焦三大核心痛点:一是读写姿势不规范视距太近,二是坐姿不正确腰背侧弯,三是专注力不够左顾右盼或埋头伸懒腰。专为6-12岁课业负担较重的学生群体设计,通过智能感知与行为引导双管齐下,解决家长监督盲区问题。装置突破传统单向提醒模式,构建“环境监测-姿态监测-数据分析-行为矫正-综合报告”的全流程护眼体系,帮助儿童建立科学的用眼认知、坐姿规范、学习习惯养成。助力家长实现精准监护。 二、项目描述 本项目采用行空板M10为主控器,两个板载IIC接口分别连接二哈识图2视觉传感器和语音合成模块,四个板载接口P21、P22连接超声波传感器,、P23连接RGB灯带、P24连接DHT11温湿度,扩展板接口P1连接LED灯模块。二哈识图2的人脸识别结合超声波传感器,通过检测到人脸再测距,实时追踪面部(眼部)距离(精度±1cm),当眼距书本(或屏幕)<30cm时触发多级预警。二哈识图2的姿态识别,实时监测坐姿(趴着睡、伸懒腰、腰侧弯等 ),异常时也触发多级预警。采用M10板载高敏光线传感器与外接的温湿度传感器,实时环境感知,调节RGB灯带模拟理想光照。从开始学习到结束学习的各种状态的数据集,用代码生成器封装Python代码,图形化编程就能实现用本地部署的DeepSeek模型分析数据,系统每日统计各种状态的次数,生成含姿势稳定性、用眼节奏、学习专注力等多维度的总结报告,通过SIOT物联网同步推送至家长手机APP,形成“监测-分析-反馈”闭环。 三、功能说明 1.智能感知层 (1)用眼监测:二哈识图2摄像头实现人脸追踪,结合超声波双传感器融合算法计算眼距。 (2)坐姿监测:利用二哈识图2摄像头的姿态识别模型,感知坐姿(趴桌睡、伸懒腰、腰侧弯等)。 (3)环境模块:板载光线传感器监测照度,DHT11检测温湿度,超标时自动启动RGB灯带模拟补光系统。 2、交互分析层 (1)实时数据:实时显示用眼距离、身姿坐姿、环境参数,方便实用。 (2)智能报告:DeepSeek-1.5B模型分析时序数据,统计各种状态的次数,生成含姿势稳定性、用眼节奏、学习专注力等多维度的92字报告。 3.物联控制层 (1)家长终端:自主开发跨手机APP,支持远程开关灯及远程提醒、用眼和状态数据推送、综合报告查询。 4.行为干预系统 二级预警:LED闪灯提醒(轻度)、语音播报(重度)。 四、创新之处 1.AI技术突破 (1)多传感器融合架构的感知层,二哈识图2的人脸识别模型监测人脸中心融合超声波测距;二哈识图2的 6TOPS算力,姿态识别分辨能力显著提升。(2)用代码生成器封装Python代码,图形化编程就能实现用本地部署的DeepSeek模型分析数据,给出姿势稳定性、用眼节奏、学习习惯等多维度建议或总结报告。 2.监测-分析-反馈闭环:每日生成多维综合报告,同步推送至家长端APP。 五、熟悉二哈识图2 1.固件更新到最新版 当前最新系统版本为1.1.5,找到系统设置 - 设备信息,可以看到当前的系统版本,建议更新到最新版本体验功能。具体操作详见:官方教程7固件更新,如下图所示。![]() 2.人脸识别与姿态识别 HUSKYLENS 2 (二哈识图 2) 是一款简单易用、玩法多样的AI视觉传感器,采用6TOPS算力专用AI芯片,预置人脸识别、目标检测、物体分类、姿态识别、实例分割等20余种开机即用的AI模型,同时,用户还可部署自行训练的模型,教会二哈识图识别任意目标物体。板载的UART / I2C端口,可以与主流控制器Arduino、micro:bit、ESP32、行空板K10、行空板M10、RaspberryPi等开源硬件无缝连接,被广泛应用于创客、AI教育、STEAM教育和交互艺术领域。 (1)人脸识别 本教程要用到二哈识图 2的人脸识别功能,检查是否有人脸存在,如果有人脸就启用超声波测距,该距离意味着是装置离人脸的距离,即用眼距离。二哈识图 2的人脸识别具体操作详见:官方教程的4.2人脸识别,如下图所示。 ![]() 如果只监测人脸,不做自学习操作,如果要检测某个人的人脸,那就要学习人脸并更改参数标注是谁即可。 (2)姿态识别 本教程要用到二哈识图 2的姿态识别功能,监测学习者不正确的几种姿态,如不正确的坐姿:趴桌睡、伸懒腰、腰侧弯等等,可以先看看官方教程4.7姿态识别,再看看基于二哈识图2 AI视觉传感器(HuskyLens 2)姿态识别的《智慧护眼精灵》项目设计1,如下图所示。 ![]() ![]() ![]() 由于我们检测的姿态,在Mind+程序模块中映射的是自学习姿态的名称而非ID,故手指触摸二哈识图2的屏幕,修改参数中的设置名字(分别把命名为ID1趴桌睡、ID2伸懒腰、ID3腰侧弯),手指触摸旁边的“显示名字”后,再触摸左上角返回箭头退出设置界面。如下图所示。 ![]() ![]() ![]() 六、熟悉行空板M10 行空板M10采用计算机+单片机双处理器架构,CPU+内存+硬盘+屏幕及外设组成计算机系统运行Linux系统,单片机负责其他板载元件及对外IO口的控制,计算机系统通过pinpong库对协处理器实现控制。如下图所示。 ![]() 行空板M10集成了常用元件,同时提供了丰富的外接接口,具有高度便利性的同时还拥有着无限扩展可能性。如下图所示。 ![]() 行空板M10官网介绍:https://www.unihiker.com.cn/wiki/m10/jianjie ,板载元件有实体按键、屏幕、麦克风传感器、光线传感器、蜂鸣器、L灯、六轴传感器等,相关说明如下表。 ![]() 行空板M10接口丰富,板载4Pin I2C 有两个,3Pin I/O接口有四个(21~、22~、23~、24),其中21~、22~、23~是PWM引脚。其他接口及相关说明如下表。 行空板M10板载接口如下图所示。 ![]() 行空板M10金手指接口与扩展板相接,其引脚功能说明如下图所示。 ![]() 行空板M10金手指接口最好使用M10电源扩展板(DFR1198,详见官方连接)制作结构件嵌入式安装方便,有人机交互要求时推荐选用。行空板M10电机IO扩展板与M10电池扩展板的组合是专为行空板(UNIHIKER)M10在机器人控制、物联网终端、移动创客项目开发中遇到的无法移动供电、接口受限、动态难控制等难题,提供了便携式开发解决方案。 行空板M10电机IO扩展板集成双路直流电机驱动、红外收发、RGB 灯效交互,还通过引出金手指扩展出行空板 M10 的剩余 I/O 接口,使设备具备动态控制与多元交互能力。行空板M10电池扩展板配备 800mAh 电池,兼具长效续航与智能充放电保护功能;二者采用乐高兼容结构及即插即用设计,方便用户迅速搭建兼具动力、感知与创意的项目原型,实现供电与功能扩展的无缝衔接,同步提升开发效率与移动便携性。 行空板M10自带的接口是3.3V,驱动3.3V电子模块较稳定;DFR1198扩展板接USB5V电源驱动5V电子模块十分稳定(此时必须打开电源开关)。编码应用详见官方连接。 ![]() 七、熟悉Mind+(python模式)编程 Mind+从V1.7.2 RC3.0版本开始在Python模式中加入了对行空板M10的支持,因此你可以使用Mind+将Python代码传入行空板M10上直接运行。 1. 连接行空板M10 打开Mind+,切换到Python模式,点击模块即可切换到图形化模式,然后点击扩展,加载行空板M10后返回即可。如下图所示。 ![]() 行空板M10加载完成后,菜单中会出现一个连接远程终端的选项,使用USB线连接电脑USB口,等待行空板M10开机完成后点击10.1.2.3(无线连接时也可输入板子的IP地址连接),连接成功后,Mind+的终端即相当于行空板M10的终端,点击运行,Mind+会将Python代码发送到行空板M10上运行。如果连接超时,可以尝试点击取消然后重新连接,如果情况依然请查看常见问题中的解决办法:点击跳转到官网查看帮助文档。如下图所示。 ![]() 连接成功后会弹出提示,终端会显示**(行空板M10)**即表示连接成功。Mind+连接成功后会自动检测行空板M10上的依赖库版本(图形化积木需要的python库),如果版本低了会提示需要更新,请点击更新,会自动弹出库管理页面并进行更新,等待直到命令运行完成后关闭库管理页面。如下图所示。 ![]() 2. 行空板M10编程流程 在Mind+使用图形化编程,只需要将指令区的积木拖动到脚本区组合到程序中即可,Mind+会自动生成对应的Python代码。如下图所示。 ![]() 行空板M10正面为一个240x320像素的显示屏,因此我们先从操作屏幕开始,此处我们先实现在行空板M10上显示文字行空板M10。 在指令区选择行空板M10,将其中第一个积木拖动到Python主程序的循环执行里面,积木将自动吸合。如下图所示。 ![]() 在指令区选择控制,将其中第一个积木(等待1秒)拖动到Python主程序的循环执行里面,积木将自动吸合。调整顺序,让引脚P25输出高电平,等待1秒后,引脚P25输出低电平,再等待1秒,如此无限循环。如下图所示。 ![]() 然后点击运行按钮,可以看到Mind+将项目上传到行空板M10并自动启动运行,此时行空板M10上会根据程序执行显示行空板M10三个字。如果没有连接行空板M10则点击运行会直接调用电脑上的python运行此程序。如下图所示。 ![]() 查看行空板M10正面屏幕显示效果及反面led灯闪烁效果。下如图所示。 ![]() 3. 屏幕显示文本和图片 (1)显示文本 行空板M10文本显示一般是在主程序下定义文字显示的字体大小、颜色和位置。一般采用事先定义显示的层级关系,再更新内容(可为空),不需显示的那一层移除,需要显示时移回。如下图所示。 ![]() ![]() (2) 显示图片 行空板M10图片显示一般是在主程序下定义图片显示的内容和位置。一般采用事先定义显示的层级关系,再更新内容,不需显示的那一层移除,需要显示时移回。一定要把图片源文件复制粘贴到行空板M10“文件系统”的“项目中的文件”里。如下图所示。 ![]() 将图片源文件复制粘贴到项目中的文件中 ![]() 运行后查看效果。如下图所示。 ![]() 4. 系统播放音频和视频 (1)播放音频 行空板M10播放音频(MP3或wav),首先扩展“官方库”和“用户库”。 ![]() 程序编码如图下图。 ![]() (2)播放视频 行空板M10播放视频(MP4或mkv),首先扩展“官方库”和“用户库”。 ![]() 程序编码如图下图。 ![]() 八、电路连接 1.实物连接图 ![]() 2.电子连线图 九、编程测试 打开Mind+,分别扩展→官方库→行空板M10;pinpong库→pinpong初始化、超声波测距传感器DHT11温湿度传感器、WS2812 RGB灯、语音合成模块;用户库→输入HuskyLens 2搜索→HuskyLens 2AI摄像头来添加。如下图所示。 ![]() ![]() ![]() 编程测试程序,分别测试各个模块能否正常使用。测试程序如下图所示。 ![]() 测试时,先听听有无“准备好了”的声音;触摸屏幕“环境监测”按钮,看看屏幕显示温度、湿度、光线的值是否正常,同时观察两个灯是否熄灭;接着触摸屏幕“超声波值”按钮,看看超声波显示值是否有显示,用手挡一挡是否有变化,同时观察两个灯是否点亮;再触摸屏幕“人脸识别”按钮,眼睛看二哈识图2是否切换到了人脸识别模型,用附件照片测试,看显示是否正常;最后,再触摸屏幕“姿态识别”按钮,眼睛看二哈识图2是否切换到了姿态识别,用附件照片测试,看显示是否正常。 十、DeepSeek离线版本地部署 详见《基于二哈识图2 AI视觉传感器(HuskyLens 2)姿态识别的《智慧护眼精灵》项目设计3》中的八、DeepSeek离线版本地部署。 十一、行空板M10调用本地DeepSeek 行空板M10算力强劲,不必使用siot桥接本地DeepSeek,最好的方法使用“代码生成器”封装Python代码,图形化编程就能实现本地部署的DeepSeek模型的调用。调用程序如下图所示。 ![]() 调试时,由地址 http://10.1.2.3/pc/network-setting 进入网页,进行“网络设置”让行空板M10连接上跟电脑服务器同一网段的WIFI,如下图所示。 ![]() 运行程序,查看结果(AI回答是否正常),如下图所示。 ![]() ![]() 十二、电脑部署SIOT 根据央馆《创意智造》及白名单《全国青少年人工智能创新挑战赛开源硬件创意智造》竞赛规则,要求竞赛现场制作期间严禁以任何方式接入互联网。因此,本教程以基于局域网的SIOT平台为主要环境,行空板M10与其他设备(如其他单片机、手机、电脑、平板等)的通讯方式,可用行空板M10自带的SIOT物联网服务,也可以用电脑一键架设SIOT物联网服务,保证其他设备只要能与行空板M10同在一个局域网络中即可。即连接路由器或行空板M10自带的热点或手机的热点(注意需要使用2.4G Wi-Fi),就可以通过网络访问它,从而实现编程、配置或数据传输。 SIOT是一个针对学校场景的开源免费的MQTT服务器软件, 可一键创建本地物联网服务器, 摆脱联网困扰。 首先必须了解行空板M10自带的热点及用户名密码。 行空板M10Home键(确定键)、A键(上移键)、B键(下移键),利用这三个键,在行空板M10得到供电的情况下,可实现快速配置。当然也可用触摸屏进行配置。 1.行空板M10热点 行空板M10支持开热点,这样其他手机或者wifi就可以通过无线访问行空板M10实现远程控制了。通过Home键->开关无线热点模式->打开无线热点,等出现SSID和PASS,然后电脑或者手机连接这个行空板M10的热点。 请注意:如果行空板M10不开启热点,电脑是连不上行空板M10自带的MQTT协议物联网(Siot)的,就无法对其进行配置。开启热点如下图所示。 ![]() 2.行空板M10自带SIOT关闭 检测服务是否开启,通过Home键->查看网络信息,界面显示IP地址为:192.168.123.1,说明服务已经开启。电脑地址栏输入192.168.123.1:8080,就可以对SIOT进行配置了。但是在《智慧护眼精灵》这个项目里,我们不能用M10自带的物联网,因为电脑部署了本地DeepSeek大语言模型,把SIOT物联网也部署在电脑上,而把M10自带的物联网关闭,以节省M10资源。由地址 http://10.1.2.3/pc/network-setting 进入网页,通过“打开页面”来登录SIOT页面,进行配置“启动服务/关闭服务”,让行空板M10自带的SIOT关闭,如下图所示。 ![]() 当然也可以手动关闭或启动:行空板M10连接电脑,通过Home键->应用开关->SIOT:已启动或已关闭。如下图所示。 ![]() 3.电脑部署SIOT (1)下载安装。SIoT软件下载地址http://mindplus.dfrobot.com.cn/siot或从“百度网盘”里获得。SIoT是一个绿色软件,将下载的压缩包解压到非中文目录即可。如下图所示。 ![]() (2)SIOT启动。打开SIoT_windows_1_2.exe就启动了SIOT服务,如下图所示。 ![]() 4.配置电脑SIOT 配置电脑SIOT与配置行空板M10自带的SIOT,唯一的区别就是IP地址不一样,电脑SIOT服务器地址随着你所处的环境WIFI不一样,IP地址也不同(如192.168.0.111)而行空板M10自带的SIOT服务器IP地址是固定的192.168.123.1(或10.1.2.3)。 (1)用电脑程序初始化SIOT(电脑)配置,如下图所示。 ![]() ![]() (2)手动初始化SIOT(电脑)配置,登录电脑SIOT网址,分别输入两设备“A/0”、“B/1”,随便发送个消息即可。如下图所示。 ![]() ![]() ![]() 十三、自主开发手机APP 创新移动应用开发的利器(APP Inventor 2022),它是一款极具创新性和实用性的手机 APP 开发工具。它为开发者提供了一个直观、易于上手的开发环境,无需深厚的编程基础就能开启创作之旅。无论是初学者还是有一定经验的开发者,都能在 APP Inventor 2022 中找到乐趣和成就感。它拥有丰富的组件库,涵盖了界面设计、数据处理、多媒体等多个方面。比如,通过简单的拖拽操作,就能轻松构建出美观的用户界面。教程详见“基于二哈识图2 AI视觉传感器(HuskyLens 2)姿态识别的《智慧护眼精灵》项目设计5”的十二、APP Inventor2022编程。 带设置的SIoT物联网(万能APP),手机扫码下面二维码下载安装。如下图所示。 ![]() 十四、结构设计与制作 根据央馆《创意智造》及白名单《全国青少年人工智能创新挑战赛开源硬件创意智造》竞赛规则,项目界定要求:参与者使用计算机设计软件进行设计和创作,可使用 3D 打印机、激光切割机等完成作品外观制作,结合开源硬件、人工智能、物联网等技术,围绕拟定的主题进行功能和结构设计,制作出体现创客文化和多学科综合应用的作品,并进行交流展示。结构件制作为了节省时间,一般使用激光切割制作主体,3D打印做些小部件,然后进行外观涂色装饰、解决外观美化且做啥像啥的问题。详细教程请参阅“基于二哈识图2 AI视觉传感器(HuskyLens 2)姿态识别的《智慧护眼精灵》项目设计4”的十二、激光切割结构件设计与制作。 智慧护眼精灵完整的结构设计,如下图所示。 ![]() 十五、《智慧护眼精灵》迭代与调试 1. 智慧护眼精灵完整程序 智慧护眼精灵完整Mind+程序,如下图所示。 ![]() 2.智慧护眼精灵的调试 温馨提示:不管用不用扩展板,二哈2都必须单独供电!否则闪退和报错!单片机连接的WIFI一定要是2.4G(而非5G)! (1)启动ollama。 (2)启动SIOT。 (3)智慧护眼精灵上电(连接电脑)。 (4)启动智慧护眼精灵(行空板屏触摸屏启动或电脑Mind+软件启动)。 (5)分别触摸屏幕六个按钮“学习开始/学习结束/用眼查询/环境检测/出AI报告/重置复位”进行调试或展示。 (6)当启动“学习开始”后,先检测“用眼监测”功能,如果偏近了、偏远了,一次两次LDE灯(红灯)闪烁轻度报警,多次(设三次为严重)后,语音报警。随后,同理检测“姿态监测”功能,如果趴桌睡、伸懒腰、腰侧弯,一次两次LDE灯(红灯)闪烁轻度报警,多次(设三次为严重)后,语音报警。 (7)学习结束。 (8)用眼查询。 (9)环境检测,查看屏幕显示数据是否正常,用光照(挡光或采用电筒照,演示或调试环境不同,设置的阈值也应有时区别),看自动补光或语音提醒功能是否正常。 (10)出AI报告:触摸“出AI报告”后需要多等一会儿,因为本地部署的AI大语言模型用电脑档次不同,出结果时间有快有慢。调试听语音播报是否正常。 (11)登录电脑SIOT物联网,查看数据是否正常,与手机APP联调试一试。在手机上输入“开灯”、“关灯”提交后看效果是否正常,不正常吧!因为给你的参考程序就没有加入物联网接收消息执行的代码块,只有屏幕显示而不能开关灯,请你加上代码块(试试你能否看懂它吧)。在手机上按“查询”按钮后看总数据列表是否正常。《智慧护眼精灵》严重报警时,会同时对手机APP推送消息,查看是否正常。 ![]() 大家看DeepSeek大语音模型分析时序数据,统计各种状态的次数,生成含姿势稳定性、用眼节奏、学习专注力等多维度的报告,只要你提问巧妙,得到的结果十分惊艳。我们用代码生成器封装Python代码,图形化编程就能实现与本地部署的DeepSeek模型双向通讯,使得算力很低的主控板也能做复杂数据统计工作。 行空板M10+二哈识图2+语音合成模块+本地部署的DeepSeek等技术,不上互联网(采用离线模式)就能进行“高大上”的人工智能项目设计与制作,值得推介! 系列教程链接: 基于二哈识图2 AI视觉传感器(HuskyLens 2)姿态识别的《智慧护眼精灵》项目设计1 基于二哈识图2 AI视觉传感器(HuskyLens 2)姿态识别的《智慧护眼精灵》项目设计5 二哈识图2 +掌控板+micro:bit掌控IO扩展板+超声波+本地DeepSeek——《智慧护眼精灵》 |
3.37 MB, 下载次数: 6
文本图片显示及音频视频播放程序
1.94 MB, 下载次数: 6
测试程序
167.91 KB, 下载次数: 6
直接调用本地AI大模型
3.95 MB, 下载次数: 6
SIOT万能APP
11.25 MB, 下载次数: 6
测试用的图片
智慧护眼精灵(M10-Mind+1.8.1完整编码).zip
2.03 MB, 下载次数: 8
M10完整程序
129.98 KB, 下载次数: 6
结构设计图纸
© 2013-2025 Comsenz Inc. Powered by Discuz! X3.4 Licensed