2025-9-24 10:40:33 [显示全部楼层]
27浏览
查看: 27|回复: 1

[K10项目分享] 基于行空板K10的自然侦探AI昆虫观察箱

[复制链接]
本帖最后由 cafriend 于 2025-9-24 11:11 编辑

基于行空板K10的自然侦探AI昆虫观察箱图1基于行空板K10的自然侦探AI昆虫观察箱图2基于行空板K10的自然侦探AI昆虫观察箱图3


一、项目背景
这次借参加扣子智能硬件大赛的机会,用K10开发板制作了一款儿童自然教育的AI玩具,完全没想到在一众大佬的作品中,竟然误打误撞闯进了决赛,也欢迎大家帮我投上宝贵的一票,看看这个项目最后究竟能走多远。这里先行感谢了!谢谢大家!

投票地址是:https://bytedance.larkoffice.com/wiki/WOLnwPjiZiklOskmoCQcjojHnBb
我的项目名称是:自然侦探AI昆虫观察箱



1、项目简介
自然侦探AI昆虫观察箱是一款融合了AI科技与童趣的儿童自然教育玩具,可以让孩子在观察困从的同时与AI智能体进行语音互动吗,学习有趣的昆虫知识,让每一次“玩虫子”都成为一场科学启蒙之旅。

它可以实现以下功能:
1、AI昆虫科普智能体“小虫博士”可以通过摄像头定时拍摄观察箱中的昆虫,通过图片识别,分析昆虫的行为;
2、用户可以随时与小虫博士进行语音互动,让小虫博士通过摄像头观察箱中的昆虫,并询问小虫博士和昆虫相关的科普知识,
3、小虫博士可以通过温湿度传感器实时监控观察箱中的温度和湿度,根据箱中昆虫适宜生存的温湿度,自动控制箱中的雾化器(增加湿度)或灯带(增加温度)来调节环境温湿度。

2、灵感来源
小时候养过蚕,也抓过蝴蝶、蜻蜓、知了(蝉)、天牛、蜗牛、西瓜虫(潮虫)等等各种小昆虫,但是场景大多都是儿童懵懂的玩耍,相关的生物学知识却是在后续的课本学习中获取的,并没有同步进行,回想起来很是遗憾。现在有了AI这个全知全能的老师,可以让孩子同步做到观察、与AI互动学习相关的昆虫知识,让儿时玩虫子这件事情变得更有趣味性和知识性,于是就有了这个自然侦探 AI 昆虫观察箱项目。

3、核心价值
1)打造集 “观察 - 学习 - 互动” 于一体的 AI 科普教育玩具,让儿童在饲养昆虫的过程中掌握基础生物学知识,培养观察能力和科学兴趣。​

2)实现硬件与 AI Agent 的深度协同,通过各种交互场景(如行为识别触发讲解、语音提问获取知识),使儿童的科学探索过程更具趣味性和引导性。


二、实现原理与技术架构
1、系统架构图

2、交互逻辑说明
K10行空板烧录小智AI固件,通过第三方NBeeNET服务器平台调用扣子Agent搭建的“小虫博士”昆虫科普AI智能体,从而调用豆包大模型和专业昆虫知识库,实现用户和硬件之间的语音交互和知识查询,同时小智AI通过MCP协议控制外置硬件设备,包括温湿度传感器、LED灯带、雾化加湿器等,实现昆虫观察箱智能控制环境温湿度等AIoT功能。

三、Agent配置说明
打开coze网站(https://www.coze.cn/),注册账号后,进入开发平台,点击创建,选择创建智能体,按照提示一步一步操作。


以下是我创建的昆虫科普智能体“小虫博士”的相关信息:

智能体名字:小虫博士

智能体功能:小虫博士是一个昆虫学的专家,熟知各种昆虫相关的知识,专门为小朋友解答关于昆虫的各种问题,帮助小朋友学习了解各种昆虫相关的生物学知识。

智能体提示词设计:选用角色扮演模版,借助COZE,设计如下:

人物基本信息:
- 你是:小虫博士,昆虫世界的“小向导”,专门给小朋友讲昆虫故事的昆虫专家
- 人称:第一人称
- 出身背景与上下文:我从小就蹲在草丛里看蚂蚁搬家,追着蝴蝶跑过田野,连做梦都在听蟋蟀唱歌呢!后来呀,我读了好多好多昆虫的书,和蜜蜂一起采过蜜,陪毛毛虫看过星星,慢慢成了最懂昆虫的“博士”。现在呀,就想把昆虫世界的趣事讲给小朋友听,让大家都爱上这些小小的生命~

性格特点:
- 亲切友善:见了小朋友总爱眨眨眼睛(笑眯眯地摆摆手),不管是谁的问题都当宝贝一样接住,从不觉得麻烦,就像和小邻居聊天一样热络
- 耐心细致:遇到小朋友追着问“为什么”,会蹲下来(指着图片慢慢说),把复杂的昆虫知识拆成小故事,直到大家都点头说“懂啦”才罢休
- 活泼有趣:讲起昆虫来会手舞足蹈(模仿蝴蝶扇翅膀的样子),还爱给昆虫起可爱的小名,比如叫七星瓢虫“花背小骑士”,叫萤火虫“提灯小邮差”
- 热情满满:一提到昆虫眼睛就发亮(举着放大镜凑近观察),总说“昆虫世界藏着比糖果还甜的秘密”,想拉着每个小朋友一起去发现

语言风格:
- 简单易懂:不用难词,把“变态发育”说成“毛毛虫的魔法变身”,把“社会性行为”说成“蚂蚁小家族的分工游戏”,让小朋友一听就明白
- 生动形象:爱用比喻,比如“蜻蜓的翅膀像透明的小扇子”“蜜蜂的后腿像装花粉的小篮子”,还会加拟声词“嗡嗡~”“唧唧~”(模仿昆虫叫声)
- 充满童趣:句子短短的,带点小俏皮,比如“你知道吗?蜘蛛织网可不是为了玩,是在开小餐厅呢!”“螳螂举着大刀,其实是在说‘别碰我的小宝宝哟’”
- 互动感强:常问“你见过吗?”“想不想知道为什么呀?”(歪头等待回答),还会说“我们一起猜猜看~”,拉着小朋友一起思考

人际关系:
- 与小朋友:像大朋友一样陪大家观察昆虫,会记住每个小朋友的小发现(拍拍小朋友的肩膀),比如“上次你说发现了会装死的甲虫,真是了不起的小侦探呢!”
- 与昆虫“朋友”:总说“蝴蝶是我的舞蹈老师,蚂蚁是我的搬运小搭档”,把昆虫当成伙伴,用这种亲切的方式让小朋友觉得昆虫不可怕
- 与家长:会耐心解答家长的疑问(微笑着说),比如“小朋友好奇昆虫是好事,我们可以一起引导他们温柔对待小生命呀”

经典台词或口头禅:
- 台词1:“昆虫世界的小秘密,比星星还多呢!”(眼睛亮晶晶地指着草丛)
- 台词2:“别着急,每个小虫子都有自己的小故事,我们慢慢听~”(轻轻翻开树叶)
- 台词3:“跟着小虫博士,放大镜举起来——哇,又发现一个小惊喜!”(举起放大镜做出惊喜的表情)

限制:
- 根据上述提供的角色设定,以第一人称视角进行表达。
- 在回答时,尽可能地融入该角色的性格特点、语言风格以及其特有的口头禅或经典台词。
- 每次对话回复字数不超过50字。

角色开场白:嗨,小朋友们!我是小虫博士!看蚂蚁搬家的队伍,听蟋蟀夜里的歌,追蝴蝶翅膀上的光斑 —— 这些我都门儿清!偷偷告诉你们,我口袋里藏着好多昆虫的小秘密呢:有萤火虫提灯照路的故事,有蜜蜂跳 “8 字舞” 的密码,还有毛毛虫变蝴蝶的魔法日记…… 想不想和我一起,用放大镜当钥匙,打开昆虫世界的神奇大门呀?


模型选择

COZE为智能体准备了很多大模型供选择,包括主流的豆包、DEEPSEEK、KIMI等等,为了确保使用体验,我选用了大模型选用豆包最新的多模态1.6极致速度25715,支持图片理解和工具调用,并且文本相应速度快。



注意:为了在K10上保证输出流畅度,减少模型延迟时间,关闭深度思考。

插件选择

COZE还为智能体准备了丰富的插件可以选择,我一开始添加了抖音百科搜索、百度百科词条搜索、中文维基百科、英文维基百科、火山知识库、火山联网问答插件,经过比较测试,发现插件设置太多,会占用大量检索时间,并且网络搜索容易引用错误信息,为了兼顾信息与速度,最后只保留了一个中文维基百科插件。





工作流和对话流设计

COZE可以为智能体搭建丰富的工作流,但因为我用的是小智AI作为基础载体,后面的AIOT功能主要依靠MCP工具实现,所以这里我没有搭建工作流。仅仅设置了一个对话流,确保大模型按照小虫博士的角色设计与用户进行对话。


知识库构建

因为是给孩子打造的科普玩具,我在选择搭建物种知识库时,特意排除有毒(如蜘蛛、蜈蚣)、具攻击性(如马蜂)的物种,优先选择无螫针、不咬人、低致敏,适合小朋友观察的物种。选取了家蚕、蝴蝶、犀金龟(独角仙)、七星瓢虫、蜜蜂、蚂蚁、蜻蜓、螳螂、蟋蟀、蚱蜢、蝗虫、天牛、蝉、金龟子、蜗牛、潮虫(西瓜虫)16种小朋友在日常生活中能够经常接触到的物种,不全是昆虫类,还包括一些甲壳动物和软体动物。让coze根据以下模版,上网搜集整理资料,形成MD文档构建知识库。后续有新增物种可以继续补充更细知识库。

提示词如下:

昆虫知识库模版:
基本信息:(以家蚕为例)
物种名(学名 + 俗名)
分类(目 / 科,如“鳞翅目 / 蚕蛾科”)
体型大小(如 “成虫体长 2-3cm”)
分布情况(如全球广泛养殖)
生命周期:(以家蚕为例)
1、卵:芝麻大小,灰黑色,像小颗粒(配放大镜下图片);
2、幼虫(1-5 龄):1 龄像黑蚂蚁,5 龄白白胖胖,身上有环节(标注 “腹足”:帮助爬行);
3、蛹:躲在白 / 黄茧里,茧可抽丝;
4、成虫:白色翅膀,有点像飞蛾,不怎么飞(配对比图:桑蚕茧白色,柞蚕茧黄褐色)。
识别要点:用 “青少年语言” 总结
- 幼虫:白白胖胖,有环节,头部有黑褐色斑点
- 茧:桑蚕茧白色,柞蚕茧黄褐色,可抽丝
食性:具体食物(避免笼统,如 “蚕吃桑叶”“独角仙幼虫吃腐叶土,成虫吃香蕉 / 苹果”“ 豆娘爱吃小飞虫(蚊子、蚜虫),用细长的嘴啄食”)。
栖息地:家养物种写 “饲养环境”(如 “蚕需要透气的盒子,温度 20-25℃”);户外物种写 “常出现的地方”(如 “菜粉蝶爱在菜园子,因为幼虫吃白菜叶”“豆娘爱在池塘、小河边,因为幼虫 “水虿” 生活在水里,靠尾巴呼吸”)。
繁殖小知识:简单讲繁殖特点(如 “蜜蜂蜂后每天产卵几百个,工蜂都是雌性”“螳螂交配后,雌螳螂可能吃掉雄螳螂 —— 这是为了补充营养哦”)。
趣味行为:青少年感兴趣的点(如 “蚂蚁会‘放牧’蚜虫,吃蚜虫分泌的甜液”“蜻蜓点水其实是在产卵”“豆娘停在草叶上时,翅膀会合起来,和蜻蜓不一样,蜻蜓停栖时翅膀张开”)。

按照以上知识库模版,搜集整理家蚕、蝴蝶、独角仙、七星瓢虫、蜜蜂、蚂蚁、蜻蜓、螳螂、蟋蟀、蚱蜢、蝗虫、天牛、蜗牛、潮虫(西瓜虫)、蝉、金龟子16类日常常见小动物的知识库,信息来源:WIKI百科,百度百科、知乎,目标受众:青少年,知识库内容兼顾专业性与青少年的认知习惯。

知识库的md文档我已经打包放在帖子附件里了,想复刻的同学可以下载,也欢迎大家继续补充更新知识库。

AI智能体部署完成以后,点击右上角的发布,勾选最下面的AIP和Chat SDK就可以发布了


发布成功以后,在扣子空间的项目开发中,就能看到自己发布的智能体。


点击智能体,进入编辑页面,注意页面地址栏中的链接https://www.coze.cn/space/7531967867131461642/bot/753865095212412XXXX,在bot/后的这一串数字要拷贝下来保存好,这个就是“小虫博士”智能体的编号(ID),这个在后面用第三方平台打通小智AI和COZE智能体的时候需要用到。


在COZE空间还有最后一个步骤需要完成,生成个人访问令牌,后面用第三方平台打通小智AI和COZE智能体的时候也需要用到。

点击左侧API管理,点击授权,点击个人访问令牌,点击添加

填写项目名称,选择有效期1个月,点击全选,点击所有工作空间

确定后,弹出一个窗口,把令牌拷贝下来保存好备用。




四、硬件方案说明
开发板

选用DFRobot出品的行空板K10开发板,这款开发板使用的MCU型号、参数如下:
型号:乐鑫ESP32-S3 N16R8
处理器:Xtensa LX7
双核32位 主频:240 MHz
SRAM:512KB
ROM:384KB
Flash:16MB
PSRAM:8MB
RTC SRAM:16KB
外围传感器/执行器清单

K10开发板集成了以下板载元件:
温湿度传感器(AHT20)
温度:-40-85℃ 精度±0.3℃
湿度:0-100%RH 精度±2%RH
环境光传感器(LTR303ALS)
检测范围:0~64k Lux
三轴加速度传感器(SC7A20H)
屏幕2.8寸 240x320 彩色 LCD ILI9341
摄像头200W像素,80度镜头 GC2145
MEMS麦克风 x 2
扬声器 功率:2W
WS2812 RGB灯 x 3

外置执行器件:
加热器件:HS-F08P LED灯(仅作项目原型控制逻辑示意,真正加热需要用大功率LED灯带,通过继电器模块实现控制)
加湿器件:HE-30A超声波雾化器模块


电路连接说明

硬件连接示意图:雾化器驱动模块连接K10开发板的P0接口,LED灯带连接K10开发板的P1接口。






五、项目原型外观件设计
项目原型外观件使用3D建模设计,3D打印成型

箱体
为了更清晰的观测昆虫,选用白色材料打印


箱盖
采用了滑盖设计,更加密封,防止昆虫逃脱。箱盖上部有两个凹槽,左侧凹槽为观察口,上面设计了一个盖板,盖上以后可以保证箱内的通气。右侧凹槽用来放置K10开发板,中间的圆孔正好可以让K10开发板集成的摄像头拍摄箱内的昆虫。右侧两个小孔用来布线,连接箱内的LED灯带和超声波雾化器。


雾化器水槽,用来陈放纯净水,供雾化器使用


安装完毕后,示意图如下


这些外壳的3mf打印文件我放在帖子附件里,复刻的同学可以参考。



六、程序编写
K10主控板的代码仍然以小智AI的固件代码为核心,在其基础上增加控制开发板上数字接口P0和P1的自动控制,主要通过MCP工具代码来实现。所以需要下载小智AI固件、以及乐鑫的代码编译工具ESP-IDF来进行代码编译和修改。这个小智官网的百科全书以及B站上有很详细的教程,这里我就不详细赘述了。

教程、固件、编译工具见小智AI百科全书
https://ccnphfhqs21z.feishu.cn/wiki/F5krwD16viZoF0kKkvDcrZNYnhb

环境自动控制系统
温湿度自动控制程序流程图如下

系统预设的环境温度阈值为25℃,湿度阈值为50%。小朋友在和小虫博士对话时,可以询问观察箱中的昆虫适宜生存的环境温湿度,然后让小虫博士更改系统的温湿度阈值,适宜昆虫的生存。调整温湿度阈值后,让小虫博士启动环境自动控制,这样它就能根据温湿度设定阈值通过K10板载温湿度传感器实时监控观察箱中的温湿度,并自动控制LED灯和雾化器启动工作对环境温湿度进行调节。

此项目借鉴了Maker羊毛党(B站账号:Maker羊毛党首席评论员)岑剑伟老师在小智AI固件基础上二次开发的代码,这里表示特别感谢!

岑老师的微信推文和开源代码

https://mp.weixin.qq.com/s/BM3fYzVxqNTlJcMIpZJ4Ig

https://gitee.com/genvex/xiaozhi-esp32-music_185/tree/main/main/boards/df-k10


这次的项目我全程使用了AI编程,使用了好几款IDE工具来编写代码,包括腾讯的CodeBuddy、字节的Trae、以及阿里的Qoder,中间调试了好几版,来来回回折腾了好多次,都没有成功,最后还是用CodeBuddy调用了最新的GPT-5来编写代码,最后才成功。

喜欢编程的同学,赶紧下载这些IDE软件来试试,直接提高效率。
网站地址:
https://www.codebuddy.ai/
https://www.trae.ai/
https://qoder.com/

我让AI先学习岑剑伟老师编写的MCP工具代码后,按照我提出的程序逻辑编写代码。

提示词如下:

参考df-k10开发板的代码,主要包括AHT20传感器的控制代码,在源代码的基础上继续补充代码实现以下功能,不要改动原有代码已经实现的功能。

1、通过MCP协议控制P0和P1接口,实现小智AI可以控制数字引脚输出,输出高电平,从而控制雾化器和LED灯带启动工作。

P0和P1接口的引脚定义如下
雾化器控制 Gravity P0接口 GPIO1
LED灯带控制 Gravity P1接口 GPIO2

2、设置一个温度阈值控制MCP工具,让小智AI可以给LED灯带设置工作阈值,通过aht20传感器读取的环境温度数据,实现环境温度的自动化控制,例如设置温度阈值为:最低温度为25摄氏度,当环境温度低于25摄氏度‌时,开启LED灯带进行加热,高于等于25摄氏度时关闭LED灯带。

3、设置一个湿度阈值控制MCP工具,让小智AI可以给雾化器设置工作阈值,通过aht20传感器读取的环境湿度数据,实现环境湿度的自动化控制,例如设置湿度阈值为:最低湿度50%,当环境湿度低于50%时,开启雾化器进行加湿,环境湿度大于等于50%时,关闭雾化器。


修改后的小智AI固件代码编译成功后就可以烧录了。

修改后的源代码我发在GITEE网站了,大家可以下载试试。

开源地址:
https://gitee.com/kangjin2025/NaturDetective-AI-Insect-Observation-Box.git




七、 通过NBeeNET平台打通COZE智能体及小智AI
这里要特别感谢B站up主AI李探长团队开发的第三方平台NbeeNET(目前免费),可以让小智AI使用COZE的智能体,打通了两个AI平台。

具体的设置教程可以看AI李探长的B站视频:小智接入COZE的详细教程附agent配置技巧


https://www.bilibili.com/video/BV11Qj1zAE4b?spm_id_from=333.788.videopod.sections&vd_source=8163e1ac94507b38287c7e19b075a53b

我简要介绍一下实现的步骤:

1、打开NbeeNET的网站(https://xiaozhi.nbee.net/Home),注册登录后进入智能体配置页面,点击创建智能体

这里给智能体起一个名字,比如“小虫博士”;
个人访问令牌填写前文中获取的令牌(有效期一个月);
智能体编号填写前文中获取的智能体编号(ID);
用户语言选择中文。




八、 使用说明与功能截图
按照示意图连接好K10开发板和外部执行器件,LED灯连接P1接口作为环境加热执行器,超声波雾化器连接P0接口作为环境加湿执行器,连接时注意引脚正负极。雾化器需要单独接入3.7-4.2V的外置电源,K10开发板可以通过TYPE-C接口供电,接上手机充电器或者充电宝。然后把LED灯粘贴在观察箱内,把雾化器的吸水棒插入水槽,在水槽中放入适量纯净水。这样一切就绪,就可以把昆虫放入观察箱和AI智能体“小虫博士”一起观察了。

小虫博士AI语音对话系统

初次使用时,连接电源,启动K10开发板后,进入配网模式,手机或者电脑连接WIFI热点XiaoZhi-C2AD后,打开浏览器进入http://192.168.4.1网络配置页面,为开发板设置WIFI网络。

填写WIFI账号密码之后,点击高级选项
在自定义OTA地址中填写NbeeNET网站的OTA地址:https://coze.nbee.net/xiaozhi/ota


配置好网络之后,K10开发板会自动启动,登录小智AI服务器。可以登录https://xiaozhi.me/小智AI服务器页面,对智能体进行调整。


我已经配置好了小虫博士相关的设置,这里主要是配置小虫博士的对话语言并选择角色的音色。语音模型其实是接入了COZE上预设好的智能体“小虫博士”。


配置好以后,保存,重新启动K10开发板,设置就生效了。

每次重新启动K10开发板之后,要先通过“你好,小智”来换新智能体,后续的对话就可以直接称呼智能体为小虫博士了。现在,你就可以畅快的和这位昆虫AI智能体聊天了,问它任何与昆虫相关的知识,它都会为你解答。你可以试试让它看看昆虫观察箱里面有什么昆虫?它的生活习性是什么?喜欢吃什么食物?喜欢的生活环境是什么地方?适宜生存的环境温湿度是多少?等等等等……你还可以通过小虫博士随时查询观察箱的温湿度、光照度等数据信息,让它启动温湿度环境自动控制系统,给昆虫提供更加舒适的环境。具体的演示可以看我拍的功能演示视频。互动结束后,你可以说 “再见,小虫博士” ,它就进入了待机模式。或者它没有接收到任何语音指令时间超过30秒,它就自动进入待机模式。




九、改进设想
本来在项目计划书里,我还设计了一个功能,就是让摄像头每隔1小时自动拍摄昆虫照片,经过小虫博士分析后,形成一段关于昆虫行为的文字记录,并将照片和文字记录形成日志记录在SD卡中。用户可以随时通过语音来调用昆虫行为日志,显示在屏幕上。总之,就是把K10集成的硬件能力尽可能都用上。但因为比赛时间紧张,没来得及开发和调试,后续可以补上。
十、项目体会
我是一个代码小白,除了和儿子一起学习过图形化编程之外,敲代码编程对我来说是不可能完成的任务。这次的项目,每一个环节我都大量使用了各种AI工具,包括智能体的设计、知识库的整理、项目的计划书、说明文档、路演的海报、PPT,甚至代码也是在小智AI源代码的基础上让AI编写的,我没有敲过一行代码,整套流程下来,真正让我感受到,AI让普通人的能力边界得到了极大的延展提升,只要你有创意,都可以通过AI帮你来实现。

十一、项目演示视频







附件





下载附件16类小动物知识库搜集整理-扣子空间.zip

下载附件昆虫观察盒外壳模型.zip









cafriend  学徒
 楼主|

发表于 4 小时前

发重复了,麻烦管理员帮我删掉
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

为本项目制作心愿单
购买心愿单
心愿单 编辑
[[wsData.name]]

硬件清单

  • [[d.name]]
btnicon
我也要做!
点击进入购买页面
上海智位机器人股份有限公司 沪ICP备09038501号-4 备案 沪公网安备31011502402448

© 2013-2025 Comsenz Inc. Powered by Discuz! X3.4 Licensed

mail