Invention Publication
- Patent Title: 一种基于多模态模型的花菇分级采摘方法及系统
-
Application No.: CN202410030153.4Application Date: 2024-01-09
-
Publication No.: CN118038445APublication Date: 2024-05-14
- Inventor: 袁国慧 , 何思佳 , 王卓然 , 朱佑存 , 杨礼远 , 秦帅 , 曾志宏
- Applicant: 浙江香满亭生物科技有限公司 , 电子科技大学长三角研究院(衢州)
- Applicant Address: 浙江省衢州市龙游县小南海镇团石农垦场香满亭花菇基地1-1室;
- Assignee: 浙江香满亭生物科技有限公司,电子科技大学长三角研究院(衢州)
- Current Assignee: 浙江香满亭生物科技有限公司,电子科技大学长三角研究院(衢州)
- Current Assignee Address: 浙江省衢州市龙游县小南海镇团石农垦场香满亭花菇基地1-1室;
- Agency: 成都正煜知识产权代理事务所
- Agent 李龙
- Main IPC: G06V20/68
- IPC: G06V20/68 ; G06V10/80 ; G06V10/82 ; G06N3/0464 ; G06N3/048 ; G06V10/764

Abstract:
本发明公开了一种基于多模态模型的花菇分级采摘方法及系统,该方法包括以下步骤:获取花菇图像数据,进行预处理以及数据集生成;搭建多模态的花菇分级模型,所述多模态的花菇分级模型包括花菇检测与区域提取模块、图像特征提取模块以及多模态特征融合分级模块;将摄像头、机械臂与多模态分级模型进行关联;通过摄像头采集并实时传输花菇采集数据至多模态分级模型中,生成花菇分级与定位信息;获取机械臂的位置信息,生成采摘运动轨迹信息;根据运动轨迹信息控制机械臂对花菇进行分级采摘。本发明结合花菇级别的评判标准,利用多模态特征融合的方法,实现花菇的图像文本多模态分级检测,并级联摄像头、机械臂等硬件,实现对不同级别花菇的自动分级、定位及采摘,能够保证较好的分级采摘准确性。
Information query