-
公开(公告)号:CN119452330A
公开(公告)日:2025-02-14
申请号:CN202380049726.1
申请日:2023-09-19
Applicant: 海信电子科技(深圳)有限公司
IPC: G06F3/01
Abstract: 本公开涉及虚拟现实交互技术领域,提供一种估计手柄位姿的方法及虚拟显示设备,利用手柄上的IMU和多个发光器,实现视觉和惯导对位姿的联合优化。位姿估计前,根据不同位置角度采集的多帧初始手柄图像中手柄上各发光器的标注结果,优化各发光器的3D空间结构以提高相对位姿计算的准确性;位姿估计过程中,基于优化后的3D空间结构、相机采集的目标手柄图像中提取的目标光斑集合以及IMU的观测数据,初始化手柄与虚拟显示设备间的相对位姿,由于目标光斑集合剔除了环境因素的干扰,有助于提高相对位姿计算的准确性,后续在对手柄与虚拟显示设备间相对位姿进行预测和优化时,能够得到平稳、准确的目标相对位姿。
-
公开(公告)号:CN118470082A
公开(公告)日:2024-08-09
申请号:CN202310145213.2
申请日:2023-02-07
Applicant: 海信电子科技(深圳)有限公司
Abstract: 本申请涉及计算机视觉技术领域,提供一种3D手部模型生成方法及虚拟现实设备,用于提高基于模型优化方式生成手部模型中的优化初始值。该方法中,通过将当前时刻手部关键点的初始3D坐标,输入到目标手势生成模型中,直接获得当前时刻的初始手势参数集,减少了参数计算过程;同时,基于模型输出的质量评分,将当前时刻的各初始手势参数,分别与上一时刻优化后的目标手势参数进行加权,得到当前时刻优化的初始值,提高了初始值的准确性,进而加快了优化过程的收敛速度,使得在用户手部快速运动的情形下,依然能够及时、准确地驱动初始3D手部模型,使得渲染显示在虚拟画面上的目标手部3D模型,与真实环境中的用户手部贴合,提升了交互体验。
-
公开(公告)号:CN115097935A
公开(公告)日:2022-09-23
申请号:CN202210680733.9
申请日:2022-06-15
Applicant: 海信电子科技(深圳)有限公司
IPC: G06F3/01 , G06V40/10 , G06V40/20 , G06V10/10 , G06V10/44 , G06V10/764 , G06V10/82 , G06N3/04 , G06N3/08
Abstract: 本发明公开了一种手部定位方法和VR设备,包括:获取VR设备的双目相机采集的待处理图像;将待处理图像输入至手部检测网络,对待处理图像进行至少一次深度可分离卷积,提取待处理图像的初始手部特征向量;对初始手部特征向量进行卷积,生成两个不同尺度的初始手部图像;将初始手部图像输入至手部关键点估计网络,对初始手部图像进行至少一次深度可分离卷积,得到初始手部图像的目标手部特征向量;对目标手部特征向量预测得到的手部关键点二维坐标的热力图进行可微分最大索引操作,得到手部关键点的二维坐标;基于手部关键点的二维坐标和双目相机内外参数,确定手部关键点的三维坐标。保证手部定位精度,提高运行速度。
-
公开(公告)号:CN119579811A
公开(公告)日:2025-03-07
申请号:CN202411375535.7
申请日:2024-09-29
Applicant: 海信电子科技(深圳)有限公司
Inventor: 曾杰
Abstract: 本申请提供一种构建全局地图的方法及电子设备,用于实现在大空间中构建全局地图,适用于各类型的AR/VR设备,具备通用性,节省成本。包括:响应于接收到的全局地图构建指令,确定预先获取的多帧场景图像分别对应的相机位姿;对多帧场景图像分别进行场景图像的ORB特征提取,得到多帧场景图像中各自的ORB特征点;针对多帧场景图像中的每一帧场景图像,利用场景图像的ORB特征点对场景图像的3D点云数据进行重建,得到场景图像的3D点云数据;根据多帧场景图像分别对应的相机位姿、多帧场景图像分别对应的ORB特征点以及多帧场景图像分别对应的3D点云数据,构建全局地图。
-
公开(公告)号:CN118466736A
公开(公告)日:2024-08-09
申请号:CN202310133244.6
申请日:2023-02-08
Applicant: 海信电子科技(深圳)有限公司
Abstract: 本申请涉及VR技术领域,提供一种三维手势交互方法及虚拟现实设备,能够利用双目图像重建3D手势和3D物体检测避免了对特殊采集设备的依赖,降低了开发硬件资源需求;同时,通过3D手势的类型确定用户的交互需求,并在开始交互时,进行3D物体检测,当交互结束时,停止3D物体检测,从而减少3D物体检测需要占用的系统资源和电量。交互过程中,通过将检测出的目标物体的3D模型和用户的3D手势同时渲染显示在虚拟环境中,使得用户根据虚拟环境的显示结果,调整手部的位置以便与目标物体进行准确交互,并在交互结束后,仅显示虚拟画面。整个交互过程无需退出虚拟场景,实现了VR沉浸式交互。
-
公开(公告)号:CN117765206A
公开(公告)日:2024-03-26
申请号:CN202211135047.X
申请日:2022-09-19
Applicant: 海信电子科技(深圳)有限公司
Abstract: 本申请涉及虚拟现实技术领域,提供一种虚拟现实场景中障碍物的预警方法及设备,针对基于轻量级的深度学习网络检测到的每一障碍物,预测当前图像帧中障碍物的位置信息并进行平滑,同时,对同一相机采集的不同图像帧中的障碍物进行匹配,实现同一障碍物的跨帧传播,使得后续计算出的障碍物关键点的三维位置在时序上达到连续变化的效果,缓解了障碍物在相机坐标系下的位置抖动或突变问题,提高了障碍物检测准确性和稳定性;再者,根据双目图像确定的深度信息以及单目图像确定的深度信息,计算对障碍物关键点的三维位置进行微调的微调系数,进一步提高了障碍物检测的准确性,防止障碍物与用户发生碰撞,进而提高用户安全。
-
公开(公告)号:CN119105639A
公开(公告)日:2024-12-10
申请号:CN202310626359.9
申请日:2023-05-30
Applicant: 海信电子科技(深圳)有限公司
Abstract: 本申请涉及手势交互技术领域,提供一种3D手势数据的生成方法及设备,用于提高手势数据的合理性和多样性。该方法针对手臂、手腕和手部,基于前向运动学理论,采用基于随机的连续函数、基于随机游走的角度变化、及基于已有手部动作捕捉数据集的拼接这三种不同的方式生成3D手势数据集,使得生成的3D手势数据具有较高的随机性,且不会出现实世界中不可达的手部姿态,提高了手势数据集多样性和合理性,并且,手臂、手腕和手部的动作数据是采用异步方式生成的,具有较高的生成效率。
-
公开(公告)号:CN118796023A
公开(公告)日:2024-10-18
申请号:CN202310437559.X
申请日:2023-04-13
Applicant: 海信电子科技(深圳)有限公司
Inventor: 曾杰
Abstract: 本申请涉及SLAM技术领域,提供一种头戴式显示器的定位方法及头戴式显示设备,针对相机连续采集的环境图像进行动态目标检测,获得动态检测区域,由于相机和IMU的坐标系进行对齐了,因此,可以基于IMU连续采集的运动数据确定的动态预测区域,对动态检测区域进行判断,获得环境图像中的动态目标区域,从而避免从动态目标区域提取特征点,减少动态目标对定位的干扰,提高头戴式显示器位姿的准确性。此外,为避免动态目标漏检,对非动态目标区域内提取的特征点进行了筛选,最大限度的保证使用静态的特征点进行定位,进一步提高的了定位精度。
-
公开(公告)号:CN116935432A
公开(公告)日:2023-10-24
申请号:CN202210320365.7
申请日:2022-03-29
Applicant: 海信电子科技(深圳)有限公司
IPC: G06V40/10 , G06N3/0464 , G06V10/764 , G06V10/82
Abstract: 本申请公开了一种手势的识别方法及显示设备,该方法利用手部姿态置信度,确定是否简化确定手部区域位置信息的步骤,当上一帧原始彩色图像对应手部姿态置信度不小于预置置信度时,可以简化确定第二手部信息的步骤,进而缩短了识别手势的时间。该方法包括:当获取到的原始彩色图像不是第一帧原始彩色图像时,确定上一帧原始彩色图像对应的手部姿态置信度;如果不小于预置置信度,则根据上一帧原始彩色图像得到的第一手部信息,预测本次获取的原始彩色图像的手部区域位置信息;利用手部区域位置信息,对干扰像素点进行去除,得到第一深度图像;利用第一深度图像,确定第二手部信息;根据第一手部信息和第二手部信息,确定手部姿态信息。
-
公开(公告)号:CN116342838A
公开(公告)日:2023-06-27
申请号:CN202111591765.3
申请日:2021-12-23
Applicant: 海信电子科技(深圳)有限公司
Inventor: 曾杰
Abstract: 本申请提供了一种头戴设备及头戴设备中的建图初始化方法,头戴设备的建图初始化过程中,可以通过当前帧图像与前一帧图像之间的跟踪匹配完成当前帧图像的位姿估计,以及基于双目立体匹配和前后帧跟踪匹配生成当前帧图像的点云。并且,在所有帧图像的数量满足初始化数量要求时,利用所有帧图像的位姿和点云共同优化建立一个初始地图,从而完成建图初始化过程。这种方式同时兼顾建图初始化速度和精度,保证后续建图的稳定性和用户使用头戴设备的体验感。
-
-
-
-
-
-
-
-
-