近日,觅蜂科技联合西北工业大学、西安交通大学发表论文,提出第一视角运动重建框架“MEgoVista”,用以将第一视角(Ego)视频更精准地转化为4D数据。论文实验结果显示,MEgoVista在Ego视频上具备较高的重建精度,可将无需预先布置场景的第一视角录制数据,有效转化为具有真实尺度的双手动作和头部运动轨迹。
随着具身智能产业快速发展,第一视角视频因采集门槛低、场景覆盖广,逐渐成为具身模型预训练的核心数据来源。
然而,要从采集的视频中准确提炼4D数据,行业长期面临重建精度不足的痛点:一是场景覆盖范围与重建精度往往难以兼顾,固定场地多摄像动捕系统精度高但部署成本高、采集范围受限;二是“姿势像”不等于“位置准”,大规模日常视频数据集则缺乏真实三维尺度标注,依靠单个摄像头还原的手部姿态常存在空间位置偏差,且易受多人互动、肢体遮挡、头部运动等因素干扰,难以直接用于机器人动作训练。
针对上述行业难题,MEgoVista设计了一套离线重建流程:先识别佩戴者的双手,再利用多摄像头测量距离,最后对整段动作进行优化。
具体来看,系统首先精准识别并持续跟踪佩戴者双手,可在多人互动场景中区分佩戴者与他人手部,避免跟错目标;再通过多摄像头测量手部距离,头戴设备的三枚鱼眼摄像头形成两组立体视觉,结合相机标定参数估算手部真实空间距离,并对镜头畸变与安装角度进行校正;最后优化整段动作,减少抖动和姿态异常,逐帧还原的手部姿势,使动作轨迹更符合人体运动规律。
据该论文研究结果,在制作奶茶、美甲、给宠物洗澡三类真实场景测试中,MEgoVista表现出更强的环境适应性:双手快速移动时仍保持骨架贴合,手部沾污、局部遮挡场景下跟踪稳定,且是三者中唯一能在美甲场景中准确区分服务者与顾客双手的方案。
觅蜂科技方面对记者表示,公司正持续推进MEgo系列设备量产,以及数据采集、治理和评测能力建设。此次MEgoVista的研究成果,为这一布局提供了新的技术支撑:在拓展数据来源的同时,提高三维动作重建精度,让真实生活的数据更好地服务于具身模型训练。