arXivDaily arXiv每日学术速递 周一至周五更新

PAPERDAILY REPORTS

Meta做了一只光纤传感手套,60Hz捕捉手势、指尖误差4.9毫米

作者:arXivDaily编辑部 arXiv 2608.24572 cs · cs.RO

手指被杯子、工具或另一只手挡住时,摄像头很容易丢点;依赖惯性或磁场的传感手套又会遇到漂移和干扰。Meta、西北大学提出一套光纤传感手套,用沿手指铺设的多芯形状传感光纤直接恢复三维曲线,再以60Hz重建完整手部姿态。

论文在5名受试者、约2小时灵巧物体操作数据上测试。与动作捕捉真值相比,基础系统的平均指尖位置误差为7.2毫米;加入一次性的光纤路由校准后降到4.9毫米。这个校准在不同用户和采集时段之间复用,不需要每次佩戴都重新标定。

一根光纤同时给出弯曲大小和方向

普通弯曲传感器往往只告诉系统“弯了多少”,无法完整描述光纤在空间中朝哪个方向弯。论文使用多芯光纤:不同纤芯在弯曲时产生不同应变,解调后可沿长度方向恢复每根光纤的三维形状。五根光纤分别覆盖手指,末端固定在指尖,其余部分可以在手套背部的导向环中滑动。

论文Figure 1:蓝色光纤手套、重建的双手模型,以及使用手势进行虚拟双手遥操作的示例。

光纤自身坐标系与手掌坐标系并不天然一致。团队先把每根重建曲线配准到统一的手部参考系,再通过逆运动学求解器,让手部模型的指尖位置和末端方向同时贴合光纤观测。完整流程包含约10毫秒光纤解调、约1.5毫秒配准和约21毫秒姿态求解,累计约32.5毫秒。

遮挡时仍能连续看到手指

动作捕捉依赖外部标记可见。实验中,手指互相遮挡或握住物体后,部分标记会消失,动作捕捉重建可能出现手指交叉、位置跳变。光纤沿着手指弯曲,不需要摄像头看到指尖,因此能在这些片段继续输出姿态。

论文Figure 4:自遮挡和物体遮挡会让外部标记缺失,光纤重建仍保留各手指的连续姿态。

论文只在动作捕捉标记完整可见的帧上计算误差,以保证真值可靠;在操作阶段,约34%的样本至少有一个标记被遮挡。这说明手套的主要价值不只是把平均误差做小,还在于补上视觉系统最容易失效的动作区间。

一次校准把系统偏差削掉约2毫米

误差的主要来源不是每个用户的手型,而是光纤从手套进入路由集线器时的固定偏置。团队用一次动作捕捉辅助校准估计该偏置,之后把结果跨用户、跨时段使用。两类操作阶段的平均指尖误差由6.5—7.2毫米降到4.5—4.9毫米,各受试者都出现下降。

论文Figure 6:校准把光纤坐标与手部参考系对齐,修正系统性的指尖位置偏差。

逐指统计中,校准后拇指误差最高,为7.2毫米;食指、中指和无名指分别约4.0、4.0和3.8毫米,小指为6.2毫米。作者没有把这些数字写成对所有商业手套的全面领先,因为其他工作的任务、指标和采集协议不同。

论文Figure 7:一次路由校准在不同受试者和采集时段中均降低指尖误差。

从采动作数据走向双手遥操作

这套系统已经演示了双手虚拟遥操作,也能为机器人模仿学习采集不受遮挡影响的手部轨迹。下一步需要把手部姿态与接触位置、力和物体状态结合;光纤给出的是手指几何形状,尚不能单独判断抓取力或物体是否滑动。

当前实验只有5名受试者,4.9毫米结果还依赖一次动作捕捉辅助的工厂校准。若进入日常采集,仍要验证手套反复穿戴、织物松动和长期弯折后是否保持同一误差水平,并比较更轻的解调硬件能否满足移动部署。

对机器人训练而言,连续轨迹还需要和每次抓取的任务标签、物体位姿及成功结果对齐。只有这些信息同步记录,手套给出的高频手势才会从“可回放动作”变成可用于模仿学习、误差分析和跨用户比较的数据。

参考资料

https://arxiv.org/abs/2608.24572

https://arxiv.org/html/2608.24572

https://arxiv.org/pdf/2608.24572