跳至主要內容區域 跳至頁尾區塊

智慧團隊型機器人與人機協作研究中心

多模態數位孿生與人機互動技術

居家照護機器人

計畫主持人: 王昱舜

計畫背景

隨著高齡化社會與居家照護需求增加,照護機器人需要具備對家庭環境中人與物的即時感知能力。真實居家場景具有遮擋、多物體、家具配置複雜、光照變化與人體姿勢多變等挑戰,因此機器人若要安全地靠近照護對象、協助拿取物品或進行日常照護輔助,必須能準確偵測場景中的人、人體姿勢、物品位置與物品可操作姿態。本分項將以視覺偵測與 3D 感知為核心,建立照護機器人理解居家場景的基礎能力。

 

研究目標

本計畫的第一個目標是建立照護對象偵測與人體姿態估測能力,包含人員位置、身體姿態、關節位置與可能影響安全的姿勢狀態。第二個目標是建立居家照護物品偵測能力,針對水杯、藥盒、拐杖、遙控器、毛巾、餐具等物品,估測其存在性、2D/3D 位置、6D 姿態與尺寸。第三個目標是整合多視角或單視角 RGB-D 資訊,建立可支援機器人導航與抓取的 3D 場景表徵。第四個目標是將偵測結果轉換為結構化輸出,提供後端機器人任務規劃、抓取控制或智慧推理模組使用。

 

技術方法

本計畫採用以視覺偵測為核心的技術流程。首先,利用多視角或單視角 RGB-D 影像建立居家場景表徵,並透過視覺特徵抽取模型擷取人、物與場景特徵。其次,針對人體部分,使用偵測與分割模型取得人體區域,再結合 SMPL 或 3D pose estimation 模型估測人體 mesh、關節位置與姿態參數。第三,針對照護物品部分,使用物件偵測、分割與 6D pose estimation 模型預測目標物的存在性、位置、旋轉、平移、尺寸與遮罩。第四,透過場景點雲、相機姿態校正與座標轉換,將人體與物體偵測結果整合至機器人座標系,使機器人能判斷人與物的相對位置、距離與可操作姿態。最後,本分項將輸出結構化感知結果,例如「人員位置」、「人體姿態」、「目標物 6D pose」、「物體尺寸」、「可抓取區域」與「場景點雲」,供後續任務規劃模組使用。

 

創新

本計畫的創新在於將人體 3D 姿態估測、居家物品 6D 姿態估測與場景點雲重建整合為一套面向機器人居家照護的偵測系統。相較於一般只提供 2D bounding box 的物件偵測,本系統進一步估測物體在 3D 空間中的位置、旋轉、尺寸與可抓取資訊,使機器人能執行實際操作任務。相較於單純的人體偵測,本系統也能提供人體關節與姿態資訊,使機器人能判斷照護對象的位置與姿勢狀態。另一項創新是將人、物與場景資訊統一至機器人座標系,建立可直接銜接導航、抓取與照護任務規劃的結構化感知輸出。

 

預期成果

本計畫預期完成一套機器人居家照護視覺偵測與 3D 感知原型系統。技術成果包括:照護對象偵測與人體姿態估測模組、居家照護物品偵測與 6D pose 估測模組、物體尺寸與存在性預測模組、場景點雲與座標轉換模組,以及結構化感知輸出介面。預期效益為提升照護機器人對居家環境中人與物的理解能力,使其能更安全地接近照護對象、更準確地定位與抓取物品,並為後續照護任務規劃與機器人控制提供可靠的感知基礎。