影像識別(Computer Vision)是 EMO Lab 的三個研究方向之一,目標是「從影像中辨識物件與場景,建立感知真實世界的能力」。本文說明這個領域的核心技術,並整理與此方向直接相關的公開實作與論文。
影像識別在做什麼
對人來說,看一眼畫面就能知道「誰在做什麼」;對電腦來說,一張影像只是一大片像素數值。影像識別要做的,是把這些數值轉換成有意義的資訊:畫面中有哪些物件、它們在哪裡、人的身體呈現什麼姿態、連續幾個畫格之間發生了什麼動作。
常見的任務大致可分為三類:影像分類判斷整張畫面屬於哪個類別;物件偵測找出每個目標的位置並框選出來;姿態估計則找出人體的關鍵點,例如手腕、手肘與肩膀,再把它們連成骨架。實際系統通常會把這幾種能力組合起來,並加上時間序列的判斷,才能理解連續動作。
三種關鍵技術:YOLO、骨架辨識與 CNN
- YOLO(You Only Look Once):一種單階段物件偵測模型,只需對影像做一次推論,就能同時輸出物件的位置框與類別。因為速度快,常被用在需要即時回應的場景,例如攝影機串流。
- 骨架/姿態辨識(例如 OpenPose):先偵測人體關鍵點,再依人體結構把關鍵點連接成骨架。骨架資訊比原始像素更精簡,也較不受衣著與背景影響,適合用來分析手勢與身體姿勢。
- 卷積神經網路(CNN):透過卷積層學習影像中的局部特徵,例如邊緣、紋理與形狀,是多數現代影像模型的基礎結構,也常被用來對偵測到的區域做進一步分類。
下面的兩個主要案例,正是把這三種技術用在不同問題上的實作。
案例一:多使用者即時手語拼字與轉譯
手語是聽障者的重要語言,但多數人不懂手語,溝通因此出現落差。這個研究原型關注多人情境下的即時手語拼字與轉譯,整合物件偵測、人體骨架資訊與即時推論流程:以視覺模型辨識手勢與動作序列,再把辨識結果轉換為文字。
它的難處在於「多人」與「連續」。畫面中同時有好幾位使用者時,系統必須分辨每隻手屬於誰;手語又是連續動作,前後手勢之間沒有明確的停頓。這些因素都會增加即時辨識與追蹤的複雜度,因此研究中特別評估多人畫面下的即時性與辨識穩定度。
在 2025 E化系統創意應用競賽的作品「基於骨架物件辨識的多使用者即時英文拼字翻譯手語系統」中,龍禹丞(Lung Yu-Cheng)負責使用 YOLO 訓練即時影像辨識模型,並設計把手勢辨識結果轉換為文字的流程,建立手語拼字的核心技術。這件團隊作品獲得該競賽第二名。
從「拼字」走向「語意」
手語拼字是以手形逐一表示字母,適合人名、專有名詞等沒有固定手勢的詞彙;但日常溝通需要的是完整語意。後續的研究因此從逐字辨識,延伸到結合語意理解的轉譯:
- 論文〈Vision-based Real-time Sign Spelling System for Cross-lingual Translation using Neural Models〉以神經模型實作視覺式即時手語拼字與跨語言翻譯,收錄於 2025 IEEE ICCBE 論文集,並獲頒 Best Conference Paper Award。
- 論文〈植基於多模態視覺感知網路於即時語意建構之手語轉譯研究〉探討以多模態視覺感知支援即時語意建構,獲 WASN 2025 佳作學生論文獎。
- 作品「君子動手不動口:配合語意理解的視覺手語拼字系統」獲第七屆大手攜小手智慧創新應用競賽佳作;「跨越語言藩籬:由 AI 驅動的手語翻譯」晉級 2026 年全國技專校院學生實務專題製作競賽全國決賽。
完整書目資訊請見 論文與研究成果。
案例二:工廠安全姿態與安全帽辨識
第二個方向把影像識別帶到工作現場。這個專案以工廠安全為出發點,透過即時影像辨識找出危險姿態與安全隱患:使用 OpenPose 分析人體姿態並結合卷積神經網路,人體與安全帽的辨識則採用 YOLO 與 CNN。
在這個專案中,龍禹丞負責人體與安全帽辨識模型的訓練、資料集建立與參數調整,改善模型在工廠場域中的辨識表現。作品參與第六屆技職校院大手攜小手智慧創新應用競賽獲得佳作;同樣以工場安全為主題的團隊作品「結合深度學習與即時電腦視覺於高級工場安全智慧化系統」,則在 2025 E化系統創意應用競賽獲得優選。
工廠場景與手語辨識有一個共通點:模型必須在真實環境中穩定運作。光線變化、人員互相遮擋、攝影機角度不同,都會影響辨識結果。因此資料集的建立與參數調整,往往和模型架構本身一樣重要。
其他影像識別應用
- 視覺辨識記帳與採購建議:作品「識食物者為俊傑:基於視覺辨識的記帳與採購建議系統」參加 2025 總統盃黑客松並獲參賽獎,嘗試把食物辨識結果延伸到記帳與採購建議。
- 人臉辨識系統:團隊作品「Face Recognition System」於 XXVIII Moscow International Salon of Inventions and Innovative Technologies(2025)獲得金牌。
即時系統要面對的共同問題
把影像模型做成可以展示、可以測試的原型,通常要同時考慮幾件事:推論速度是否跟得上攝影機畫面、多人或遮擋時是否仍然穩定、訓練資料是否涵蓋實際使用的環境,以及辨識結果要如何轉換成使用者看得懂的輸出(例如文字或警示)。上述案例都是在這些限制下,逐步把研究問題落實成原型的過程。
延伸閱讀
本文的專案、論文與獎項資訊,整理自龍禹丞公開於 roy.emo-lab.com 的作品集;團隊作品的完整成員名單請見該網站的榮譽頁面。