系統(tǒng)組成

(1) 實驗室概述

實驗室結(jié)合多模態(tài)人因測試設(shè)備以及虛擬仿真人機工效分析設(shè)備，實現(xiàn)真實物理世界與數(shù)字模擬世界的聯(lián)通，通過真實物理世界的數(shù)據(jù)驅(qū)動數(shù)字仿真模擬，實現(xiàn)數(shù)字化環(huán)境內(nèi)的人機工效測評，能夠為產(chǎn)品開發(fā)、工作優(yōu)化等方向提供研究數(shù)據(jù)支持與方向。

實驗室可用于在數(shù)字仿真環(huán)境下進行不同產(chǎn)品人機工效測試以及工業(yè)工程領(lǐng)域工作流程優(yōu)化等相關(guān)研究。實驗室主要分為被試間與主試間兩大功能區(qū)域，之間由單向玻璃隔開，使主試間中的研究人員看見被試間內(nèi)受試者的行為，而受試者看不見主試間，從而減小干擾。其中，被試間為實驗進行的區(qū)域，可依照測試需求布置所需的多模態(tài)數(shù)據(jù)采集設(shè)備，如眼動儀、生理儀、手指軌跡分析儀、腦電儀等；被試間中有多個行為觀察攝像頭與拾音器，從不同角度攝取受試者的行為影像并采集受試者的聲音，音視頻信號傳送給主試間中的人機環(huán)境同步平臺進行數(shù)據(jù)分析。此外，被試間包含標(biāo)準(zhǔn)實驗室以及虛擬現(xiàn)實測試室，虛擬現(xiàn)實測試室中可通過CAVE式虛擬現(xiàn)實系8K眼動腦電多模態(tài)虛擬現(xiàn)實頭盔或者多人交互虛擬現(xiàn)實系統(tǒng)進行虛擬現(xiàn)實場景呈現(xiàn)，可用于虛實融合的研究。主試間為觀察與數(shù)據(jù)分析區(qū)域，布置有語音控制臺，研究人員的指令通過被試間的揚聲器傳送給受試者；主試間還布置有人機環(huán)境同步平臺、人因智能邊緣計算平臺等設(shè)備，研究人員可在主試間實時同步采集多模態(tài)人因數(shù)據(jù)并進行分析。

實驗室被試間設(shè)置有多模態(tài)人因數(shù)據(jù)采集設(shè)備，包括可穿戴動作捕捉儀、手指動作捕捉儀、表情語音采集儀、行為觀察儀、可穿戴人因生理儀、可穿戴腦電儀、可穿戴腦成像儀、可穿戴多模態(tài)腦功能儀以及人因測試專家系統(tǒng)等。被試間的產(chǎn)品組成與選型可根據(jù)實際研究需求進行配置。此外，被試間系統(tǒng)的多模態(tài)數(shù)據(jù)采集設(shè)備可結(jié)合ErgoAI人因智能邊緣計算終端，將計算和數(shù)據(jù)處理能力移至接近數(shù)據(jù)源的終端設(shè)備上，進行數(shù)據(jù)的智能化處理和分析。

實驗室主試間設(shè)置有多模態(tài)人因數(shù)據(jù)同步采集、分析和邊緣智能設(shè)備，包括ErgoLAB人機環(huán)境同步平臺和ErgoAI人因智能評估平臺。其中，ErgoLAB人機環(huán)境同步平臺支持多模態(tài)數(shù)據(jù)同步采集與分析，確保所需要的人、機、環(huán)境三方面的多模態(tài)數(shù)據(jù)可基于同一時間軸進行實時同步，消除事后對齊數(shù)據(jù)分析的負擔(dān)，并使數(shù)據(jù)“協(xié)同增效”，多角度綜合印證結(jié)果，確保數(shù)據(jù)結(jié)果的有效性與準(zhǔn)確性。ErgoAI人因智能應(yīng)用平臺，對接人機環(huán)境同步平臺所同步采集的多模態(tài)數(shù)據(jù)，搭建開放式AI算法應(yīng)用平臺，能夠為不同AI算法基礎(chǔ)的用戶，提供從數(shù)據(jù)采集、數(shù)據(jù)降噪、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型評估及部署應(yīng)用的全流程智能化應(yīng)用系統(tǒng)。平臺可提供數(shù)千人次數(shù)據(jù)搭建的各類應(yīng)用數(shù)據(jù)集，涵蓋人員基數(shù)據(jù)集、狀態(tài)數(shù)據(jù)集等，以及數(shù)十種人因工程預(yù)訓(xùn)練模型，包括單模態(tài)狀態(tài)識別模型、多模態(tài)狀態(tài)識別模型等。同時，ErgoAI人因智能應(yīng)用平臺支持根據(jù)實際研究內(nèi)容與方向創(chuàng)建數(shù)據(jù)集、訓(xùn)練并驗證模型，并進行模型部署與實時狀態(tài)預(yù)測。

(2) 實驗室示意圖

功能應(yīng)用

l 可進行不同任務(wù)場景的虛擬仿真

l 可對不同類型人體進行仿真模擬

l 可進行不同類型的人機工效測評

l 可進行虛實結(jié)合的人機工效測評

ErgoLAB多模態(tài)同步方案：

整體概述

ErgoLAB人機環(huán)境同步平臺采用多模態(tài)數(shù)據(jù)時鐘同步技術(shù)，平臺可完成完整的實驗和測評流程，包括項目管理-試驗設(shè)計-同步采集-信號處理-數(shù)據(jù)分析-人因智能評估-可視化報告，支持基于云架構(gòu)技術(shù)的團體測試和大數(shù)據(jù)管理。

ErgoLAB人機環(huán)境同步平臺采用主客觀結(jié)合多模態(tài)數(shù)據(jù)同步采集與多維度驗證的方法，數(shù)據(jù)實時同步種類包含大腦認(rèn)知數(shù)據(jù)（EEG/BCI腦電儀與腦機接口邊緣計算設(shè)備、fNIRS/BCI近紅外腦成像儀），視覺數(shù)據(jù)（Eyetracker眼動儀與視線交互系統(tǒng)），生理數(shù)據(jù)（生理儀含：GSR/EDA、EMG、ECG、EOG、HRV、RESP、TEMP/SKT、PPG、SpO2），行為觀察、肢體動作與面部表情（基本情緒、情緒效價、微表情等）數(shù)據(jù)、生物力學(xué)數(shù)據(jù)（拉力、握力、捏力、壓力…），人機交互數(shù)據(jù)（包含人機界面交互行為數(shù)據(jù)以及對應(yīng)的鍵盤操作，鼠標(biāo)點擊、懸浮、劃入劃出等；移動終端人機交互行為數(shù)據(jù)以及對應(yīng)的手指軌跡操作行為如點擊、縮放、滑動等；VR終端界面人機交互行為數(shù)據(jù)及對應(yīng)的雙手操作拾取、丟棄、控制，VR空間行走軌跡）、以及多類型時空行為軌跡數(shù)據(jù)采集(包括室內(nèi)、戶外、以及VR環(huán)境不同時空的行走軌跡、行車軌跡、訪問狀態(tài)以及視線交互、情感反應(yīng)、交互操作行為等數(shù)據(jù)實時同步采集)、以及作業(yè)空間及作業(yè)環(huán)境數(shù)據(jù)（溫度、濕度、噪音、光照、大氣壓、濕度、粉塵等）等客觀量化數(shù)據(jù)；為科學(xué)研究及應(yīng)用提供完整的數(shù)據(jù)指標(biāo)。

ErgoAI人因智能：

將人工智能技術(shù)引入人因工程研究工具，人因工程行業(yè)更加深度，使得實驗環(huán)境不會受限于某一種設(shè)備或數(shù)據(jù)指標(biāo)，采集分析不同典型行業(yè)或?qū)W科專業(yè)的人-機-環(huán)境系統(tǒng)交互過程中自然狀態(tài)下的人類行為數(shù)據(jù)，獲取更接近真實人員狀態(tài)的數(shù)據(jù)。平臺還提供覆蓋科研實驗全流程的功能模塊，包括項目管理、實驗設(shè)計、同步采集、數(shù)據(jù)分析、綜合統(tǒng)計和可視化報告，結(jié)合ErgoAI人因智能邊緣計算平臺為多模態(tài)人機環(huán)境研究提供一站式人因工程+人工智能解決方案。以ErgoLAB人機環(huán)境同步平臺和ErgoAI人因智能邊緣計算平臺為核心的多模態(tài)同步人因智能解決方案大大提高了實驗結(jié)果的信效度，同時節(jié)省了研究的人力、物力、時間，提高了研究與測評的整體效率。