應用貝氏不確定性於自我訓練領域適應演算法降低生物個體差異的負面影響

生物實驗在醫藥技術的發展中發揮至關重要的作用。一般來說,生物實驗優先於人體實驗之前進行,可以減低潛在的致命後果,並為研究人員提供寶貴的實驗數據。本論文提出一種機器學習工具,用於降低生物實驗中個體差異造成的負面影響。先前的研究成果表明,在先前訓練好的模型中引入額外的實驗對象會導致此項機器學習的準確度大幅降低。

無監督領域適應(UDA)是一種利用來自單一或多個來源領域已標記資料的機器學習技術,其目標是將來源領域知識轉移到目標領域。由於不需要目標領域中的標籤,因此可以提高人工智慧模型的實用性。

基於自我訓練的無監督領域適應是一種利用在來源域上預先訓練的模型,為未見過的目標域資料集分配偽標籤的技術,藉由目標域資料集的偽標籤對模型進行再訓練。一般情況下,先前研究中基於自我訓練的方法會利用預訓練模型產生的機率作為信心值來消除不可靠的偽標籤。然而,近年來的多項研究認為這種衡量可信度的傳統方法並不可靠,因此找到了更有效的替代方法。

本論文中引入了一種自訓練無監督領域適應演算法,該演算法利用貝氏不確定性來判斷可靠的偽標籤。本論文所提出的方法於每次迭代中都能產生更具信賴度的的偽標籤,透過手寫分類任務的實驗驗證,所提出的演算法效能接近於最好,而當模型用於測試具有個體差異的未知樣本時,本演算法得以進一步提昇效能。此外,本論文也利用特徵置換演算法計算各部位特徵在無監督領域適應過程中的重要性得分。最後,本論文所提出的演算法進一步應用於止痛藥/載體注射效果實驗,並提出了一個簡單有效用於單支小鼠影片的疼痛分數計算方式。其結果符合了生物學上的疼痛趨勢,尤其是注射止痛藥/載體後一個小時,疼痛分數根據注射劑的不同,而呈現高或低的疼痛分數。

訓練樣本與特徵於分類小鼠痠痛的效應分析

現行藥物開發的動物實驗多數以小鼠做為實驗對象,由於無法透過語言溝通來了解小鼠的感受,目前普遍用以觀察小鼠狀態的方法是透過臉部表情和行為模式。近年來由於機器學習的蓬勃發展,相關的辨識技術與應用獲得大幅度的進展,其中也包含了小鼠臉部及行為判別。然而,監督式的機器學習演算法在分析小鼠表情及動作判別的應用上會遇到兩個主要的挑戰:第一個是需要大量的資料集來減少小鼠間的個體差異對機器學習效能的影響;第二個是由於小鼠的狀態都必須透過第三方觀察得知,因此如何驗證資料標記的可靠性是一大問題,然而準確可靠的資料標記對於機器學習模型的訓練是非常基本的要求。特別是在小鼠的痠、痛分析的問題上,人類無法與小鼠透過言語溝通判斷正確的資料標記。
本論文將著重於訓練樣本與特徵於不同分類架構的效應分析,用以克服上述的兩個挑戰。比較的架構包含產生訓練樣本的方法、小鼠的行為特徵萃取、影像上的時間特徵以及不同類別的機器學習模型,透過實驗分析這些不同架構於相同資料集所產生出來的結果、驗證是否符合預期。產生出來的結果主要是透過觀察準確率、誤報率,和檢測率去觀察不同系統於少量資料與未曾包含於訓練過程的新個體表現。本篇論文並提出了一個非監督式的方法與其他架構作結合,嘗試減少過擬合的現象還有資料標記不夠精確的影響。

應用小鼠姿態於深度影像的特徵偵測疼痛

現行藥物開發的動物實驗多數以老鼠做為實驗對象,動物實驗會透過藥物或手術誘發老鼠的疼痛行為,之後再施打止痛藥物,藉由觀察老鼠的行為推論疼痛是否有所改善,用以評估止痛藥物的藥效。疼痛會造成生理及行為的改變,目前多以觀察員透過主觀評估的方式對老鼠表情或行為評估其疼痛的程度,然而這種方式的缺點是需要耗費大量的人力與時間,以及不同人的主觀評估也將造成結果的分歧。
近年來,姿態分析經常運用在神經性疾病上,多數姿態需要藉由神經系統錯縱複雜的交互作用,所以當某神經系統出現異常時,行為也容易顯現相對的異常現象。根據[1],老鼠處於疼痛時,常會有身體扭曲和四肢蜷縮等行為。本論文建立於姿態分析的理論基礎,提出一套自動化架構分析老鼠的姿態,藉此來偵測老鼠於疼痛時的姿態特徵。本論文提出的架構透過深度學習網路於深度影像中自動標註老鼠的關節點,再利用關節點與周邊鄰近像素的深度差異作為特徵,讓機器學習疼痛的姿態特徵,達成自動判別老鼠疼痛的目的。
本論文所提出的架構分為兩部分,第一部分透過深度學習演算法自動標註影像中老鼠的關節點,藉此取代人工標記。第二部分自動學習與辨識老鼠於疼痛時的姿態特徵,實驗設計分別蒐集彩色及深度影像,前者將關節點之間的角度及距離當作姿態特徵,後者則藉由深度影像計算各關節點與鄰近像素的差異作為特徵,再藉由機器學習演算法學習與辨識小鼠於疼痛時的姿態特徵。本論文的實驗將比較彩色與深度影像分別應用於偵測疼痛姿態的效能,並且驗證本論文提出架構的信效度。

運用半監督式學習演算法偵測與量化小鼠之慢性疼痛

新開發之藥物於臨床使用前,一般需要先經過動物實驗進行驗證,由於老鼠易於養殖,因此經常作為動物實驗的主要測試標的。根據相關文獻指出,老鼠於疼痛時的臉部表情會有所不同,因此將疼痛的面部表情定義為老鼠鬼臉量表(Mouse grimace scale,MGS)。近年來亦有部份研究開始採用老鼠面部表情,做為手術前後或是自發性疼痛之評估。疼痛可以概分為急性與慢性疼痛,急性疼痛屬於短時間的劇烈疼痛,因此對於面部表情的影響非常明顯;相較之下,慢性疼痛則是屬於長時間的疼痛,程度不若急性疼痛劇烈,因此對於面部表情的影響較為不明顯。此外,慢性疼痛還有不定時出現的特性,因此如何偵測慢性疼痛,目前依然為一個極度具有挑戰性的研究主題。
近幾年來深度學習運用於辨識與學習臉部特徵已有許多應用,然而大多數的模型均需要明確地標註正樣本與負樣本,並且透過足夠多的訓練樣本,才能夠學習到其面部特徵。然而,基於前述的慢性疼痛特性,明確的正樣本(疼痛樣本)不易取得,因此難以如同急性疼痛一般,透過正負樣本直接訓練模型,使得機器學習其面部特徵。為了克服這個困難,本論文提出利用半監督式學習的方式,學習老鼠少部分於正常狀態以及疼痛之面部特徵,透過疼痛時面部表情與正常時的差異,用以辨別老鼠非健康的狀態,並藉由兩者的差異用以量化其疼痛指數。實驗部份藉由老鼠的慢性疼痛與兩種止痛藥(pregabalin及JMF3737)的生物實驗,驗證本論文提出的架構於慢性疼痛上之偵測與量化效果。

利用機器學習演算法偵測與量化小鼠的疼痛

動物試驗為現行測試藥物的重要流程之一,以止痛藥為例,動物實驗中透過將實驗動物施打藥物或手術等方式使其產生疼痛的感覺,之後再施打測試藥物用以測試該藥物的有效性。然而,實驗動物無法透過言語的方式表達其感受,因此目前以侵入式的測試方式為主,例如透過觸碰其疼痛處並觀察反應用以推測有效性。近年來,相關領域的研究開始探討以小鼠臉部表情偵測疼痛的可行性,文獻中雖然透過實驗設計證實此方法的可行性,但是實驗方法依然以小鼠專家的人工方式進行判讀,人工判讀方式容易因為個人的經驗與精神狀態而有分歧,並且難以量化疼痛的反應,因此無法用於長期疼痛的監測。本論文建立於相關文獻的基礎之上,開發自動化的系統透過小鼠的臉部表情進行自動辨識,論文中將利用機器學習的演算法自動學習小鼠臉部表情代表疼痛的特徵,取代人工判讀的部分,自動化整個流程以達到長期監測疼痛的目的。本論文共分兩階段,第一階段著重在偵測疼痛的部分,此階段利用監督式與非監督式機器學習演算法,學習小鼠臉部疼痛以及非疼痛時的臉部特徵變化量,臉部特徵又分為手動標示與自動學習的部份,比較兩者的偵測率與效能之差異。第二階段延伸第一階段的結果,加入線性回歸的特性針對疼痛進行量化。實驗部分為了評估機器學習算法的準確性,本研究使用高速攝影機錄製不同實驗設定的小鼠影片,實驗分別使用相同劑量的辣椒素和弗飾佐劑,和不同劑量的雙氯芬酸,前者用以蒐集疼痛時小鼠的影像訓練分類器,後者以不同劑量的止痛劑評估演算法的有效性。最後將機器判斷的預估結果和小鼠專家進行比較,實驗結果驗證本論文提出架構之可行性與效能,期待本論文的貢獻未來可以用以突破監測疼痛的技術瓶頸。