本發(fā)明涉及圖像處理,尤其是指一種三維醫(yī)學(xué)圖像分割方法。
背景技術(shù):
1、圖像分割是計(jì)算機(jī)視覺(jué)和圖像處理領(lǐng)域的重要研究方向,其目標(biāo)是將圖像劃分為若干互不重疊的連通區(qū)域,并提取感興趣區(qū)域(roi)。在醫(yī)學(xué)圖像分割領(lǐng)域,三維醫(yī)學(xué)圖像的分割在臨床診斷和治療規(guī)劃中發(fā)揮著至關(guān)重要的作用。然而,深度學(xué)習(xí)模型通常依賴大量高質(zhì)量的標(biāo)注數(shù)據(jù),而醫(yī)學(xué)圖像的標(biāo)注過(guò)程成本高昂且耗時(shí)費(fèi)力,嚴(yán)重制約了其在實(shí)際應(yīng)用中的推廣。
2、近年來(lái),半監(jiān)督學(xué)習(xí)方法成為研究熱點(diǎn),其核心思想在于通過(guò)有效利用未標(biāo)注數(shù)據(jù)提高模型的泛化能力,緩解標(biāo)注數(shù)據(jù)稀缺的問(wèn)題。然而,現(xiàn)有的半監(jiān)督分割方法在邊緣模糊、結(jié)構(gòu)復(fù)雜的情況下,偽標(biāo)簽噪聲易集中于邊緣區(qū)域,導(dǎo)致局部誤分割甚至整體形態(tài)失真,影響模型在臨床應(yīng)用中的可靠性。此外,醫(yī)學(xué)圖像分割面臨的另一個(gè)重要挑戰(zhàn)是類別不平衡問(wèn)題。由于醫(yī)學(xué)圖像中小類別樣本數(shù)量通常較少,模型容易傾向于預(yù)測(cè)大類別,進(jìn)而導(dǎo)致性能下降。這些小類別的器官常常體積較小且樣本稀缺,進(jìn)一步增加了模型訓(xùn)練的難度。
3、綜上所述,由于模型依賴樣本數(shù)據(jù)進(jìn)行訓(xùn)練,而在樣本邊緣模糊、結(jié)果復(fù)雜以及小類別樣本數(shù)量少的情況下,現(xiàn)有的三維醫(yī)學(xué)圖像分割,存在分割邊緣模糊、分割精度低的問(wèn)題。
技術(shù)實(shí)現(xiàn)思路
1、為此,本發(fā)明所要解決的技術(shù)問(wèn)題在于克服現(xiàn)有技術(shù)中在面對(duì)三維醫(yī)學(xué)圖像樣本邊緣模糊以及樣本類別不均衡時(shí),分割精度低的問(wèn)題。
2、為解決上述技術(shù)問(wèn)題,本發(fā)明提供了一種三維醫(yī)學(xué)圖像分割方法,包括:
3、獲取包括標(biāo)注樣本與未標(biāo)注樣本的三維醫(yī)學(xué)圖像樣本集;
4、將所有樣本分別輸入雙網(wǎng)絡(luò)分割模型并行的兩個(gè)子網(wǎng)絡(luò)中,獲取每個(gè)樣本的兩個(gè)預(yù)測(cè)分割概率圖,并基于未標(biāo)注樣本的未歸一化分類得分,計(jì)算未標(biāo)注樣本的軟偽標(biāo)簽;子網(wǎng)絡(luò)基于v-net網(wǎng)絡(luò)構(gòu)建;
5、利用距離回歸頭與雙曲正切函數(shù),基于所有樣本經(jīng)過(guò)每個(gè)子網(wǎng)絡(luò)的解碼器輸出的解碼特征圖,獲取每個(gè)樣本的兩個(gè)預(yù)測(cè)符號(hào)距離場(chǎng);
6、對(duì)于每個(gè)標(biāo)注樣本:計(jì)算每個(gè)預(yù)測(cè)分割概率圖與真實(shí)標(biāo)簽的交叉熵?fù)p失函數(shù),得到分割損失;計(jì)算每個(gè)預(yù)測(cè)符號(hào)距離場(chǎng)與真實(shí)符號(hào)距離函數(shù)的符號(hào)距離函數(shù)損失,得到回歸損失;將分割損失與回歸損失相加,得到標(biāo)注樣本的監(jiān)督損失;
7、對(duì)于每個(gè)未標(biāo)注樣本:計(jì)算每個(gè)預(yù)測(cè)分割概率圖與軟偽標(biāo)簽的交叉熵?fù)p失與dice損失的平均值,得到偽標(biāo)簽一致性損失;計(jì)算兩個(gè)預(yù)測(cè)符號(hào)距離場(chǎng)之間的符號(hào)距離函數(shù)損失,得到符號(hào)距離一致性損失;將偽標(biāo)簽一致性損失與符號(hào)距離一致性損失相加,得到未標(biāo)注樣本的一致性損失;
8、基于標(biāo)注樣本的監(jiān)督損失與未標(biāo)注樣本的一致性損失,得到總損失函數(shù),對(duì)雙網(wǎng)絡(luò)分割模型中每個(gè)子網(wǎng)絡(luò)進(jìn)行訓(xùn)練;
9、利用訓(xùn)練好的雙網(wǎng)絡(luò)分割模型獲取輸入的待分割三維醫(yī)學(xué)圖像的分割結(jié)果。
10、優(yōu)選地,樣本的預(yù)測(cè)符號(hào)距離場(chǎng),表示為:
11、;
12、其中,表示類樣本經(jīng)過(guò)子網(wǎng)絡(luò)后的預(yù)測(cè)符號(hào)距離場(chǎng);子網(wǎng)絡(luò)標(biāo)識(shí),a與b分別表示雙網(wǎng)絡(luò)分割模型并行的兩個(gè)子網(wǎng)絡(luò);樣本標(biāo)注情況標(biāo)識(shí),當(dāng)時(shí)為標(biāo)注樣本,時(shí)為未標(biāo)注樣本;為雙曲正切函數(shù),表示輸出通道為1的距離回歸頭;表示類樣本經(jīng)過(guò)子網(wǎng)絡(luò)的解碼器輸出的解碼特征圖。
13、優(yōu)選地,計(jì)算標(biāo)注樣本的監(jiān)督損失,包括:
14、計(jì)算標(biāo)注樣本在每個(gè)子網(wǎng)絡(luò)中的預(yù)測(cè)分割概率圖與其對(duì)應(yīng)的真實(shí)標(biāo)簽的交叉熵?fù)p失函數(shù),得到分割損失,表示為:;
15、計(jì)算標(biāo)注樣本在每個(gè)子網(wǎng)絡(luò)中的預(yù)測(cè)符號(hào)距離場(chǎng)與真實(shí)符號(hào)距離函數(shù)的符號(hào)距離函數(shù)損失,得到回歸損失,表示為:;
16、將分割損失與回歸損失相加,得到標(biāo)注樣本的監(jiān)督損失,表示為:;
17、其中,與分別表示第一子網(wǎng)絡(luò)a與第二子網(wǎng)絡(luò)b的可學(xué)習(xí)加權(quán)因子;表示交叉熵?fù)p失,y表示標(biāo)注樣本的真實(shí)標(biāo)簽;與分別表示標(biāo)注樣本經(jīng)過(guò)第一子網(wǎng)絡(luò)a與第二子網(wǎng)絡(luò)b輸出的預(yù)測(cè)分割概率圖,計(jì)算公式為;為標(biāo)注樣本通過(guò)子網(wǎng)絡(luò)得到的解碼特征圖中所有體素的未歸一化分類得分,表示為:,表示1×1×1的三維卷積層,表示標(biāo)注樣本中第個(gè)類別對(duì)應(yīng)的分類得分,,表示樣本中器官總類別數(shù);?表示softmax函數(shù);表示指數(shù)函數(shù);與分別表示標(biāo)注樣本經(jīng)過(guò)第一子網(wǎng)絡(luò)a與第二子網(wǎng)絡(luò)b輸出的預(yù)測(cè)符號(hào)距離場(chǎng);表示符號(hào)距離函數(shù)損失,為l1損失與均方誤差損失的平均值;表示標(biāo)注樣本的真實(shí)符號(hào)距離函數(shù),表達(dá)式為:,表示下確界,表示真實(shí)標(biāo)簽中的體素點(diǎn),表示真實(shí)標(biāo)簽表面的體素點(diǎn),表示體素點(diǎn)與之間的平方歐幾里得距離,、與分別表示真實(shí)標(biāo)簽外部區(qū)域、表面與內(nèi)部區(qū)域。
18、優(yōu)選地,計(jì)算未標(biāo)注樣本的一致性損失,包括:
19、計(jì)算未標(biāo)注樣本在每個(gè)子網(wǎng)絡(luò)中的預(yù)測(cè)分割概率圖與軟偽標(biāo)簽的交叉熵?fù)p失與dice損失的平均值,得到偽標(biāo)簽一致性損失,表示為:
20、;
21、計(jì)算未標(biāo)注樣本在每個(gè)子網(wǎng)絡(luò)中的預(yù)測(cè)符號(hào)距離場(chǎng)之間的符號(hào)距離函數(shù)損失,得到符號(hào)距離一致性損失,表示為:;
22、將偽標(biāo)簽一致性損失與符號(hào)距離一致性損失相加,得到未標(biāo)注樣本的一致性損失,表示為:;
23、其中,與分別表示未標(biāo)注樣本經(jīng)過(guò)第一子網(wǎng)絡(luò)a與第二子網(wǎng)絡(luò)b輸出的預(yù)測(cè)分割概率圖;表示分割損失,為交叉熵?fù)p失與dice損失的平均值;與分別表示未標(biāo)注樣本經(jīng)過(guò)第一子網(wǎng)絡(luò)a與第二子網(wǎng)絡(luò)b輸出的未歸一化分類得分對(duì)應(yīng)的軟偽標(biāo)簽;在子網(wǎng)絡(luò)中軟偽標(biāo)簽;表示預(yù)設(shè)軟偽標(biāo)簽平滑程度參數(shù),表示未標(biāo)注樣本通過(guò)子網(wǎng)絡(luò)得到的解碼特征圖中所有體素的未歸一化分類得分,表示為:;表示未標(biāo)注樣本中第個(gè)類別對(duì)應(yīng)的未歸一化分類得分,,表示樣本中器官總類別數(shù);與分別表示未標(biāo)注樣本經(jīng)過(guò)第一子網(wǎng)絡(luò)a與第二子網(wǎng)絡(luò)b輸出的預(yù)測(cè)符號(hào)距離場(chǎng)。
24、優(yōu)選地,基于標(biāo)注樣本的監(jiān)督損失與未標(biāo)注樣本的一致性損失,得到總損失函數(shù),表示為:
25、;
26、其中,表示一致性損失權(quán)重,表達(dá)式為,表示當(dāng)前訓(xùn)練輪次,表示預(yù)設(shè)最大訓(xùn)練輪次。
27、優(yōu)選地,將訓(xùn)練好的雙網(wǎng)絡(luò)分割模型的兩個(gè)子網(wǎng)絡(luò)輸出的兩個(gè)預(yù)測(cè)分割概率圖進(jìn)行平均融合,獲取融合分割概率圖;對(duì)融合分割概率圖進(jìn)行argmax操作,得到預(yù)測(cè)分割標(biāo)簽;基于預(yù)測(cè)分割標(biāo)簽,獲取待分割三維醫(yī)學(xué)圖像的分割結(jié)果。
28、優(yōu)選地,將三維醫(yī)學(xué)圖像輸入基于v-net網(wǎng)絡(luò)的子網(wǎng)絡(luò)中,獲取樣本的預(yù)測(cè)分割概率圖,包括:
29、將三維醫(yī)學(xué)圖像樣本作為子網(wǎng)絡(luò)的編碼器的輸入;其中,子網(wǎng)絡(luò)標(biāo)識(shí),a與b分別表示雙網(wǎng)絡(luò)分割模型并行的兩個(gè)子網(wǎng)絡(luò);樣本標(biāo)注情況標(biāo)識(shí),當(dāng)時(shí)為標(biāo)注樣本,時(shí)為未標(biāo)注樣本;經(jīng)過(guò)四個(gè)串聯(lián)的編碼層后,輸出編碼特征圖;在每個(gè)編碼層中,輸入特征圖依次經(jīng)過(guò)串聯(lián)的三維卷積塊與簡(jiǎn)單注意力模塊后輸出注意力卷積特征圖,經(jīng)過(guò)下采樣單元,輸出每個(gè)編碼層的輸出特征圖,表示為:;;表示子網(wǎng)絡(luò)的第層編碼層的輸出特征圖,;表示下采樣塊,包括步幅為2的三維卷積塊;表示子網(wǎng)絡(luò)的第層編碼層中經(jīng)過(guò)次經(jīng)過(guò)串聯(lián)的三維卷積塊與簡(jiǎn)單注意力模塊后輸出的注意力卷積特征圖;表示簡(jiǎn)單注意力模塊;表示編碼器中的三維卷積塊,包括依次串聯(lián)的多個(gè)卷積層、批歸一化層與relu激活層;
30、將編碼特征輸入瓶頸模塊,經(jīng)過(guò)串聯(lián)的三維卷積塊與簡(jiǎn)單注意力模塊,輸出全局特征圖;
31、將全局特征圖輸入解碼器中,經(jīng)過(guò)四個(gè)串聯(lián)的解碼層后,輸出解碼特征圖;
32、將解碼特征圖輸入輸出層的分割預(yù)測(cè)單元,輸出對(duì)應(yīng)的預(yù)測(cè)分割概率圖。
33、優(yōu)選地,將全局特征圖輸入解碼器中,經(jīng)過(guò)四個(gè)串聯(lián)的解碼層后,輸出解碼特征圖,包括:
34、在每個(gè)解碼層中,輸入特征圖經(jīng)過(guò)上采樣后與對(duì)應(yīng)編碼層的注意力卷積特征圖進(jìn)行跳躍連接,再經(jīng)過(guò)三維卷積塊后,輸出每個(gè)解碼層的輸出特征圖,表示為:;表示子網(wǎng)絡(luò)的第層解碼層的輸出特征圖,;表示解碼器中的三維卷積塊,包括依次串聯(lián)的多個(gè)卷積層、批歸一化層與relu激活層;表示上采樣塊,包括依次串聯(lián)的步幅為2的三維轉(zhuǎn)置卷積、批歸一化層與relu激活層;表示逐像素相加,表示子網(wǎng)絡(luò)的第層編碼層的注意力卷積特征圖;
35、將第二個(gè)解碼層的輸出特征圖經(jīng)過(guò)維度調(diào)節(jié)塊與距離回歸頭,得到預(yù)測(cè)符號(hào)距離圖后,利用預(yù)設(shè)邊緣敏感度參數(shù)調(diào)節(jié),獲取邊緣增強(qiáng)特征圖;
36、將邊緣增強(qiáng)特征圖與最高層輸出特征圖融合,輸出解碼特征圖。
37、優(yōu)選地,解碼特征圖的獲取,包括:
38、計(jì)算第二層解碼層的輸出特征圖的預(yù)測(cè)符號(hào)距離圖,表示為:
39、;
40、基于預(yù)設(shè)邊緣敏感度參數(shù)與預(yù)測(cè)符號(hào)距離圖,獲取邊緣增強(qiáng)特征圖,表示為:;
41、基于解碼器的最高層輸出特征圖與邊緣增強(qiáng)特征圖,獲取解碼特征圖,表示為:;
42、其中,表示輸出通道為1的距離回歸頭,表示維度調(diào)節(jié)塊。
43、優(yōu)選地,將三維醫(yī)學(xué)圖像樣本輸入雙網(wǎng)絡(luò)分割模型中前,還包括對(duì)三維醫(yī)學(xué)圖像樣本進(jìn)行數(shù)據(jù)增強(qiáng),包括:
44、對(duì)標(biāo)注樣本與未標(biāo)注樣本均進(jìn)行隨機(jī)裁剪與隨機(jī)翻轉(zhuǎn),獲取對(duì)應(yīng)的標(biāo)注三維輸入樣本數(shù)據(jù)和未標(biāo)注三維輸入樣本數(shù)據(jù);
45、基于每個(gè)標(biāo)注三維輸入樣本數(shù)據(jù)中所包含的小類別器官區(qū)域的區(qū)域體積,以及小類別器官集合中體積最小的類別的體積,計(jì)算小類別器官區(qū)域的體積權(quán)重;
46、基于小類別器官區(qū)域中體素點(diǎn)的位置,計(jì)算小類別器官區(qū)域的符號(hào)距離函數(shù);表示下確界,表示三維輸入樣本數(shù)據(jù)中第層切片在位置處的體素點(diǎn),表示小類別器官區(qū)域表面的體素點(diǎn),表示體素點(diǎn)與之間的平方歐幾里得距離;、與分別表示在小類別器官區(qū)域的外部區(qū)域、表面與內(nèi)部區(qū)域;
47、基于小類別器官區(qū)域的體積權(quán)重與符號(hào)距離函數(shù),以及擬合狄拉克函數(shù),計(jì)算目標(biāo)器官區(qū)域的主動(dòng)輪廓形變場(chǎng),表示為:;表示形變幅度控制參數(shù),表示擬合狄拉克函數(shù),表達(dá)式為,為正常數(shù),為擬合狄拉克函數(shù)的計(jì)算變量;表示水平集的梯度,表示為;
48、基于三維高斯核函數(shù)與主動(dòng)輪廓形變場(chǎng),計(jì)算平滑形變場(chǎng);為三維高斯核函數(shù),為標(biāo)準(zhǔn)差,為卷積運(yùn)算符號(hào);
49、基于平滑形變場(chǎng)對(duì)標(biāo)注三維輸入樣本數(shù)據(jù)及其對(duì)應(yīng)的真實(shí)標(biāo)簽進(jìn)行平滑形變,獲取標(biāo)注樣本對(duì)應(yīng)的輸入樣本與增強(qiáng)后的真實(shí)標(biāo)簽,為逐元素乘法運(yùn)算符號(hào)。
50、本發(fā)明的上述技術(shù)方案相比現(xiàn)有技術(shù)具有以下有益效果:
51、本發(fā)明所述的三維醫(yī)學(xué)圖像分割方法,在訓(xùn)練雙網(wǎng)絡(luò)分割模型時(shí),采用雙網(wǎng)絡(luò)協(xié)同訓(xùn)練框架,基于兩個(gè)子網(wǎng)絡(luò)輸出的預(yù)測(cè)分割概率圖、軟偽標(biāo)簽與預(yù)測(cè)符號(hào)距離場(chǎng),計(jì)算標(biāo)注樣本的監(jiān)督損失與未標(biāo)注樣本的一致性損失進(jìn)行聯(lián)合優(yōu)化,實(shí)現(xiàn)了對(duì)標(biāo)注樣本和未標(biāo)注樣本的有效學(xué)習(xí),從而在有限標(biāo)簽場(chǎng)景下獲得更強(qiáng)的泛化能力,進(jìn)一步優(yōu)化了模型對(duì)三維醫(yī)學(xué)圖像的分割性能。對(duì)于標(biāo)注樣本,利用交叉熵?fù)p失學(xué)習(xí)器官每個(gè)體素類別的分類,利用符號(hào)距離函數(shù)損失精準(zhǔn)學(xué)習(xí)目標(biāo)器官的幾何形狀,確?;A(chǔ)分割性能。對(duì)于無(wú)標(biāo)注數(shù)據(jù),通過(guò)對(duì)兩個(gè)子網(wǎng)絡(luò)輸出的軟偽標(biāo)簽與預(yù)測(cè)分割概率圖,進(jìn)行交叉協(xié)同訓(xùn)練,相互監(jiān)督,避免單一模型的預(yù)測(cè)偏差;并通過(guò)符號(hào)距離函數(shù)一致性,強(qiáng)制幾何預(yù)測(cè)的協(xié)同性,提升分割邊緣穩(wěn)定性。
52、同時(shí),本發(fā)明在編碼器部分引入了簡(jiǎn)單注意力模塊,并在解碼器部分融合了邊緣增強(qiáng)模塊操作。本發(fā)明通過(guò)簡(jiǎn)單注意力模塊對(duì)三維醫(yī)學(xué)圖像中體素級(jí)別的特征進(jìn)行注意力加權(quán),增強(qiáng)了對(duì)關(guān)鍵區(qū)域的感知,且簡(jiǎn)單注意力模塊通過(guò)能量函數(shù)計(jì)算注意力權(quán)重,并不依賴額外參數(shù),能夠在較低的計(jì)算成本下提高網(wǎng)絡(luò)對(duì)三維醫(yī)學(xué)圖像中關(guān)鍵區(qū)域的感知能力。本發(fā)明通過(guò)邊緣增強(qiáng)操作使網(wǎng)絡(luò)更關(guān)注邊緣區(qū)域,增強(qiáng)對(duì)弱邊緣區(qū)域的感知能力,從而提高弱邊緣醫(yī)學(xué)圖像的分割性能,進(jìn)一步提高分割精度。
53、本發(fā)明對(duì)三維醫(yī)學(xué)圖像進(jìn)行數(shù)據(jù)增強(qiáng),提出主動(dòng)輪廓形變數(shù)據(jù)增強(qiáng)策略,通過(guò)水平集方法對(duì)標(biāo)注樣本和未標(biāo)注樣本中的小器官區(qū)域進(jìn)行形狀變換,以增強(qiáng)訓(xùn)練樣本的多樣性,從而緩解類別不平衡問(wèn)題,增強(qiáng)小類別器官的特征表征能力,增強(qiáng)模型的泛化能力和魯棒性,使得訓(xùn)練好的雙網(wǎng)絡(luò)分割模型能夠有更高的分割精度。