本發(fā)明屬于自然語言處理，涉及一種基于頻率感知橫、縱向聚合的icu患者死亡率預(yù)測方法。

背景技術(shù)：

1、死亡率預(yù)測作為臨床風(fēng)險(xiǎn)評(píng)估中的重要任務(wù)，通常依托電子健康記錄中所包含的多變量時(shí)間序列數(shù)據(jù)對(duì)患者的病情變化進(jìn)行監(jiān)測與風(fēng)險(xiǎn)評(píng)估。然而，現(xiàn)有死亡率預(yù)測方法難以同時(shí)捕捉“各臨床特征在時(shí)間維度上的動(dòng)態(tài)變化趨勢”以及“各臨床特征之間的語義關(guān)聯(lián)與頻率依賴信息”，導(dǎo)致死亡率預(yù)測結(jié)果的準(zhǔn)確性不佳。為此，本技術(shù)提出一種基于頻率感知橫、縱向聚合的icu患者死亡率預(yù)測方法。

技術(shù)實(shí)現(xiàn)思路

1、針對(duì)上述現(xiàn)有技術(shù)中的缺陷與不足，本技術(shù)提出一種基于頻率感知橫、縱向聚合的icu患者死亡率預(yù)測方法。

2、本發(fā)明為達(dá)到上述發(fā)明目的，采用如下技術(shù)方案：

3、一種基于頻率感知橫、縱向聚合的icu患者死亡率預(yù)測方法，包括以下步驟：基于待預(yù)測icu患者的臨床數(shù)據(jù)獲取掩碼特征矩陣和值域縮放因子矩陣；將獲取的掩碼特征矩陣和值域縮放因子矩陣輸入至頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)模型中，前向傳播一次，輸出預(yù)測的icu患者死亡概率值；

4、其中，掩碼特征矩陣是基于頻率感知輸入矩陣進(jìn)行掩碼處理得到的，頻率感知輸入矩陣是基于值域縮放因子矩陣和連續(xù)特征矩陣進(jìn)行頻率感知融合得到的，值域縮放因子矩陣中的元素為不同臨床特征在當(dāng)前時(shí)間步及其歷史時(shí)間步上的累計(jì)觀測比例；

5、頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)包括特征重建模塊、頻率感知縱向聚合子層、頻率感知橫向聚合子層，頻率感知縱向聚合子層對(duì)特征重建模塊輸出的頻率感知編碼特征矩陣以及值域縮放因子矩陣進(jìn)行頻率感知縱向聚合操作；頻率感知橫向聚合子層對(duì)頻率感知縱向聚合子層輸出的縱向聚合表示與值域縮放因子矩陣進(jìn)一步融合，生成具有特征之間語義關(guān)聯(lián)與頻率感知依賴信息的融合特征表示。

6、優(yōu)選地，頻率感知輸入矩陣進(jìn)行掩碼處理，包括如下步驟：將頻率感知輸入矩陣中15%的元素位置隨機(jī)遮蔽，生成掩碼特征矩陣。

7、優(yōu)選地，值域縮放因子矩陣和連續(xù)特征矩陣進(jìn)行頻率感知融合，包括如下步驟：將連續(xù)特征矩陣和值域縮放因子矩陣進(jìn)行逐元素相乘操作，實(shí)現(xiàn)頻率感知融合，得到頻率感知輸入矩陣。

8、優(yōu)選地，值域縮放因子矩陣的獲取方式為：將觀測指示矩陣按照時(shí)間維度進(jìn)行統(tǒng)計(jì)，得到值域縮放因子矩陣。

9、優(yōu)選地，觀測指示矩陣中的矩陣元素為0或者1，若第t時(shí)間步的第d項(xiàng)臨床特征存在原始臨床特征值，則定義矩陣元素；否則，定義矩陣元素。

10、優(yōu)選地，連續(xù)特征矩陣是通過對(duì)時(shí)序矩陣進(jìn)行缺失補(bǔ)全得到的。

11、優(yōu)選地，時(shí)序矩陣中，時(shí)序矩陣的矩陣元素為原始臨床特征值或者nan，其中，nan表示臨床特征缺失。

12、優(yōu)選地，頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)還包括死亡率預(yù)測模塊，特征重建模塊、頻率感知縱向聚合子層、頻率感知橫向聚合子層和死亡率預(yù)測模塊依次連接。

13、優(yōu)選地，所述特征重建模塊與論文《attention?is?all?you?need》公開的transformer結(jié)構(gòu)區(qū)別僅在于：本技術(shù)中特征重建模塊中的編碼器輸出端另外連接有一個(gè)輸出層，輸出層用于輸出頻率感知編碼特征矩陣；本技術(shù)中重建特征矩陣是特征重建模塊中的解碼器的輸出結(jié)果。

14、優(yōu)選地，頻率感知縱向聚合子層包括多層感知機(jī)和softmax層；

15、其中，頻率感知縱向聚合子層中，多層感知機(jī)對(duì)頻率感知編碼特征矩陣中的每個(gè)元素進(jìn)行非線性映射，獲得頻率感知編碼特征矩陣中每個(gè)元素的高階語義表示；

16、而后，將值域縮放因子矩陣中每一個(gè)臨床特征對(duì)應(yīng)的列向量與可學(xué)習(xí)參數(shù)β中對(duì)應(yīng)的分量進(jìn)行縮放，得到縱向頻率偏置項(xiàng)矩陣b1；

17、而后，基于矩陣b1中各臨床特征的縱向頻率偏置項(xiàng)與相應(yīng)的高階語義表示相加，計(jì)算每個(gè)臨床特征在所有時(shí)間步上的縱向注意力打分項(xiàng)；

18、而后，softmax層在時(shí)間維度上對(duì)每個(gè)臨床特征的所有縱向注意力打分項(xiàng)進(jìn)行歸一化處理，得到每個(gè)臨床特征歸一化的縱向注意力權(quán)重；

19、最后，對(duì)每個(gè)臨床特征，將其在所有時(shí)間步上的縱向注意力權(quán)重與頻率感知編碼特征矩陣中對(duì)應(yīng)時(shí)間步的元素進(jìn)行縱向頻率感知聚合操作，得到該臨床特征的子縱向聚合表示；而后，將所有臨床特征的子縱向聚合表示按特征維度拼接，得到最終的縱向聚合表示。

20、優(yōu)選地，頻率感知橫向聚合子層包括多層感知機(jī)和softmax層；

21、其中，多層感知機(jī)對(duì)每個(gè)臨床特征的縱向聚合子表示進(jìn)行非線性映射，得到其深層語義嵌入；

22、而后，將值域縮放因子矩陣中每一個(gè)時(shí)間步對(duì)應(yīng)的行向量與可學(xué)習(xí)參數(shù)γ中對(duì)應(yīng)的分量進(jìn)行縮放，得到橫向頻率偏置項(xiàng)矩陣b2；

23、而后，基于矩陣b2中各臨床特征的橫向頻率偏置項(xiàng)與其對(duì)應(yīng)的深層語義嵌入，計(jì)算所有時(shí)間步上臨床特征的橫向注意力打分項(xiàng)；

24、而后，softmax層在特征維度上對(duì)所有時(shí)間步內(nèi)各臨床特征的橫向注意力打分項(xiàng)進(jìn)行歸一化處理，得到每個(gè)時(shí)間步內(nèi)所有臨床特征歸一化的橫向注意力權(quán)重；

25、最后，將每個(gè)時(shí)間步內(nèi)所有臨床特征的橫向注意力權(quán)重與對(duì)應(yīng)的頻率感知編碼特征矩陣中的元素進(jìn)行頻率感知橫向聚合操作，得到該時(shí)間步的子融合特征表示；而后，將所有時(shí)間步的子融合特征表示按時(shí)間維度拼接，得到最終的融合特征表示。

26、優(yōu)選地，死亡率預(yù)測模塊包括依次連接的第一個(gè)全連接層、relu激活層、第二個(gè)全連接層和sigmoid激活層。

27、優(yōu)選地，頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)模型是利用訓(xùn)練集和網(wǎng)絡(luò)總損失ltotal對(duì)頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)進(jìn)行訓(xùn)練，并利用驗(yàn)證集對(duì)頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)進(jìn)行驗(yàn)證得到的。

28、優(yōu)選地，訓(xùn)練集的獲取方式為：基于訓(xùn)練樣本獲取值域縮放因子矩陣和掩碼特征矩陣，值域縮放因子矩陣和掩碼特征矩陣構(gòu)成訓(xùn)練集。

29、優(yōu)選地，驗(yàn)證集的獲取方式為：基于驗(yàn)證樣本獲取值域縮放因子矩陣和掩碼特征矩陣，值域縮放因子矩陣和掩碼特征矩陣構(gòu)成驗(yàn)證集。

30、優(yōu)選地，將訓(xùn)練集中的掩碼特征矩陣和值域縮放因子矩陣輸入到頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)中，計(jì)算每個(gè)樣本的預(yù)測的icu患者死亡概率值，并據(jù)此計(jì)算頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)的網(wǎng)絡(luò)總損失，而后，對(duì)損失進(jìn)行反向傳播并更新頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)的模型參數(shù)，完成一次訓(xùn)練過程；

31、而后，利用驗(yàn)證集驗(yàn)證更新完模型參數(shù)的頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)的預(yù)測性能，得到auprc值；

32、本技術(shù)每利用訓(xùn)練集訓(xùn)練完一次頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)后就用驗(yàn)證集驗(yàn)證一次，當(dāng)訓(xùn)練次數(shù)epoch達(dá)到預(yù)設(shè)的100次后，將100次利用驗(yàn)證集驗(yàn)證頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)的過程中得到的auprc值中最大的那個(gè)訓(xùn)練段epoch保留的參數(shù)，作為最終的模型參數(shù)，該頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)即為頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)模型。

33、相對(duì)于現(xiàn)有技術(shù)，本技術(shù)的有益技術(shù)效果為：

34、死亡率預(yù)測任務(wù)的本質(zhì)是基于多變量時(shí)間序列判斷患者病情的演變趨勢，因此，是否能夠同時(shí)捕捉“各臨床特征在時(shí)間維度上的動(dòng)態(tài)變化趨勢”以及“各臨床特征之間的語義關(guān)聯(lián)與頻率依賴信息”是影響死亡率預(yù)測的關(guān)鍵因素。本技術(shù)中值域縮放因子矩陣中的元素為不同臨床特征在當(dāng)前時(shí)間步及其歷史時(shí)間步上的累計(jì)觀測比例；其中，重點(diǎn)臨床特征（即死亡風(fēng)險(xiǎn)高度關(guān)聯(lián)的臨床特征），其對(duì)應(yīng)的值域縮放因子矩陣中的元素值較大，稀疏臨床特征（即死亡風(fēng)險(xiǎn)關(guān)聯(lián)度不高的臨床特征），其對(duì)應(yīng)的值域縮放因子矩陣中的元素值較??；也就是說，值域縮放因子矩陣中重點(diǎn)臨床特征被賦予了較高的元素值，即被賦予了較高的權(quán)重，稀疏臨床特征被賦予了較低的元素值，這就可以使得本技術(shù)頻率感知聚合及死亡率預(yù)測網(wǎng)絡(luò)中的頻率感知縱向聚合子層進(jìn)行縱向聚合以及頻率感知橫向聚合子層進(jìn)行橫向聚合時(shí)更加關(guān)注重點(diǎn)臨床特征；（2）、本技術(shù)中頻率感知縱向聚合子層能夠?qū)㈩l率感知編碼特征矩陣和值域縮放因子矩陣進(jìn)行頻率感知縱向聚合，有效捕捉臨床特征在時(shí)間維度上的動(dòng)態(tài)變化趨勢，得到縱向聚合表示；而后，頻率感知橫向聚合子層又對(duì)縱向聚合表示以及值域縮放因子矩陣進(jìn)一步融合當(dāng)前時(shí)刻各臨床特征之間的語義關(guān)聯(lián)與頻率依賴信息，獲取具有特征之間語義關(guān)聯(lián)與頻率感知依賴信息的融合特征表示。