本技術(shù)涉及負(fù)荷預(yù)測，尤其涉及一種電力系統(tǒng)的負(fù)荷預(yù)測模型訓(xùn)練方法、預(yù)測方法及相關(guān)裝置。

背景技術(shù)：

1、早期的負(fù)荷預(yù)測主要基于傳統(tǒng)統(tǒng)計方法，例如時間序列分析法（如移動平均、自回歸滑動平均模型和季節(jié)性自回歸積分滑動平均模型）等。這些方法在負(fù)荷數(shù)據(jù)特性較為穩(wěn)定的情況下效果良好，但隨著電力系統(tǒng)的復(fù)雜性增加和負(fù)荷數(shù)據(jù)的非線性特性增強(qiáng)，傳統(tǒng)方法逐漸難以滿足現(xiàn)代需求。進(jìn)入21世紀(jì)，負(fù)荷預(yù)測逐漸融合了機(jī)器學(xué)習(xí)和人工智能技術(shù)。機(jī)器學(xué)習(xí)方法，如支持向量機(jī)、隨機(jī)森林等，為建模復(fù)雜的負(fù)荷變化模式提供了新的思路。隨后，深度學(xué)習(xí)模型（如長短期記憶網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)等）因其在處理大規(guī)模非線性數(shù)據(jù)和挖掘復(fù)雜特征方面的優(yōu)越表現(xiàn)，迅速成為負(fù)荷預(yù)測領(lǐng)域的主流技術(shù)。這些方法在大數(shù)據(jù)和計算資源的支持下，能夠顯著提高負(fù)荷預(yù)測的精度。

2、而現(xiàn)有技術(shù)采用深度學(xué)習(xí)模型進(jìn)行負(fù)荷預(yù)測時，均需要對負(fù)荷數(shù)據(jù)進(jìn)行歸一化等預(yù)處理，而現(xiàn)有的歸一化處理方法采用靜態(tài)參數(shù)，無法自適應(yīng)數(shù)據(jù)變化，在處理復(fù)雜時間序列數(shù)據(jù)時存在局限性，例如真實(shí)世界的時間序列數(shù)據(jù)通常具有一些不規(guī)則性，例如多峰性、偏態(tài)分布以及異常值，如果這些特征未被充分處理，模型性能可能會迅速下降，現(xiàn)有的歸一化方法不夠靈活，無法靈活處理數(shù)據(jù)的不規(guī)則性，從而影響負(fù)荷預(yù)測精度。

技術(shù)實(shí)現(xiàn)思路

1、為了解決上述問題，本技術(shù)提供了一種電力系統(tǒng)的負(fù)荷預(yù)測模型訓(xùn)練方法、預(yù)測方法及相關(guān)裝置。

2、有鑒于此，本技術(shù)第一方面提供了一種電力系統(tǒng)的負(fù)荷預(yù)測模型訓(xùn)練方法，包括：

3、構(gòu)建負(fù)荷預(yù)測網(wǎng)絡(luò)，所述負(fù)荷預(yù)測網(wǎng)絡(luò)包括歸一化網(wǎng)絡(luò)層、特征提取層、長短期記憶網(wǎng)絡(luò)層、注意力層和全連接層；

4、獲取電力系統(tǒng)在預(yù)置時間段內(nèi)的歷史負(fù)荷數(shù)據(jù)、歷史天氣數(shù)據(jù)和歷史日期數(shù)據(jù)，得到輸入時間序列；將所述輸入時間序列輸入到所述負(fù)荷預(yù)測網(wǎng)絡(luò)中，通過所述歸一化網(wǎng)絡(luò)層依次對所述輸入時間序列進(jìn)行離群值處理、平移和縮放處理以及冪變換，得到歸一化后的輸入時間序列；

5、通過所述特征提取層對所述歸一化后的輸入時間序列進(jìn)行局部特征提取，通過所述長短期記憶網(wǎng)絡(luò)層對所述局部特征進(jìn)行編碼，得到編碼特征；通過所述注意力層提取所述編碼特征的注意力權(quán)重，并通過所述注意力權(quán)重對所述編碼特征進(jìn)行加權(quán)，得到注意力特征，通過所述全連接層對所述注意力特征進(jìn)行特征映射，得到所述電力系統(tǒng)的負(fù)荷預(yù)測值；

6、根據(jù)所述電力系統(tǒng)的負(fù)荷預(yù)測值和對應(yīng)的負(fù)荷實(shí)際值計算損失值，通過所述損失值更新所述負(fù)荷預(yù)測網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，直至所述負(fù)荷預(yù)測網(wǎng)絡(luò)收斂，得到訓(xùn)練好的負(fù)荷預(yù)測模型。

7、可選的，通過所述歸一化網(wǎng)絡(luò)層對所述輸入時間序列進(jìn)行離群值處理，包括：

8、通過所述歸一化網(wǎng)絡(luò)層對所述輸入時間序列進(jìn)行平滑縮尾操作，得到平滑時間序列；其中，平滑縮尾操作式為：

9、

10、式中，為輸入時間序列中t時刻的第i個歷史數(shù)據(jù)；為控制參數(shù)；為輸入時間序列的全局均值；為t時刻的第i個歷史數(shù)據(jù)的平滑縮尾后的值；

11、通過權(quán)重參數(shù)分別對所述輸入時間序列和所述平滑時間序列進(jìn)行加權(quán)，并將加權(quán)后的輸入時間序列與加權(quán)后的平滑時間序列進(jìn)行殘差連接，得到離群值處理后的輸入時間序列；其中，所述離群值處理后的輸入時間序列為：

12、

13、式中，為d維單位向量，為逐元素乘法，為權(quán)重參數(shù)，為離群值處理后的輸入時間序列。

14、可選的，通過所述歸一化網(wǎng)絡(luò)層進(jìn)行平移和縮放處理，包括：

15、通過所述歸一化網(wǎng)絡(luò)層對離群值處理后的輸入時間序列進(jìn)行平移和縮放處理，得到平移縮放后的輸入時間序列；平移和縮放處理式為：

16、

17、式中，為平移縮放后的輸入時間序列；、均為可訓(xùn)練參數(shù)，為逐元素除法。

18、可選的，通過所述歸一化網(wǎng)絡(luò)層進(jìn)行冪變換，包括：

19、通過所述歸一化網(wǎng)絡(luò)層對所述平移縮放后的輸入時間序列進(jìn)行冪變換，得到歸一化后的輸入時間序列；歸一化后的輸入時間序列為：

20、

21、其中，

22、

23、式中，為歸一化后的輸入時間序列，i為數(shù)據(jù)的索引，d為數(shù)據(jù)維度的索引，為數(shù)據(jù)進(jìn)行冪變換后的結(jié)果，為可訓(xùn)練參數(shù)。

24、本技術(shù)第二方面提供了一種電力系統(tǒng)的負(fù)荷預(yù)測方法，包括：

25、獲取電力系統(tǒng)在當(dāng)前時刻之前的負(fù)荷數(shù)據(jù)、天氣數(shù)據(jù)和日期數(shù)據(jù)，得到目標(biāo)時間序列；

26、將所述目標(biāo)時間序列輸入到電力系統(tǒng)的負(fù)荷預(yù)測模型中進(jìn)行負(fù)荷預(yù)測，得到所述電力系統(tǒng)在未來時刻的負(fù)荷預(yù)測值，所述負(fù)荷預(yù)測模型采用第一方面任一種所述的電力系統(tǒng)的負(fù)荷預(yù)測模型訓(xùn)練方法訓(xùn)練得到。

27、本技術(shù)第三方面提供了一種電力系統(tǒng)的負(fù)荷預(yù)測模型訓(xùn)練裝置，包括：

28、模型構(gòu)建單元，用于構(gòu)建負(fù)荷預(yù)測網(wǎng)絡(luò)，所述負(fù)荷預(yù)測網(wǎng)絡(luò)包括歸一化網(wǎng)絡(luò)層、特征提取層、長短期記憶網(wǎng)絡(luò)層、注意力層和全連接層；

29、數(shù)據(jù)獲取單元，用于獲取電力系統(tǒng)在預(yù)置時間段內(nèi)的歷史負(fù)荷數(shù)據(jù)、歷史天氣數(shù)據(jù)和歷史日期數(shù)據(jù)，得到輸入時間序列；

30、負(fù)荷預(yù)測單元，用于將所述輸入時間序列輸入到所述負(fù)荷預(yù)測網(wǎng)絡(luò)中，通過所述歸一化網(wǎng)絡(luò)層依次對所述輸入時間序列進(jìn)行離群值處理、平移和縮放處理以及冪變換，得到歸一化后的輸入時間序列；通過所述特征提取層對所述歸一化后的輸入時間序列進(jìn)行局部特征提取，通過所述長短期記憶網(wǎng)絡(luò)層對所述局部特征進(jìn)行編碼，得到編碼特征；通過所述注意力層提取所述編碼特征的注意力權(quán)重，并通過所述注意力權(quán)重對所述編碼特征進(jìn)行加權(quán)，得到注意力特征，通過所述全連接層對所述注意力特征進(jìn)行特征映射，得到所述電力系統(tǒng)的負(fù)荷預(yù)測值；

31、參數(shù)更新單元，用于根據(jù)所述電力系統(tǒng)的負(fù)荷預(yù)測值和對應(yīng)的負(fù)荷實(shí)際值計算損失值，通過所述損失值更新所述負(fù)荷預(yù)測網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，直至所述負(fù)荷預(yù)測網(wǎng)絡(luò)收斂，得到訓(xùn)練好的負(fù)荷預(yù)測模型。

32、可選的，所述負(fù)荷預(yù)測單元在用于通過所述歸一化網(wǎng)絡(luò)層依次對所述輸入時間序列進(jìn)行離群值處理、平移和縮放處理以及冪變換，得到歸一化后的輸入時間序列時，具體用于：

33、通過所述歸一化網(wǎng)絡(luò)層對所述輸入時間序列進(jìn)行平滑縮尾操作，得到平滑時間序列；其中，平滑縮尾操作式為：

34、

35、式中，為輸入時間序列中t時刻的第i個歷史數(shù)據(jù)；為控制參數(shù)；為輸入時間序列的全局均值；為平滑時間序列中t時刻的第i個歷史數(shù)據(jù)；

36、通過權(quán)重參數(shù)分別對所述輸入時間序列和所述平滑時間序列進(jìn)行加權(quán)，并將加權(quán)后的輸入時間序列與加權(quán)后的平滑時間序列進(jìn)行殘差連接，得到離群值處理后的輸入時間序列；其中，所述離群值處理后的輸入時間序列為：

37、

38、式中，為d維單位向量，為逐元素乘法，為權(quán)重參數(shù)，為離群值處理后的輸入時間序列；

39、對離群值處理后的輸入時間序列進(jìn)行平移和縮放處理，得到平移縮放后的輸入時間序列；平移和縮放處理式為：

40、

41、式中，為平移縮放后的輸入時間序列；、均為可訓(xùn)練參數(shù)，為逐元素除法；

42、對所述平移縮放后的輸入時間序列進(jìn)行冪變換，得到歸一化后的輸入時間序列；歸一化后的輸入時間序列為：

43、

44、其中，

45、

46、式中，為歸一化后的輸入時間序列，i為數(shù)據(jù)的索引，d為數(shù)據(jù)維度的索引，為數(shù)據(jù)進(jìn)行冪變換后的結(jié)果，為可訓(xùn)練參數(shù)。

47、本技術(shù)第四方面提供了一種電力系統(tǒng)的負(fù)荷預(yù)測裝置，包括：

48、數(shù)據(jù)獲取單元，用于獲取電力系統(tǒng)在當(dāng)前時刻之前的負(fù)荷數(shù)據(jù)、天氣數(shù)據(jù)和日期數(shù)據(jù)，得到目標(biāo)時間序列；

49、負(fù)荷預(yù)測單元，用于將所述目標(biāo)時間序列輸入到電力系統(tǒng)的負(fù)荷預(yù)測模型中進(jìn)行負(fù)荷預(yù)測，得到所述電力系統(tǒng)在未來時刻的負(fù)荷預(yù)測值，所述負(fù)荷預(yù)測模型采用第一方面任一種所述的電力系統(tǒng)的負(fù)荷預(yù)測模型訓(xùn)練方法訓(xùn)練得到。

50、本技術(shù)第五方面提供了一種電子設(shè)備，所述設(shè)備包括處理器以及存儲器；

51、所述存儲器用于存儲程序代碼，并將所述程序代碼傳輸給所述處理器；

52、所述處理器用于根據(jù)所述程序代碼中的指令執(zhí)行第一方面任一種所述的電力系統(tǒng)的負(fù)荷預(yù)測模型訓(xùn)練方法，或執(zhí)行第二方面所述的電力系統(tǒng)的負(fù)荷預(yù)測方法。

53、本技術(shù)第六方面提供了一種計算機(jī)可讀存儲介質(zhì)，所述計算機(jī)可讀存儲介質(zhì)用于存儲程序代碼，所述程序代碼被處理器執(zhí)行時實(shí)現(xiàn)第一方面任一種所述的電力系統(tǒng)的負(fù)荷預(yù)測模型訓(xùn)練方法，或?qū)崿F(xiàn)第二方面所述的電力系統(tǒng)的負(fù)荷預(yù)測方法。

54、從以上技術(shù)方案可以看出，本技術(shù)具有以下優(yōu)點(diǎn)：

55、本技術(shù)的電力系統(tǒng)的負(fù)荷預(yù)測模型訓(xùn)練方法，通過歸一化網(wǎng)絡(luò)層對輸入時間序列進(jìn)行離群值處理、平移和縮放處理以及冪變換一系列處理，能夠在端到端訓(xùn)練過程中自動學(xué)習(xí)最適合當(dāng)前任務(wù)的歸一化策略，與傳統(tǒng)的固定歸一化方法不同，歸一化網(wǎng)絡(luò)層通過反向傳播同時優(yōu)化歸一化參數(shù)和模型參數(shù)，從而實(shí)現(xiàn)更高效的數(shù)據(jù)預(yù)處理，能自適應(yīng)輸入數(shù)據(jù)的變化調(diào)整參數(shù)，對平穩(wěn)數(shù)據(jù)和非平穩(wěn)數(shù)據(jù)均有很好的歸一化效果，通過卷積神經(jīng)網(wǎng)絡(luò)對歸一化后的輸入時間序列進(jìn)行局部特征提取和lstm編碼，可以捕捉電力負(fù)荷中的短時波動模式，并關(guān)注遠(yuǎn)距離的歷史信息，有助于提高電力負(fù)荷預(yù)測精度；通過注意力層提取注意力特征，使得模型自動學(xué)習(xí)到哪些時間點(diǎn)或特征對于當(dāng)前預(yù)測最為重要，從而賦予這些部分更高的權(quán)重，能夠有效地捕捉序列中的長期依賴關(guān)系，進(jìn)一步提高負(fù)荷預(yù)測精度。