前言：想要寫出一篇令人眼前一亮的文章嗎？我們特意為您整理了5篇神經網絡初始化方法范文，相信會為您的寫作帶來幫助，發現更多的寫作思路和靈感。

神經網絡初始化方法范文第1篇

關鍵詞：轉換模型 系統辨識 人工神經網絡 BP算法 MATLAB仿真

中圖分類號：TP183 文獻標識碼：A 文章編號：1007-9416（2013）05-0079-03

在實際工況中通常依據管線表面熱流值對比國家標準來判斷管線的保溫性能是否達到標準。而在實際測量中發現現場因素（如環境溫度、風速）對測得的管線表面熱流值影響比較大，整個測試的結果受外界干擾，國家標準給出的評定依據為標準條件（環境溫度一定、風速較小）下的值，不能直接用于衡量現場測量值。所以項目要求對現場采集的數據進行處理，得到標準條件下的數據，之后就可以用國家標準進行衡量了。從現場實測數據到標準條件下的數據轉換基于一個系統模型即實測管線表面溫度值和標準條件下熱流值之間的轉換模型。

項目要求通過系統辨識得到一個精確反映管線表面溫度值和熱流值的去噪濾波模型，以便基于此模型對實際條件下測得的溫度值和熱流值進行標準化轉換和預測。要求能達到以下的技術性能與指標參數：用人工神經網絡建立管線表面溫度到標準條件下熱流值的轉換模型。該模型實現根據現場環境溫度、環境風速以及被測對象的表面溫度值和熱流值較為精確的預測得出實驗室條件下的標準值，估計出相應標準條件下的熱流值，預測精度達到數量級為10-2。

1 系統建模基礎

1.1 神經網絡建模基礎

在本項目中，建立管線表面溫度值和熱流值的標準化轉換模型是研究的核心問題。該系統模型主要用來排除外界環境因素對熱流值等測試結果的影響。此系統要求通過若干組在實際工況下測得的環境溫度、風速、被測對象的表面溫度以及與之對應的實驗室條件下（標準環境溫度與風速）的熱流值，得到轉換模型。從而實現輸入實際工況下的環境溫度，風速以及被測對象的表面溫度值，準確估計出標準條件下（環境溫度、風速）的熱流值。

根據項目總體要求，系統需要進行辨識，得到一個精確反映管線表面溫度值和熱流值的去噪濾波模型，以便基于此模型對實際條件下測得的溫度值和熱流值進行標準化轉換和預測。對于本項目，由于很難找出實際測量值與實驗室標準值之間的精確解析關系，所以基于溫度轉換的內部機理，建立溫度轉換的解析模型是不可能的。應用所測得輸入輸出樣本數據對進行數值建模分析，建立滿足一定精度的溫度標準化轉換數值模型是解決此問題的一個出路，以下研究基于人工神經網絡BP算法的管線表面溫度值和熱流值的標準化轉換模型。

1.2 建模方法選擇

在實際的使用中建立的模型要反映的是一個復雜的系統，系統間的參數傳遞關系復雜，用一般的數學建模方法難以正確預測系統輸出。在這種情況下可以用BP網絡來仿真表達這個系統。該方法把系統看成是一個黑箱，先取出若干組輸入輸出數據對BP網絡進行有效學習，然后就可以用BP網絡來表達這個系統。在得到系統輸入參數后就可以用網絡來預測系統的輸出值。

2 神經網絡系統構建

2.1 問題的提出

根據實驗測得的數據，通過神經網絡擬合，找到管線表面溫度與熱流值之間的轉換模型。在今后的使用中，就可以利用這個模型通過現場測得的管線表面溫度估計出此時管道的熱流值，進而判斷管道保溫材質保溫性能的優劣。

BP網路的一個重要功能就是非線性映射的能力，這一功能非常適合與函數逼近，也就是說，找出兩組數據之間的關系。在研究的內容中，這是要找出管線表面溫度和熱流值之間的對應關系，所以建立一個BP網絡，找出兩者之間的關系。

2.2 網絡建立

訓練前饋網絡的第一步是建立網絡對象。函數newff建立一個可訓練的前饋網絡。這需要4個輸入參數。第一個參數是一個Rx2的矩陣以定義R個輸入向量的最小值和最大值。第二個參數是一個每層神經元個數的數組。第三個參數是包含每層用到的轉移函數名稱的細胞數組。最后一個參數是用到的訓練函數的名稱。

net=newff（minmax（p），[5，1]，{'tansig'，'purelin'}）；

可見，網絡的中間層有5個神經元，傳遞函數為tansig（）；輸出層有1個神經元，傳遞函數為purelin（）。BP網絡中間層神經元的數目對網絡性能有著比較大的影響，需要通過不斷地嘗試才能確定。由于沒有特別設定訓練函數，因此訓練函數取默認值trainlm（）。

圖1中的藍色曲線是原始數據的曲線分布，紅色點劃線是未經過訓練的擬合曲線，兩條曲線的擬合程度比較差，基本上沒有擬合到一起的點。由此可見，在訓練之前，網絡的非線性映射能力是很差的。

2.3 權值初始化

在訓練前饋網絡之前，權重和偏置必須被初始化。初始化權重和偏置的工作用命令init來實現。這個函數接收網絡對象并初始化權重和偏置后返回網絡對象。下面就是網絡如何初始化的：

net = init（net）；

可以通過設定網絡參數net.initFcn和net.layer{i}.initFcn這一技巧來初始化一個給定的網絡。net.initFcn用來決定整個網絡的初始化函數。前饋網絡的缺省值為initlay，它允許每一層用單獨的初始化函數。設定了net.initFcn，那么參數net.layer{i}.initFcn 也要設定用來決定每一層的初始化函數。

對前饋網絡來說，有兩種不同的初始化方式經常被用到：initwb和initnw。

（1）initwb函數根據每一層自己的初始化參數（net.input Weights{i，j}.initFcn）初始化權重矩陣和偏置。前饋網絡的初始化權重通常設為rands，它使權重在-1到1之間隨機取值。這種方式經常用在轉換函數是線性函數時。

（2）initnw通常用于轉換函數是曲線函數。它根據Nguyen和Widrow[NgWi90]為層產生初始權重和偏置值，使得每層神經元的活動區域能大致平坦的分布在輸入空間。它比起單純的給權重和偏置隨機賦值有以下優點：減少神經元的浪費（因為所有神經元的活動區域都在輸入空間內）；有更快的訓練速度（因為輸入空間的每個區域都在活動的神經元范圍中）。

初始化函數被newff所調用。因此當網絡創建時，它根據缺省的參數自動初始化。init不需要單獨的調用。可是可能要重新初始化權重和偏置或者進行自定義的初始化。例如，用newff創建的網絡，它缺省用initnw來初始化第一層。如果想要用rands重新初始化第一層的權重和偏置，用以下命令：

2.4 網絡訓練與仿真

一旦網絡加權和偏差被初始化，網絡就可以開始訓練了。能夠訓練網絡來做函數近似、模式結合、模式分類。訓練處理需要一套適當的網絡操作的數據即網絡輸入p和目標輸出t。在訓練期間網絡的加權和偏差不斷的把網絡性能函數net.performFcn減少到最小。前饋網絡的缺省性能函數是均方誤差mse--網絡輸出和目標輸出t之間的均方誤差。

用樣本數據訓練BP神經網絡，使網絡對非線性函數輸出具有預測能力。

%網絡參數配置（迭代次數，學習率，目標）

圖2中紅色點劃線表示對訓練后的網絡進行仿真得到的輸出，經過訓練后，系統模型基本上擬合了原始數據，但在某些位置還是存在一些擬合不到位的現象，后面會針對這種情況改進網絡已達到更好的擬合效果，網絡的預測誤差曲線如圖3所示。

誤差值基本出現在（-4，9）區間內，差值約為13，樣本數據的輸出范圍在900左右，計算誤差區間在整個輸出范圍之間的辨識精度大約為0.014，達到了項目總體要求中提出的辨識精度為10-2的數量級，可見系統辨識輸出誤差在允許的范圍之內的。

3 結語

本文中建立的系統模型完成了實測數據到標準條件數據的轉換。這種基于人工神經網絡BP算法的管線表面溫度值和熱流值的標準化轉換模型完成了對于現場數據的處理。從仿真效果和誤差分布可以看出模型的處理精度等級也達到了項目的預期的技術要求，只是曲線擬合有所欠缺。這些問題可以通過進一步更改網絡層數等方法進行改進，以便能夠得到更好的仿真效果。

參考文獻

[1]劉艷，任章.基于神經網絡的混合模型建模方法及應用[J].計算機仿真，2007，24（2）：45-48.

[2]匡胤.基于人工神經網絡的預測原理及MATLAB實現[J].內江師范學院學報，2007，22（2）：38-40.

[3]黃大榮，宋軍，汪達成，曹建秋，李偉. 基于ARMA和小波變換的交通流預測模型研究[J].計算機工程與應用，2006，42（36）：191-194.

[4]宋宜斌，王培進.一種基于RBF神經網絡的預測器模型及其研究[J].計算機工程與應用，2004，40（6）：105-107.

[5]Hunt K J， Starbaro D. neural Networks for Nonlinear Internal Model Control [J]. IEE Proceedings D，1991，138（5）：431-4381.

[6]吳廣玉.系統辨識與自適應[M].哈爾濱：哈爾濱工業大學出版社，1987.

[7]張成乾，張國強.系統辨識與參數估計[M].北京：機械工業出版社，1986.

[8]強明輝，張京娥.基于MATLAB的遞推最小二乘法辨識與仿真[J].自動化與儀器儀表，2008，（6）：4-5，39.

[9]金朝紅，吳漢松.一種改進的BP算法及其Matlab仿真[J].計算機仿真，2005（Z1）：105-106.

[10]王青海.BP神經網絡算法的一種改進[J].青海大學學報（自然科學）

神經網絡初始化方法范文第2篇

關鍵詞 電力系統 神經網絡 短期負荷預測

中圖分類號：TM715 文獻標識碼：A

1禁忌搜索算法

禁忌搜索算法能夠找到函數優化問題的全局最優解。下面結合函數優化問題來闡述該算法的一般過程。

設有優化問題

其中是目標函數，是連續變量，R是可行集。禁忌搜索算法首先隨機地初始化一個可行解，記為，用表示到目前為止找到的最優解，用表示當前解，令=，=，同時把存儲在一個具有一定長度的稱為禁忌表的存儲結構里。接著算法重復以下過程：產生的一個鄰域解'（生'的方法有很多，比如從區間[-，+]均勻地產生一個點'作為的鄰域解，這里是一個比較小的實數；也可以從一個以為均值，以為均方差的正態分布中產生鄰域解'，同樣也是一個比較小的實數。具體的產生辦法可以參考[21]），如果產生的'不可行，即'￠R，則要重新產生'直至其可行為止。產生'以后，計算（）和（'）。若（'）

2新型神經網絡預測模型

由于上面提到的具有記憶功能的禁忌搜索算法能夠搜索全局最優解，而當訓練樣本設置好以后，前向神經網絡權重的訓練完全是一個優化問題，因此可以用禁忌搜索算法訓練神經網絡。

以下給出訓練神經網絡的步驟過程。為了方便，記D=（，，，），D是一個++維的向量，評判函數記為（D）。首先初始化向量D0，具體方法是為D0，的每個分量設置一個較小的隨機數，這個隨機數可以從區間[-1，+1]均勻產生。用來表示到目前為止搜索到的最優的解，表示當前解，令=，=。把存儲在禁忌表里。算法重復以下過程：產生的一個鄰域解（方法是以的每個分量為均值，以0.1為均方差產生新的分量，由此得到一個鄰域解向量）。計算（）和（），若（）

重復以上過程，直到目標函數（）連續多次沒有改變，這時停止該算法，輸出最優解，從而可以得到訓練好的權重向量和以及閥值向量和。

3數值實驗

在實際計算中，用前5天的負荷來預測下一天負荷，因此神經網絡模型的輸入層有5個神經元，輸出層有1個神經元，而隱層采用10個神經元。每個隱層神經元的激勵函數取為對稱型Sigmoid函數，即=，最后若目標函數連續200次沒有改變，則停止算法，待網絡訓練好以后，采用新的數據進行測試，結果見下表。

4結論

精確的短期負荷預測對電力系統有著重要的價值。本文提出了用帶有記憶功能的禁忌搜索算法訓練神經網絡的算法，然后將訓練好的神經網絡用于負荷預測。數值實驗表明該算法運算速度快，精確度較高。

參考文獻

神經網絡初始化方法范文第3篇

關鍵詞：RBF神經網絡 k-均值算法 蟻群算法 PID控制

中圖分類號：P20 文獻標識碼：A 文章編號：1672-3791（2017）03（b）-0040-03

為了克服常規PID控制中的弱點，各種智能PID控制方法在控制領域得到廣泛的研究和應用。徑向基函數（RBF）網絡作為智能控制的一種途徑，具有收斂速度快、全局逼近能力強等優點，在解決非線性，時變系統的控制方面應用廣泛[1-2]。蟻群優化算法（ACO）是通過蟻群在食物搜索過程中表現出來的尋優能力來解決一些離散系統優化問題[2]。當前RBF網絡的聚類算法比較單一，已經慢慢顯出其局限性；如果追求收斂速度則很難保證精確度，如果追求精確度則難以保證收斂的快速。正是由于這一突出的問題，該文提出了基于-均值算法和蟻群算法結合的算法用來改進RBF網絡傳統的聚類算法 ，可滿足收斂速度快和精確度高這一要求。

1 基于RBF-NN的PID控制

1.1 基于RBFW絡辨識的PID控制系統

控制結構采取增量式的PID控制，如圖1所示控制誤差為：

1.2 RBF神經網絡學習算法

取性能指標函數，其中非線性系統在時刻的輸出值取，RBF神經網絡在時刻的輸出則為。根據迭代算法可得時刻輸出權、節點中心及節點基寬度參數如下：

2 基于蟻群算法的RBF網絡聚類算法改進

聚類問題是根據研究對象的差異，按照特定準則進行模式分類[3-4]。該文將運用蟻群算法和k-均值算法結合來解決RBF網絡的聚類問題。其思路是首先使用k-均值算法計算出蟻群算法的初始聚類中心，然后定義樣本到聚類中心的路徑上留下外激素為，螞蟻從選擇到聚類中心的概率為：

為的外激素，為耐久系數，一般取0.5～0.9左右，為正常數。

根據如下步驟確定神經網絡節點中心以及節點基寬度：

（1）初始化：可選擇個不同初始聚類中心。可以隨機從樣本中選取，也可以選擇前個樣本輸入，這個初始聚類中心須選取不同值。

（2）求取聚類中心與樣本輸入的間距

。樣本輸入，根據最小距離求取：當 時，即被歸為第類，即。

（3）對分類樣本取平均值得到新的聚類中心，當時返回（2）步，否則進行（4）步。

（4）初始化過程：設，，（常數），=0，=（期望因子），時，將個螞蟻隨機置于個樣本上，在當前禁忌表中記錄各螞蟻樣本初始位置，令。

（5）重復次，令，從1到，從1到，螞蟻以概率選擇從樣本到并留下外激素。將加到中。

（6）求取

。根據公式（15）計算，的值，并取到的最大極限值作為的分類依據，將分類。以分類樣本取的均值作為新的聚類中心。如果將清零，各螞蟻的禁忌表則置零，記錄各螞蟻的當前位置于當前禁忌表中，且。利用公式（5）計算，否則進入第（7）步。

（7）通過上面所求取的各聚類中心的間距計算隱節點的基寬向量，其中為第個聚類中心與其他最近的聚類中心之間的距離，即，為重疊系數。。

3 控制系統的算法

（1）選取個初始聚類中心，根據聚類算法（1）～（7）步，求取RBF網絡隱層節點中心和基向量寬度。

（2）隨機給定和的初始值作為RBF網絡的節點中心及節點基寬參數，根據式（7）～（12）使用梯度下降法求取第次，利用。

（3）依據式（5），完成PID整定。

4 仿真實例

首先為了印證算法的可行性可隨機抽取150組三維數組，聚類數k為3，螞蟻數目，，迭代次數，得到的仿真如圖2所示，從仿真圖（a）和（b）對比可以看出采用改進的聚類算法能夠達到很好的聚類效果方便求出聚類中心，準確度得到有效提高。然后以一個普通的伺服系統為例，輸入信號為單位階躍信號，比較基于改進聚類算法的的RBF網絡的PID控制和常規RBF網絡PID控制的結果。RBF神經網絡以3-6-1結構為基礎，輸出權，節點中心及節點基寬度參數的初始化參數（0，10），[0，30]，（0，40），和采用改進的聚類方法初始化，取隨機值，，螞蟻數，，，在MATLAB7.0中編制了仿真程序，并調試通過，仿真結果如圖3，圖3中（b）給出了基于改進算法RBF網絡PID控制的效果明顯優于（a）常規RBF網絡的PID控制效果。仿真結果表明基于用-均值算法和蟻群算法改進的聚類算法的RBF神經網絡PID控制優于常規的RBF網絡PID控制，主要表現在收斂速度快，魯棒性強等方面。

5 結語

該文首先通過改進初始化RBF神經網絡隱層節點中心和基函數寬度，然后利用梯度下降法整定PID控制器參數。仿真結果表明運用-均值算法和蟻群算法結合的聚類算法是有效的并且在基于RBF網絡的PID控制中整定效果是比較好的，收斂速度和精確度都有了很好保證，優于常規RBF網絡的PID控制。

參考文獻

[1] 王洪斌，楊香蘭，王洪瑞，等.一種改進的RBF神經網絡學習算法[J].系統工程與電子技術，2002，24（6）：103-105.

[2] 李紹銘，劉寅虎.基于改進型RBF神經網絡多變量系統的PID控制[J].重慶大學學報，2007（2）：53-57.

[3] 李士勇.蟻群算法及其應用[M].哈爾濱工業大學出版社，2004.

[4] N Labroche， N Monmarche， G V enturini.A new clustering algorithm based on the chemical recognition system of ants： p roc of 15th European Conference on Artificial Intelligence （ECA I 2002）[C]//Lyon FRANCE. 2002：345-349.

神經網絡初始化方法范文第4篇

【關鍵詞】傅里葉變換；BP神經網絡；自適應濾波

1.引言

BP神經網絡具有很強的非線性函數逼近、自適應學習和并行信息處理能力，為解決未知不確定非線性信息處理和自適應濾波提供了一條新途徑[1]。但隨著BP神經網絡輸入向量維數增加，其隱含層層數和學習次數也會相應增加，降低了網絡的自適應性且延長了學習時間。傅里葉變換是數字信號處理領域一種很重要的算法，其思想是將原始信號從時域變換到頻域，通過對頻譜圖的分析，去除高頻處的頻率分量，再將頻域變換回時域，達到信號去噪濾波的功能[2]。利用傅里葉變換與神經網絡相結合的方法，對信息進行預處理，減少信息處理量，再利用神經網絡強大的非線性函數逼近能力，從而實現信號的自適應濾波，減少網絡的待處理信息，增強網絡的自適應能力，其工作過程如圖1所示。

2.BP神經網絡模型

2.1 神經元結構模型

人工神經網絡是人腦的某種抽象、簡化或模擬，它由大量的神經元廣泛互聯而成。網絡的信息處理由神經元之間的相互作用來實現，網絡的學習和識別取決于神經元間連接權系數的動態演化過程[3]，其模型可以用圖2來表示。

輸入向量與輸出y之間的關系式；

其中權值向量，輸入向量，閾值，活化函數。

2.2 BP神經網絡

BP神經網絡（Back-Propagation Neural Network）是一種無反饋的前向網絡，網絡中的神經元分層排列，除了有輸入層、輸出層之外，還至少有一層隱含層，BP學習算法是調整權值使網絡總誤差最小。具有隱含層BP網絡的結構如圖3所示，圖中設有M個輸入節點，L個輸出節點，隱含層含有n個神經元。其中為網絡輸入向量，為實際輸出向量，為網絡的目標輸出，為網絡的輸出誤差。BP網絡學習流程：

（1）網絡初始化，確定輸入向量與輸出向量的維數、目標向量、學習次數以及允許的誤差值。

（2）輸入學習規則，初始化權值W。

（3）計算輸出層的輸出與目標向量的誤差。

（4）判斷誤差精度是否達到預定值，沒有則調整權值W并改變學習規則。

（5）誤差精度達到預定值，學習結束。

3.數值仿真與分析

在MATLAB神經網絡工具箱中提供了實現BP神經網絡的創建，仿真環境以單輸入單輸出的非線性函數，分別作為輸入函數和目標函數。本文同時采取傅里葉變換、BP神經網絡以及基于傅里葉變換的BP神經網絡分別進行仿真濾波[5][6]，表1給出了三種算法在MATLAB軟件中的仿真主要步驟。圖4為y（t）與x（t）函數的波形圖，圖5是經傅里葉變換處理后的x（t）波形，圖6是BP網絡自適應濾波后的x（t）波形，圖7是基于傅里葉變換的BP網絡作用后的x（t）自適應濾波后的波形。通過比較圖5、6、7可以明顯看出傅里葉變換的濾波效果出現高頻振蕩，BP網絡自適應濾波在形狀上幾乎與元波形一致，但是在某些點位置出現疵點，而基于傅里葉變換的BP神經網絡自適應濾波后波形幾乎和目標函數y（t）波形完全一致。

4.結束語

本文通過三種算法在MATLAB中的仿真分析，可以得出在輸入向量維數比較大時，可以采用基于傅里葉變換的BP神經網絡的方法對含噪信息進行處理，不僅可以降低隱含層的層數，增加自適應能力和減少學習時間，而且在波形擬合上可以達到更好的效果。

參考文獻

[1]華，李雷，趙力.基于BP神經網絡的自適應補償控制方法[J].計算仿真，2012，29（7）：202-205.

[2]張德豐.MATLAB小波分析[M].北京：機械工業出版社，2009，39-48.

[3]楊芳，馬建偉.基于神經網絡自適應濾波的低頻Prony分析[J].中國水能及電氣化，2012，86（4），32-37.

[4]李國勇，楊麗娟.神經模糊預測控制及其MATLAB實現[M].北京：電子工業出版社，2013：17-22.

神經網絡初始化方法范文第5篇

關鍵詞：BP神經網絡；電力工程；異常數據識別技術

BP神經網絡是一種多層前饋神經網絡，信號從輸入層到隱含層，再到輸出層得到期望輸出。期望輸出同實際值做比較，若得不到所期望的值，則誤差反向傳播，調節網絡的權值和閾值。BP神經網絡作為一種引入隱含層神經元的采用多層感知器的神經網絡模型，主要由輸入層、中間層和輸出層3 個部分組成。其中，中間層即隱含層，可以是一層或多層結構。

1 BP神經網絡概述

BP神經網絡是人工神經網絡的分類中的多層前饋型神經網絡。BP神經網絡的主要特征為傳遞信號向前傳播，而誤差反向向后傳播。BP神經網絡在工作時，信息從輸入層通過隱含層到達輸出層。輸出層達不到所期望的信號，將誤差反向傳播，從而根據誤差不斷調整BP神經網絡的閾值和權重，從而使BP神經網絡的輸出值不斷逼近期望值。

2系統設計

該異常數據識別系統利用神經網絡對電力系統異常進行識別，實際上是利用神經網絡可以以任意精度逼近任一非線性函數的特性以及通過學習歷史數據建模的特點。在各種類型的神經網絡中，BP神經網絡具有輸入延遲，適合于電力系統異常數據識別。根據電力系統運行的歷史數據，設定神經網絡的輸入、輸出節點，以反映系統運行的內在規律，實現識別數據異常的目的。所以，利用神經網絡對電力系統異常數據進行識別，主要就是要設定神經網絡的輸入、輸出節點使其能反映電力系統運行規律。

3訓練樣本

在BP神經網絡模型中，在選擇樣本時，一定要盡可能的表達出系統中全部可能發生的情況所對應的狀態，這樣才能表現出來動力參數與實際測量數據一一對應的映射關系。將需要進行反分析的動力參數作為因素，要在每一個因素里面的各種組合中均要做試驗。假設在一組設計試驗中，有n個因素，并且它自身又有l1 ，l2 ，......，ln個水平，那么在進行全面試驗時，至少需要做每個水平之積次試驗。當因素及其自身對應的水平數量不太多時，運用這種算法是比較準確的。但是，隨著因素及其對應的水平越來越多，需要做的試驗次數也要幾何級數般增長。因此，在BP神經網絡的學習過程中，如果選擇合適、合理的方法選擇樣本就十分重要。

4 BP網絡模型與訓練算法

BP（BackPropagation，后向傳播）神經網絡全稱又叫作誤差反向傳播（errorBackPropagation）網絡。它是一種采用BP算法訓練的多層前饋神經網絡，每層網絡均包含一個或多個M-P神經單元構成。M-P神經單元結構，xi表示第i個輸入值，wi為該輸入值的權重，θ為該神經元的閾值，y為該神經元輸出值。其中，即神經元將n個維度的輸入值加權相加后與神經元的閾值進行比較，然后將比較值通過激活函數f處理后進行輸出。BP網絡通過不同網絡層間神經元的全連接構成。在網絡訓練學習過程中，BP算法將輸入數據通過輸入層進行輸入，并經過隱藏層計算后由輸出層進行輸出。接著輸出值與標記值進行比較，計算誤差（代價函數）。最后誤差再反向從輸出層向輸入層傳播，反向傳播過程使用梯度下降算法以目標的負梯度方向來對神經網絡上的權重和閾值進行調整。

5神經網絡識別實驗

考察5 種不同類型的神經網絡，表1 列出了Perceptron、BP、PBH、模糊ARTMAP和RBF的均方根誤差與Perceptron的誤分類率等信息。可以看到，Perceptron神經網絡表現不佳，均方根誤差在0.6~0.7 之間；誤分類率在0.1~0.2 之間。Perceptron神經網絡對異常數據的檢測錯誤與誤分類率較高。隨著隱藏神經元數量的增加，ARTMAP與RBF網絡的性能均會提高。在大多數情況下，均優于Perceptron。BP與PBH網絡具有相似性能，且兩個神經網絡始終比其他3 種類型的神經網絡表現更優。隨著隱藏神經元數量的增加，兩種神經網絡錯誤與誤分類率不會降低。

6狼群算法

狼群算法優化BP神經網絡。狼群算法是一種群智能算法，它通過模仿狼群捕獵的行為來處理優化問題。在自然界中，狼在食物鏈中處于捕獵者。狼的外形神似狗和豺，動作迅速，嗅覺靈敏，有天生的捕獵能力。狼群算法最早于2007 年提出，后來有學者發現其中存在的問題，經狼群算法優化后提出了新型狼群算法（WCA），最后，2013 年根據自然界中狼群追捕獵物，捕食，以及分配食物的方式提出的基于狼群群體智能的算法（WPA）。該算法詳細的將狼群內的種類分為頭狼、探狼、猛狼三種，并具有圍攻、召喚、奔襲、游走等行為。狼群算法同樣依據自然界中“勝者為王，適者生存”的更新機制。狼群算法的加入，形成了改進的BP神經網絡，防止網絡陷入局部極值點，提高網絡效率。

7遺傳算法

遺傳算法優化BP神經網絡。算法主要包括三部分：初始化BP神經網絡結構、遺傳算法優化和BP神經網絡識別。其中初始化BP神經網絡結構包括：確定輸入層、隱含層和輸出層節點個數，以及初始化網絡的權值和閾值等參數。遺傳算法優化BP神經網絡是將一個網絡中的所有權值和閾值看作種群中的一個個體，然后通過選擇、交叉和變異的操作得到最優的個體，即最優權值和閾值，并將該組權值閾值賦給BP神經網絡作為初始的權值和閾值。最后的BP神經網絡識別部分，是利用遺傳算法優化的初始權值和閾值來訓練網絡，再利用訓練好的神經網絡進行識別。

結束語

為實現電網工程建設中對異常數據的檢測，建立了分布分層的數據檢測系統。其是一種使用統計預處理與神經網絡分類的異常數據檢測算法。通過對5 種不同的神經網絡進行對比實驗，可得出結論：BP與PBH網絡的性能優于Perceptron、模糊ARTMAP和RBF等3 種神經網絡。考慮到構建成本最終選取BP神經網絡作為系統的神經網絡分類器，在此基礎上還進行了系統測試。結果表明，系統能夠可靠地檢測到異常數據，其流量強度僅為背景強度的5%~10%，證明了該系統的有效性。

參考文獻

[1]李慧，陳愷妍.基于神經網絡的電力計量故障診斷研究[J].計算機與數字工程，2020，48(05):1252-1257.

[2]多俊龍，王大眾，崇生生.在電力通信預警中優化的BP神經網絡模型研究[J].東北電力技術，2020，41(02):13-15+62.

[3]羅寧，高華，賀墨琳.基于神經網絡的電力負荷預測方法研究[J].自動化與儀器儀表，2020(01):157-160.