A. 用於BP神經網路訓練的樣本點如何生成
比如sinc測試集 間隔采樣
B. Hopfield 神經網路有哪幾種訓練方法
人工神經網路模型主要考慮網路連接的拓撲結構、神經元的特徵、學習規則等。目前，已有近40種神經網路模型，其中有反傳網路、感知器、自組織映射、Hopfield網路、波耳茲曼機、適應諧振理論等。根據連接的拓撲結構，神經網路模型可以分為：
（1）前向網路 網路中各個神經元接受前一級的輸入，並輸出到下一級，網路中沒有反饋，可以用一個有向無環路圖表示。這種網路實現信號從輸入空間到輸出空間的變換，它的信息處理能力來自於簡單非線性函數的多次復合。網路結構簡單，易於實現。反傳網路是一種典型的前向網路。
（2）反饋網路 網路內神經元間有反饋，可以用一個無向的完備圖表示。這種神經網路的信息處理是狀態的變換，可以用動力學系統理論處理。系統的穩定性與聯想記憶功能有密切關系。Hopfield網路、波耳茲曼機均屬於這種類型。
學習是神經網路研究的一個重要內容，它的適應性是通過學習實現的。根據環境的變化，對權值進行調整，改善系統的行為。由Hebb提出的Hebb學習規則為神經網路的學習演算法奠定了基礎。Hebb規則認為學習過程最終發生在神經元之間的突觸部位，突觸的聯系強度隨著突觸前後神經元的活動而變化。在此基礎上，人們提出了各種學習規則和演算法，以適應不同網路模型的需要。有效的學習演算法，使得神經網路能夠通過連接權值的調整，構造客觀世界的內在表示，形成具有特色的信息處理方法，信息存儲和處理體現在網路的連接中。
根據學習環境不同，神經網路的學習方式可分為監督學習和非監督學習。在監督學習中，將訓練樣本的數據加到網路輸入端，同時將相應的期望輸出與網路輸出相比較，得到誤差信號，以此控制權值連接強度的調整，經多次訓練後收斂到一個確定的權值。當樣本情況發生變化時，經學習可以修改權值以適應新的環境。使用監督學習的神經網路模型有反傳網路、感知器等。非監督學習時，事先不給定標准樣本，直接將網路置於環境之中，學習階段與工作階段成為一體。此時，學習規律的變化服從連接權值的演變方程。非監督學習最簡單的例子是Hebb學習規則。競爭學習規則是一個更復雜的非監督學習的例子，它是根據已建立的聚類進行權值調整。自組織映射、適應諧振理論網路等都是與競爭學習有關的典型模型。
研究神經網路的非線性動力學性質，主要採用動力學系統理論、非線性規劃理論和統計理論，來分析神經網路的演化過程和吸引子的性質，探索神經網路的協同行為和集體計算功能，了解神經信息處理機制。為了探討神經網路在整體性和模糊性方面處理信息的可能，混沌理論的概念和方法將會發揮作用。混沌是一個相當難以精確定義的數學概念。一般而言，「混沌」是指由確定性方程描述的動力學系統中表現出的非確定性行為，或稱之為確定的隨機性。「確定性」是因為它由內在的原因而不是外來的雜訊或干擾所產生，而「隨機性」是指其不規則的、不能預測的行為，只可能用統計的方法描述。混沌動力學系統的主要特徵是其狀態對初始條件的靈敏依賴性，混沌反映其內在的隨機性。混沌理論是指描述具有混沌行為的非線性動力學系統的基本理論、概念、方法，它把動力學系統的復雜行為理解為其自身與其在同外界進行物質、能量和信息交換過程中內在的有結構的行為，而不是外來的和偶然的行為，混沌狀態是一種定態。混沌動力學系統的定態包括：靜止、平穩量、周期性、准同期性和混沌解。混沌軌線是整體上穩定與局部不穩定相結合的結果，稱之為奇異吸引子。
C. rbf神經網路的訓練樣本要多大
因課題而異。
1、樣本最關鍵在於正確性和准確性。你所選擇的樣本首先要能正確反映該系統過程的內在規律。我們從生產現場採得的樣本數據中有不少可能是壞樣本，例如由於測量儀器故障導致測量數據誤差較大等，這樣的樣本會干擾你的神經網路訓練。通常我們認為壞樣本只是個別現象，所以我們希望通過盡可能大的樣本規模來抵抗壞樣本造成的負面影響。
2、其次是樣本數據分布的均衡性。你所選擇的樣本最好能涉及到該系統過程可能發生的各種情況。例如某化工生產中某反應爐的溫度主要分布在350度—400度，且出現在380度的情況較多，那麼你的樣本數據最好也是在350-400度各種情況都有，並且也是在380度左右的樣本較多些，這樣可以極大可能的照顧到系統在各個情況下的規律特徵。通常我們對系統的內在規律不是很了解，所以我們希望通過盡可能大的樣本規模來「地毯式」覆蓋對象系統的方方面面。
3、再次就是樣本數據的規模，也就是你要問的問題。在確保樣本數據質量和分布均衡的情況下，樣本數據的規模決定你神經網路訓練結果的精度。樣本數據量越大，精度越高。還用剛才的例子，假如反應爐的溫度主要均勻分布在375-385度之間，那麼你用100個均衡分布在375-385度的訓練樣本去訓練，經過無限次或者說是足夠多次迭代之後，理論上你的神經網路的精度就是0.1度。如果你覺得0.1度足夠細膩了，那麼樣本規模為100也就可以接受了。由於樣本規模直接影響計算機的運算時間，所以在精度符合要求的情況下，我們不需要過多的樣本數據，否則我們要等待很久的訓練時間。
補充說明一下，不論是徑向基（rbf）神經網路還是經典的bp神經網路，都只是具體的訓練方法，對於足夠多次的迭代，訓練結果的准確度是趨於一致的，方法隻影響計算的收斂速度（運算時間），和樣本規模沒有直接關系。
D. 一個系統的穩定過程的采樣數據如何作為神經網路的訓練樣本
海維深科技(深圳)有限公司
工業生產過程式控制制系統以連續型流程為例，己從過程的熱工量控制發展到產品質量的 在線監控、設備運行的動態檢測。生產狀態的監控以及設備間的協調控制。新型工業控制 系統更多是從大系統角度，針對冶金、煉油。電力、石油。化工，建築材料等連續生產過 程設計的。伴隨著高溫、高壓、高速的工藝要求，自動化系統成為確保安全。保護環境。 節能降耗、提高質量和效率的重要裝備。很多生產環節非人力能勝任，非自動化不足以保 證安全和確保質量，所處理的已不僅是單參數系統，有些是非線性問題，時變參數問題以 及隨機過程式控制制問題。經典控制理論，以模擬量為主的調節系統已不能滿足生產需要，代 之以狀態空間方法的近代控制理論，較多的採用數模結合的數字系統，例如集散系統、分 散系統、新一代可編程式控制制系統。工業控制計算機組成的系統，以及近年來實現的雙向多 變數數字通信。並將控制迴路下載到基層的現場匯流排技術。1999年度重點支持的技術創新 項目如下：
1．現場匯流排技術的全開放分散控制系統 現場匯流排（Fiedbus）的概念從分散型控制系統（DCS）問世以後就開始醞釀了，它是自動化 技術、計算機網路技術和儀表技術發展結合的成果，並將改變習慣的控制模式。對於工業 自動化裝置產業界來說，這是一次根本性的變革，由此也帶來新的發展機遇。現場匯流排的 控制系統實現了現場儀表和控制室之間全數字化。雙向。多站通信，克服了封閉系統形成 的缺陷，使控制功能徹底下載到現場，成為新一代的全分布式系統。其特點是：開放性。 分散性和全數字通訊。這一系統的市場前景廣闊，並可大大提高工業生產過程式控制制技術水 平。本年度重點支持：
（1）新型的現場儀表、裝置軟、硬體的開發，包括高性能、多變數。多功能的現場智 能變送器、智能執行器及通訊接日等產品；
（2）基於現場匯流排控制系統的系統組態軟體的開發和攜帶型匯流排分擴器的開發；
（3）作為現場匯流排網路節點的特種控制裝置。數據採集裝置的開發；
（4）低成本的現場匯流排系統與裝置的開發（應用場合為：糧食。食品倉儲系統，現代農 業的蔬菜、葯材。花卉種植環境檢測，控制系統）；
（5）基於OPC技術的控制與操作軟體的開發；
（6）現場匯流排控制系統的網路化技術。
2．新一代的工業控制計算機
PCI局部匯流排始於Inter公司，其英文全名為Periphera Component 1nterconnet。它是具有地址、數據多路復用的高性能32位和64位匯流排。解決了處理器和顯示設備瓶頸問題，滿足 了面向圖形的操作系統和應用要求，它不僅滿足了高、中。低檔台式機的應用需要，而且 還適應於從移動計算機到伺服器整個領域的需要。
Compact PCI（compact peripheral component interconnet）意思是「堅實的PCI」。它是PCI總 線的電氣和軟體加上歐式卡，它具有在不關閉系統的情況下取出和替換部件的能力。「即插 即用」功能的實現對高可用系統和容錯系統非常重要。Compact PCI能利用已有的其他匯流排 產品，如： STD、VME、1SA等來擴充其功能，做到共存，有很好的容納性。本年度重點 支持：
（1）開發、研製Compact PC1： 從STD匯流排、工業PC、即最新推出的Compact PCI技術，不難看出，我國工業控制計算 機的開發創新應吸取和繼承商用計算機軟、硬體的研製經驗，走與商業機兼容的道路。
（2）吸取Compact PCI技術上的特色和優勢，開發適合市場需求的機箱和母板；（例如： 3U、6U機箱，「ALL·in One」CPU板）
（3）採用Compact PCI規范，結合智能1／O模板，通過系統集成，分別組合為適應各領域 的控制系統；
（4）為了適應Windows圖形軟體技術的應用，配套開發與硬體相應的驅動程序；
（5）開發或引用功能好、成本低的控制軟體，以充分發揮Compact PCI結構緊湊、抗振 動、散熱好、適於嵌入應用的多項優勢。
3．實時智能控制軟體 迄今為止，世界上最高級、最有效的控制系統是人類自身，因此研究人類自身表現出 來的控制機制，並以軟體的運行來模仿實現是解決工業過程難控問題的重要途徑。 當前，在工業生產過程式控制制系統引入智能控制軟體主要是針對非線性、大滯後、多變 量。不確定性乃至粗糙而無法建模的生產過程。因為這些過程式控制制困難，用傳統經典控制 方法很難湊效。由於復雜生產過程不能得到良好控制，使得企業生產能耗下不來、質量上 不去，以至生產不夠穩定。因此，在我國大力發展智能控制是一條有效可行的路子。 根據我國工業生產過程式控制制現狀，本年度重點支持：
（1）實時智能控制軟體包，包括：模糊控制器、模擬智能控制軟體包，提供相應的嵌 入DCS及其他控制裝置的控制組態軟體的介面；
（2）各種煉油、化工、冶金、建材等生產裝置、關鍵設備在線操作優化軟體包；
（3）多變數預測控制、多變數智能協調控制等先進控制軟體包；
（4）關鍵設備故障診斷軟體包。
4．實時智能控制軟體平芻工具 為了幫助和支持實時智能軟體的開發，有條件的科技型中小企業希望能開發有自主知 識產權的工程化實時智能控制軟體平台工具，本年度重點支持：
（1）模糊控制開發平台； 運用CAD方法，支持工程師開發模糊控制，從隸屬函數建立，規劃庫生成，多種推理 方法以及清晰化方法選擇等。只需圖形組態，直接生成控制演算法，並嵌入其他常規控制之中。
（2）專家系統開發平台； 支持整個專家系統開發生成周期，支持各種推理方法和推理機制，圖形組態開發，與 常規控制能很好地集成。
（3）神經網路開發平台。
支持從樣本數據採集／錄入，多種網路模型的選擇，圖形監控訓練過程，自動生成神經 網路控制演算法，並可與常規控制加以集成。必須指出：當前智能控制的工程化應用必須與 常規控制方法（迴路調節、邏輯連鎖、畫面監控等）集成運用才是最有效的辦法。
5．高精度、模塊化的智能1／0技術
現有的各類工業生產過程式控制制系統中主體監控部分（為工控機）一般放在遠離現場的控 制室里，現場的測量儀表（溫度。壓力。流量、速度等位置器或變送器）輸出的信號（為4．20mA） 通過多根並行電纜傳送到控制室，與對應的工控機相連。工控機通過模板或模塊將模擬信 號轉變為數字信號（AO變換）處理；反之又可將數字信號轉變為模擬信號（D/A變換）。 如果現場儀表輸出的電信號能就地數字信號傳輸，或在上層的數字信號能傳輸到現場 後再變換為模擬信號輸入儀表裝置，這樣，現場大量的儀表、裝置和控制室工控機之間通 過幾根雙絞線互連在一起即可完成傳統控制系統的功能，從而降低了成本、方便維護、提 高了系統的可靠性、減少控制室面積。這就是針對現有的各類傳統控制系統實施的智能1／0 技術和現場測控網路技術。本年度重點支持：
（1）開發由智能單元（單片機、DSP）、1／O電路、網路接日及相應軟體組成的智能1／O模 板。 單片機、DSP應選擇適用和先進的1／O電路，應包括：A/D、D/A、v/F、及DI/DD常用 型；隔離型和非隔離型。
（2）開發由智能1／O模塊、現場測檢網路、管理計算機及相應軟體組成的測控系統； 智能（0模板可以是單一的輸入或輸出功能，也可以是自閉路的迴路控制功能。 測控網路可以是單一種類，也可以是多種網路混合構成。
（3）研究和推廣智能1／O模塊擴展到非工業生產過程的應用，如：城市電表、煤氣表、 熱水表和冷水表的自動收費系統；電氣化鐵道變電站饋線微機保護系統等方面。
E. bp神經網路演算法迭代一次是所有樣本都算一遍嗎
是的，全部樣本都要算一遍。按照順序依次抽取樣本，代入BP演算法，調整權值。也有部分演算法是按隨機方式，每次樣本進來的順序都不同，但仍然是所有樣本都要參與。
唯一可能有點區別的是，標准BP演算法中，每輸入一個樣本，都要回傳誤差並調整權值，這種對每個樣本輪訓的方法稱為「單樣本訓練」。由於單樣本訓練遵循的是只顧眼前的「本位主義」原則，只針對每個樣本產生的誤差進行調整，難免顧此失彼，使訓練次數增加，導致收斂速度過慢。因此，有另外一種方法，就是在所有樣本輸入之後，計算網路的總誤差，再根據總誤差調整權值，這種累積誤差的批處理方式稱為「批訓練」或「周期訓練」。在樣本數較多時，批訓練比單樣本訓練的收斂速度更快。
F. 什麼是樣本訓練
一般指對人工神經網路訓練。
向網路足夠多的樣本，通過一定演算法調整網路的結構（主要是調節權值），使網路的輸出與預期值相符，這樣的過程就是神經網路訓練。根據學習環境中教師信號的差異，神經網路訓練大致可分為二分割學習、輸出值學習和無教師學習三種。
G. 什麼神經網路訓練學習學習有哪幾種方式
神經網路的學習，也就是訓練過程，指的是輸入層神經元接收輸入信息，傳遞給中間層神經元，最後傳遞到輸出層神經元，由輸出層輸出信息處理結果的過程。
1、有監督學習2、無監督學習3、增強學習。
H. BP神經網路方法
人工神經網路是近幾年來發展起來的新興學科，它是一種大規模並行分布處理的非線性系統，適用解決難以用數學模型描述的系統，逼近任何非線性的特性，具有很強的自適應、自學習、聯想記憶、高度容錯和並行處理能力，使得神經網路理論的應用已經滲透到了各個領域。近年來，人工神經網路在水質分析和評價中的應用越來越廣泛，並取得良好效果。在這些應用中，縱觀應用於模式識別的神經網路，BP網路是最有效、最活躍的方法之一。
BP網路是多層前向網路的權值學習採用誤差逆傳播學習的一種演算法（Error Back Propagation，簡稱BP）。在具體應用該網路時分為網路訓練及網路工作兩個階段。在網路訓練階段，根據給定的訓練模式，按照「模式的順傳播」→「誤差逆傳播」→「記憶訓練」→「學習收斂」4個過程進行網路權值的訓練。在網路的工作階段，根據訓練好的網路權值及給定的輸入向量，按照「模式順傳播」方式求得與輸入向量相對應的輸出向量的解答（閻平凡，2000）。
BP演算法是一種比較成熟的有指導的訓練方法，是一個單向傳播的多層前饋網路。它包含輸入層、隱含層、輸出層，如圖4-4所示。
圖4-4 地下水質量評價的BP神經網路模型
圖4-4給出了4層地下水水質評價的BP神經網路模型。同層節點之間不連接。輸入信號從輸入層節點，依次傳過各隱含層節點，然後傳到輸出層節點，如果在輸出層得不到期望輸出，則轉入反向傳播，將誤差信號沿原來通路返回，通過學習來修改各層神經元的權值，使誤差信號最小。每一層節點的輸出隻影響下一層節點的輸入。每個節點都對應著一個作用函數（f）和閾值（a），BP網路的基本處理單元量為非線性輸入-輸出的關系，輸入層節點閾值為0，且f（x）=x；而隱含層和輸出層的作用函數為非線性的Sigmoid型（它是連續可微的）函數，其表達式為
f（x）=1/（1+e-x） （4-55）
設有L個學習樣本（Xk，Ok）（k=1，2，…，l），其中Xk為輸入，Ok為期望輸出，Xk經網路傳播後得到的實際輸出為Yk，則Yk與要求的期望輸出Ok之間的均方誤差為
區域地下水功能可持續性評價理論與方法研究
式中：M為輸出層單元數；Yk，p為第k樣本對第p特性分量的實際輸出；Ok，p為第k樣本對第p特性分量的期望輸出。
樣本的總誤差為
區域地下水功能可持續性評價理論與方法研究
由梯度下降法修改網路的權值，使得E取得最小值，學習樣本對Wij的修正為
區域地下水功能可持續性評價理論與方法研究
式中：η為學習速率，可取0到1間的數值。
所有學習樣本對權值Wij的修正為
區域地下水功能可持續性評價理論與方法研究
通常為增加學習過程的穩定性，用下式對Wij再進行修正：
區域地下水功能可持續性評價理論與方法研究
式中：β為充量常量；Wij（t）為BP網路第t次迭代循環訓練後的連接權值；Wij（t-1）為BP網路第t-1次迭代循環訓練後的連接權值。
在BP網路學習的過程中，先調整輸出層與隱含層之間的連接權值，然後調整中間隱含層間的連接權值，最後調整隱含層與輸入層之間的連接權值。實現BP網路訓練學習程序流程，如圖4-5所示（倪深海等，2000）。
圖4-5 BP神經網路模型程序框圖
若將水質評價中的評價標准作為樣本輸入，評價級別作為網路輸出，BP網路通過不斷學習，歸納出評價標准與評價級別間復雜的內在對應關系，即可進行水質綜合評價。
BP網路對地下水質量綜合評價，其評價方法不需要過多的數理統計知識，也不需要對水質量監測數據進行復雜的預處理，操作簡便易行，評價結果切合實際。由於人工神經網路方法具有高度民主的非線性函數映射功能，使得地下水水質評價結果較准確（袁曾任，1999）。
BP網路可以任意逼近任何連續函數，但是它主要存在如下缺點：①從數學上看，它可歸結為一非線性的梯度優化問題，因此不可避免地存在局部極小問題；②學習演算法的收斂速度慢，通常需要上千次或更多。
神經網路具有學習、聯想和容錯功能，是地下水水質評價工作方法的改進，如何在現行的神經網路中進一步吸取模糊和灰色理論的某些優點，建立更適合水質評價的神經網路模型，使該模型既具有方法的先進性又具有現實的可行性，將是我們今後研究和探討的問題。