Zi 字媒體

圖：pixabay原文來源：kdnuggets作者：Jahnavi Mahanta「機器人圈」編譯：嗯~阿童木呀、多啦A亮Jahnavi Mahanta是Deeplearningtrack的聯合創始人，Deeplearningtrack是一個在線導師的數據科學培訓平台。人工神經網路（ANN）演算法能夠模擬人類大腦處理信息。接下來我們將為大家解釋人腦和ANN如何進行工作的。人工神經網路（ANN）使用大腦處理信息的方式為基礎，以此進行開發可用於建模複雜模式和預測問題的演算法。首先，我們需要了解的是我們的大腦是如何進行信息處理的：在我們的大腦中，有數十億個稱為神經元的細胞，它們以電信號的形式處理信息。神經元的樹突接收來自外部的信息或刺激，並在神經元細胞體進行處理，將其轉化為輸出並通過軸突傳到下一個神經元。下一個神經元可以選擇接受或拒絕它，這主要取決於信號的強度。 第一步：樹突接觸外部信號。第二步：神經元處理外部信號。第三步：處理的信號轉化為輸出信號並通過軸突傳送。第四步：輸出信號通過突觸由下一個神經的樹突接收。以上就是人類大腦進行信息處理的過程，接下來，我們試著了解一下ANN如何工作的： 現在，w1，w2，w3分別給出輸入信號的強度。正如你從上面可以看到的那樣，ANN是一個非常簡單的大腦神經元工作方式的表徵。為了使事情變得簡單明了，讓我們可以用一個簡單的示例來幫助理解ANN：一家銀行想評估是否批准一個客戶的貸款申請，所以，它想要預測這個客戶是否可能違約貸款。現在，它有如下數據：所以，我們必須預測第X列。預測結果越接近1就表明客戶違約的機會越大。我們可以使用這個示例，創建一個簡單的基於神經元結構的人工神經網路結構： 通常而言，針對上述示例的簡單ANN架構可以是這樣的：與架構有關的要點：1.網路架構有一個輸入層，隱藏層（可以是1層以上）和輸出層。由於層數較多，因此也稱之為MLP（多層感知器）。2.隱藏層可以被看作是一個「蒸餾層」，從輸入中抽出一些重要的模式，並將其傳遞到下一層上。它通過從輸入中識別出重要的信息而排除冗餘信息，從而使網路更加快速和高效。3.激活函數有兩個顯著的目的：它可以捕獲輸入之間的非線性關係。它可以有助於將輸入轉換為更為有用的輸出。在上面的例子中，所使用的激活函數是sigmoid：O1 = 1/1 + e-F其中F = W1 * X1 + W2 * X2 + W3 * X3Sigmoid激活函數創建一個值在0和1之間的輸出。當然，其他激活函數，如Tanh，softmax和RELU也是可以用的。4.類似地，隱藏層引起輸出層的最終預測：O3 = 1/1 + e-F 1其中F 1 = W7 * H1 + W8 * H2這裡，輸出值（O3）的範圍在0和1之間。接近1（例如0.75）的值表示存在客戶默認值較高。5.權重W是與輸入相關聯的重要點。如果W1是0.56，W2是0.92，那麼在預測H1時，X2：債務比率比X1：Age更重要。6.上述網路架構稱為「前饋網路」，你可以看到輸入信號只在一個方向（從輸入到輸出）流動。我們還可以創建信號在兩個方向上流動的「反饋網路」。7.具有高精度的良好模型提供了非常接近實際值的預測。因此，在上表中，列X值應該非常接近於列W值。預測誤差是列W和列X之間的差異： 8.獲得具有準確預測的良好模型的關鍵是找到最小化預測誤差的「W權重的最優值」。這是使用「反向傳播演算法」實現的，這使ANN成為一種學習演算法，因為通過從錯誤中學習，模型得到了改進。 9.最常見的優化方法稱為「梯度下降」，其中使用了迭代不同的W值，並對預測誤差進行了評估。 因此，為了得到最優的W值，W值的變化很小，對預測誤差的影響進行了評估。 最後，W的這些值被選為最優的，隨著W的進一步變化，誤差不會進一步降低。 要了解梯度下降的更詳細的信息，請參考http://www.kdnuggets.com/2017/04/simple-understand-gradient-descent-algorithm.html 神經網路的主要優點： 1.ANN有一些關鍵優勢，使它們更適合適用於某些問題和情況： 2.ANN有能力去學習和建模非線性和複雜的關係，這非常重要，因為在現實生活中，輸入和輸出之間的許多關係是非線性的，也是複雜的。 3.ANN可以通用化—在從初始輸入及其關係學習之後，它可以推斷出看不見的數據之間的看不見的關係，從而使得模型能夠概括和預測未知數據。 與許多其他預測技術不同，ANN不會對輸入變數施加任何限制（例如，如何分配）。此外，許多研究已經表明，ANN可以更好地模擬異方差性，即具有高易變性和非常數方差的數據，因為它具有在數據中學習隱藏關係的能力，而不在數據中強加任何固定的關係。這在數據波動率很高的金融時間序列預測（例如股票價格）中非常有用。 幾個應用：由於其一些奇妙的特性，ANN在很多領域中都會產生作用： 1.圖像處理和字元識別：ANN具有很多輸入的能力，可以處理它們來推斷隱藏以及複雜的非線性關係，ANN在圖像和字元識別中起著重要的作用。手寫字元識別在欺詐檢測（例如銀行欺詐）甚至國家安全評估中有很多應用。圖像識別是一個不斷增長的領域，廣泛應用於社會媒體的面部識別，醫學中的癌症滯留以及農業和國防用途的衛星圖像處理。目前，對神經網路的研究為深層神經網路鋪平了道路，形成了「深度學習」的基礎，現已開創了計算機視覺、語音識別、自然語言處理等一系列令人興奮的轉型創新，尤其是在自動駕駛汽車領域。 2.預測：在日常業務決策（例如銷售、產品之間的財務分配、產能利用率）、經濟和貨幣政策、金融和股票市場中廣泛需要預測。更常見的是，預測問題是複雜的，例如，預測股價是一個複雜的問題，有許多潛在因素（一些是已知的，一些是未知的）。傳統的預測模型考慮到這些複雜的非線性關係，引起了局限性。鑒於其能夠建模和提取不可見的特徵和關係，ANN以正確的方式應用，可以提供強大的替代方案。此外，與這些傳統模型不同，ANN不對輸入和剩餘分佈施加任何限制。 例如，在該領域進行的研究非常熱——最近在使用LSTM和循環神經網路進行預測方面取得了進展。 ANN是具有廣泛應用的強大的模型。以上，我列舉了幾個突出的例子，但它們在醫藥、安全、銀行/金融以及政府、農業和國防等領域有著廣泛的應用。相關文章：神經網路不直觀性質綜述進化設計：如何用AutoML進化神經網路深度學習零到一：5個適用於初學者使用的令人驚嘆的演示代碼