用于尖峰神經計算的方法和裝置制造方法及圖紙

本公開的某些方面提供用于一般線性系統的尖峰神經計算的方法和裝置。一個示例方面是將信息編碼在尖峰之間的相對定時中的神經元模型。然而，突觸權重不是必需的。換句話說，連接可以存在(顯著突觸)或者不存在(不顯著或不存在的突觸)。本公開的某些方面使用二進制值的輸入和輸出并且不要求突觸后濾波。然而，某些方面可涉及對連接延遲(例如，樹突延遲)的建模。單個神經元模型可被用于計算任何一般線性變換x＝AX+BU到任何的任意性精度。這一神經元模型還可以能夠學習，諸如學習輸入延遲(例如，對應于縮放值)以達成目標輸出延遲(或輸出值)。學習還可被用于確定因果輸入的邏輯關系。

【技術實現步驟摘要】
【國外來華專利技術】【專利摘要】本公開的某些方面提供用于一般線性系統的尖峰神經計算的方法和裝置。一個示例方面是將信息編碼在尖峰之間的相對定時中的神經元模型。然而，突觸權重不是必需的。換句話說，連接可以存在(顯著突觸)或者不存在(不顯著或不存在的突觸)。本公開的某些方面使用二進制值的輸入和輸出并且不要求突觸后濾波。然而，某些方面可涉及對連接延遲(例如，樹突延遲)的建模。單個神經元模型可被用于計算任何一般線性變換x＝AX+BU到任何的任意性精度。這一神經元模型還可以能夠學習，諸如學習輸入延遲(例如，對應于縮放值)以達成目標輸出延遲(或輸出值)。學習還可被用于確定因果輸入的邏輯關系。【專利說明】用于尖峰神經計算的方法和裝置 相關申請的交叉引用 本申請涉及一并提交且題為 "METHODS AND APPARATUS FOR SPIKING NEURAL COMPUTATION(用于尖峰神經計算的方法和裝置）"的美國專利申請S/N. 13/368, 994 (代理 人案號 113075U1)、以及一并提交且題為 "METHODS AND APPARATUS FOR SPIKING NEURAL COMPUTATION (用于尖峰神經計算的方法和裝置）"的美國專利申請S/N. 13/369, 080 (代理 人案號113075U2)，這兩件申請均通過援引納入于此。 背景 領域 本公開的某些方面一般涉及神經網絡，并且更為具體地涉及操作由一個或多個神 經元構成的尖峰神經網絡，其中單個神經元能夠計算任何一般變換至任何的任意性精度。 背景 人工神經網絡是由一群互連的人工神經元（即神經元模型）組成的數學或計算模 型。人工神經網絡可以源自于（或至少寬松地基于）生物神經網絡（諸如在人腦中發現的 那些生物神經網絡）的結構和/或功能。由于人工神經網絡能從觀察中推斷出函數，因此這 樣的網絡在因任務或數據的復雜度使得手工設計該函數不切實際的應用中是特別有用的。 -種類型的人工神經網絡是尖峰神經網絡，其將時間概念以及神經元和突觸狀態 納入到其工作模型中，由此增加了此種類型的神經模擬中的真實性水平。尖峰神經網絡基 于神經元僅當膜電位達到閾值時才激發這一概念。當神經元激發時，它生成一尖峰，該尖峰 行進至其他神經元，這些其他神經元繼而基于該收到的尖峰來升高或降低其膜電位。 傳統上，信息被認為若非獨占地也主要是被編碼在神經元的激發率中。如果信息 是被編碼在神經元激發率中，與僅將神經元建模為具有基于速率的學習規則（諸如〇ja規 貝1J )的激發率變換相比，要對具有膜動態、有時間精度的尖峰事件、以及尖峰定時依賴可塑 性（STDP)的神經元進行建模會存在顯著的計算開銷。 概述 本公開的某些方面一般涉及尖峰神經計算，并且更為具體地涉及使用尖峰神經網 絡中的一個或多個神經元，其中單個神經元能夠計算任何一般變換至任何的任意性精度， 并且其中信息被編碼在各尖峰的相對定時中。 本公開的某些方面提供一種用于實現尖峰神經網絡的方法。該方法一般包括在第 一神經元模型處接收至少一個輸入；基于該輸入，確定第一神經元模型的第一輸出尖峰時 間與參考時間之間的相對時間；以及基于該相對時間從第一神經元模型發射輸出尖峰。 本公開的某些方面提供一種用于實現尖峰神經網絡的裝置。該裝置一般包括：處 理單元，被配置成在第一神經元模型處接收至少一個輸入；基于該輸入，確定第一神經元模 型的第一輸出尖峰時間與參考時間之間的相對時間；以及基于該相對時間從第一神經元模 型發射輸出尖峰。 本公開的某些方面提供一種用于實現尖峰神經網絡的設備。該設備一般包括：用 于在第一神經元模型處接收至少一個輸入的裝置；用于基于該輸入，確定第一神經元模型 的第一輸出尖峰時間與參考時間之間的相對時間的裝置；以及用于基于該相對時間從第一 神經元模型發射輸出尖峰的裝置。 本公開的某些方面提供了一種用于實現尖峰神經網絡的計算機程序產品。該計算 機程序產品一般包括具有指令的計算機可讀介質，這些指令可執行用于：在第一神經元模 型處接收至少一個輸入；基于該輸入，確定第一神經元模型的第一輸出尖峰時間與參考時 間之間的相對時間；以及基于該相對時間從第一神經元模型發射輸出尖峰。 本公開的某些方面提供一種使用尖峰神經網絡的學習方法。該方法一般包括根據 與至神經元模型的輸入相關聯的當前延遲來延遲該神經元模型中的輸入尖峰，其中該輸入 尖峰發生在相對于該神經元模型的參考時間而言的輸入尖峰時間處；至少部分地基于經延 遲的輸入尖峰來從該神經元模型發射輸出尖峰；確定從該神經元模型發射輸出尖峰與該神 經元模型的參考時間之間的實際時間差；以及基于目標時間差與實際時間差之差、當前延 遲以及輸入尖峰的輸入尖峰時間來調整與該輸入相關聯的當前延遲。 本公開的某些方面提供一種用于使用尖峰神經網絡來學習的裝置。該裝置一般包 括處理單元，該處理單元被配置成：根據與至神經元模型的輸入相關聯的當前延遲來延遲 該神經元模型中的輸入尖峰，其中該輸入尖峰發生在相對于該神經元模型的參考時間而言 的輸入尖峰時間處；至少部分地基于經延遲的輸入來從該神經元模型發射輸出尖峰；確定 從神經元模型發射輸出尖峰與該神經元模型的參考時間之間的實際時間差；以及基于目標 時間差與實際時間差之差、當前延遲以及輸入尖峰的輸入尖峰時間來調整與該輸入相關聯 的當前延遲。 本公開的某些方面提供一種用于使用尖峰神經網絡來學習的設備。該設備一般包 括：用于根據與至神經元模型的輸入相關聯的當前延遲來延遲該神經元模型中的輸入尖峰 的裝置，其中該輸入尖峰發生在相對于該神經元模型的參考時間而言的輸入尖峰時間處； 用于至少部分地基于經延遲的輸入來從該神經元模型發射輸出尖峰的裝置；用于確定從神 經元模型發射輸出尖峰與該神經元模型的參考時間之間的實際時間差的裝置；以及用于基 于目標時間差與實際時間差之差、當前延遲以及輸入尖峰的輸入尖峰時間來調整與該輸入 相關聯的當前延遲的裝置。 本公開的某些方面提供了一種用于使用尖峰神經網絡來學習的計算機程序產品。 該計算機程序產品一般包括具有指令的計算機可讀介質，這些指令可執行用于：根據與至 神經元模型的輸入相關聯的當前延遲來延遲該神經元模型中的輸入尖峰，其中該輸入尖峰 發生在相對于該神經元模型的參考時間而言的輸入尖峰時間處；至少部分地基于經延遲的 輸入來從該神經元模型發射輸出尖峰；確定從神經元模型發射輸出尖峰與該神經元模型的 參考時間之間的實際時間差；以及基于目標時間差與實際時間差之差、當前延遲以及輸入 尖峰的輸入尖峰時間來調整與該輸入相關聯的當前延遲。 本公開的某些方面提供一種使用尖峰神經網絡的學習方法。該方法一般包括：在 一個或多個學習神經元模型中的每一個學習神經元模型處提供一組邏輯輸入，其中在該組 邏輯輸入上施加有真因果邏輯關系；在每組邏輯輸入處接收輸入尖峰之間的變化定時；以 及對于這一個或多個學習神經元模型中的每一個學習神經元模型，使用接收到的輸入尖峰 來調整與每個邏輯輸入相關聯的延遲，從而該學習神經元模型根據對應于該真因果邏輯關 系的一個或多個邏輯條件來發射符合目標輸出延遲的輸出尖峰。 本公開的某些方面提供一種用于使用尖峰神經網絡來學習的裝置。該裝置一般包 括處理單元，該處理單元被本文檔來自技高網...

【技術保護點】
一種使用尖峰神經網絡來學習的方法，包括：在一個或多個學習神經元模型中的每一個學習神經元模型處提供一組邏輯輸入，其中在所述一組邏輯輸入上施加有真因果性邏輯關系；在每組邏輯輸入處接收輸入尖峰之間的變化的定時；以及對于所述一個或多個學習神經元模型中的每一個學習神經元模型，使用所接收到的輸入尖峰來調整與所述邏輯輸入中的每一個邏輯輸入相關聯的延遲，從而該學習神經元模型發射符合目標輸出延遲的輸出尖峰，所述目標輸出延遲根據對應于所述真因果性邏輯關系的一個或多個邏輯條件。

【技術特征摘要】
【國外來華專利技術】...

【專利技術屬性】
技術研發人員：J·F·亨澤格，V·阿帕林，
申請(專利權)人：高通股份有限公司，
類型：發明
國別省市：美國;US