System.ArgumentOutOfRangeException: 索引和長度必須引用該字符串內的位置。 參數名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技術實現步驟摘要】
本專利技術涉及個性化學習推薦,具體為一種基于聯邦學習的個性化學習推薦系統。
技術介紹
1、個性化推薦系統是利用機器學習算法來分析用戶的行為、偏好和歷史記錄,以預測用戶對不同內容的潛在興趣,從而提供高度匹配的個性化內容推薦,聯邦學習作為一種新興的分布式機器學習技術應運而生,它允許在保持數據本地化的同時進行模型訓練,每個參與方(如用戶的設備、機構或組織)在本地存儲和處理數據,并僅上傳模型更新而非原始數據,通過加密通信和安全聚合技術,在不直接交換數據的情況下協同優化全局模型,而傳統的推薦系統常常需要集中存儲和處理大量用戶數據,這有助于模型訓練,但也帶來了隱私泄露的風險,并且隨著數據保護法規的完善以及公眾對隱私意識的提高,企業和服務提供商面臨著如何在不侵犯用戶隱私的情況下有效利用數據以改善產品和服務的挑戰,在教育、醫療、金融等領域,數據因法律法規限制和隱私倫理等原因很難集中在一起進行處理,所以,在此提出了一種基于聯邦學習的個性化學習推薦系統。
2、經檢索,專利號cn114510652b提出了一種基于縱向聯邦學習的推薦方法及裝置,具有有效緩解數據非獨立同分布問題對模型性能的影響的優點,屬于人工智能交互
;
3、但是,在緩解數據非獨立同分布問題對模型性能的同時,對于多個場景中涉及的聯邦個性化學習推薦技術,不同場景下的用戶行為模式、數據分布和硬件環境都存在顯著差異,會導致難以建立一個通用的聯邦模型結構來適應所有用戶的個性化需求,也會導致某些特定場景下聯邦學習推薦系統的推薦性能和有效性不足,影響模型的性能,并出現數
技術實現思路
1、針對現有技術中存在隱私保護問題和數據孤島問題的不足,本專利技術提供了一種基于聯邦學習的個性化學習推薦系統,具備可以解決學習者隱私保護問題和數據孤島問題的優點。
2、為實現上述目的,本專利技術提供如下技術方案:一種基于聯邦學習的個性化學習推薦系統,個性化學習推薦模塊包括:
3、用于將不同來源的學習者數據分散存儲在各自的設備或本地服務器中的數據分區與存儲模塊;
4、用于跟蹤記錄每個用戶在學習過程中掌握的知識點狀態的知識點追蹤模塊;
5、用于協調多個參與方共同訓練一個全局模型的聯邦學習模塊;
6、用于保證數據傳輸和模型更新過程中參數安全性和隱私性的隱私保護與加密模塊;
7、用于根據聯邦學習獲得的個性化模型為用戶生成學習資源推薦的個性化推薦生成模塊;
8、所述聯邦學習模塊中設置有追蹤模型訓練模塊、模型更新上傳模塊以及聯合優化模塊。
9、所述數據分區與存儲模塊從各個終端收集用戶的行為數據和特征數據,包括學習歷史、點擊率、停留時間、測試成績,使用用戶id唯一標識符對數據進行分區,將每個用戶的數據獨立存儲,形成用戶數據子集,并對用戶數據子集進行加密存儲。
10、所述知識點追蹤模塊收集用戶在學習過程中的交互數據完成習題、觀看視頻、筆記時間、得分、正確率指標,引入知識點追蹤模型bkt估計用戶對各個知識點的掌握程度,使用bkt模型公式:
11、p(l_k=learned|e_k)=p_a*p(e_k|l_k=learned)/[p(e_k|l_k=learned)*(1-p_e)+p(e_k|l_k=notlearned)*p_e]其中p(a)為未知到已知的轉移概率;
12、p(e)為已知到未知的遺忘概率;
13、p(t)為已知狀態下回答正確的概率;
14、p(l)為未知狀態下偶然答對的概率;
15、l_k表示用戶對第k個知識點的掌握狀態;
16、e_k是用戶在第k個知識點上的答題事件;然后將每個知識點作為一個節點,根據知識點之間的邏輯關系或前后依賴性構建邊,形成知識圖譜。
17、知識點追蹤模塊根據用戶在不同知識點上的表現實時更新其在知識圖譜中的掌握狀態,基于累積證據更新公式:
18、e[l_k]=e[l_k]+update(e_k,l_k)
19、其中e[l_k]表示用戶對第k個知識點掌握的累積證據分數;
20、update(e_k,l_k)是根據新的學習事件,e_k更新累積證據的函數,根據用戶的知識點掌握狀態和知識圖譜結構,設計優化算法生成個性化的學習路徑,基于公式:
21、path[i]=argmax_k{u(k)-c(k)}
22、其中u(k)為掌握知識點k的收益;
23、c(k)為學習知識點k的成本;
24、path[i]表示第i步的學習內容,選擇收益最大減去成本后最高的知識點進行學習。
25、所述聯邦學習模塊中的追蹤模型訓練模塊根據用戶在接收到推薦內容后記錄其對推薦內容的反應,然后將捕獲到的用戶響應數據與推薦內容對應的特征相結合,生成新的訓練樣本,使用生成的新訓練樣本在本地模型上進行重新訓練或在線學習,更新模型參數,本地模型參數更新完成后,對這些更新進行加密處理,通過安全的通信協議將加密后的模型參數上傳至中央服務器,中央服務器收到所有參與方上傳的加密模型參數后,聚合這些參數,生成新的全局模型參數,基于:
26、w_new=sum(w_local_i)/n
27、其中w_new是新的全局模型參數,w_local_i是第i個參與方的本地模型參數更新,n是參與聯邦學習的設備總數,更新后的全局模型參數被分發回各個參與方的本地設備,本地設備使用新的全局模型參數與自身本地模型參數進行融合,繼續優化本地模型。
28、所述模型更新上傳模塊基于本地模型的更新訓練完成后,每個客戶端計算出本次訓練相對于原有模型參數的增量,即模型參數的更新值,對于單個參數w,更新的數學表達式表示為:
29、δw=-η▽l(w)
30、其中δw是參數的更新量或增量;
31、η是學習率,即控制每次迭代時參數改變的幅度;
32、▽l(w)是損失函數l關于參數w的梯度,表示在當前參數設置下,損失函數減少最快的方向及其速率,對于整個模型的參數向量w,更新規則會擴展到所有參數上,基于公式:
33、δw=-η▽l(w)
34、對計算出的模型參數增量進行同態加密,然后通過預先建立的安全通信信道,將加密后的模型參數增量上傳至中央服務器節點,所述聯合優化模塊通過中心服務器接收所有參與方上傳的模型參數更新,進行聚合操作,進行平均化處理,基于:
35、w_new=sum(w_client_i)/k
36、其中w_new是更新后的全局模型參數;
37、w_client是第i個參本文檔來自技高網...
【技術保護點】
1.一種基于聯邦學習的個性化學習推薦系統,其特征在于:個性化學習推薦模塊包括:
2.根據權利要求1所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述數據分區與存儲模塊(1)從各個終端收集用戶的行為數據和特征數據,包括學習歷史、點擊率、停留時間、測試成績,使用用戶ID唯一標識符對數據進行分區,將每個用戶的數據獨立存儲,形成用戶數據子集,并對用戶數據子集進行加密存儲。
3.根據權利要求1所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述知識點追蹤模塊(2)收集用戶在學習過程中的交互數據完成習題、觀看視頻、筆記時間、得分、正確率指標,引入知識點追蹤模型BKT估計用戶對各個知識點的掌握程度,使用BKT模型公式:
4.根據權利要求3所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述知識點追蹤模塊(2)根據用戶在不同知識點上的表現實時更新其在知識圖譜中的掌握狀態,基于累積證據更新公式:
5.根據權利要求1所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述聯邦學習模塊(3)中的追蹤模型訓練模塊(6)根據用戶
6.根據權利要求1所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述模型更新上傳模塊(7)基于本地模型的更新訓練完成后,每個客戶端計算出本次訓練相對于原有模型參數的增量,即模型參數的更新值,對于單個參數w,更新的數學表達式表示為:
7.根據權利要求1所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述隱私保護與加密模塊(4)在本地訓練完成后,基于同態加密模塊(9)對每個參與方先對其更新的模型參數進行同態加密,將加密后的模型參數上傳至中心服務器,中心服務器在不解密的情況下執行聚合操作,直接在密文上進行加法和乘法運算,對于模型參數的平均,將各個參與方加密的參數值進行累加,然后除以參與方總數,得到加密狀態下的全局模型參數更新,保持加密狀態下的模型更新,同時聚合之后的全球模型仍然是加密狀態,只有擁有私鑰的合法實體才能解密參數。
8.根據權利要求1所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述個性化推薦生成模塊(5)基于個性化模型訓練模塊(10)收集的用戶的本地行為數據,構建用戶交互記錄、屬性信息特征的數據集,然后從原始數據中提取與用戶個性化需求的用戶偏好、行為模式特征,基于深度學習模型,將本地數據劃分為訓練集和驗證集,利用用戶本地數據訓練模型,通過迭代優化,讓模型學習用戶特定的行為模式和需求特點,最后在驗證集上評估模型性能,利用訓練好的模型對用戶未來感興趣的內容進行預測,生成個性化推薦列表。
...【技術特征摘要】
1.一種基于聯邦學習的個性化學習推薦系統,其特征在于:個性化學習推薦模塊包括:
2.根據權利要求1所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述數據分區與存儲模塊(1)從各個終端收集用戶的行為數據和特征數據,包括學習歷史、點擊率、停留時間、測試成績,使用用戶id唯一標識符對數據進行分區,將每個用戶的數據獨立存儲,形成用戶數據子集,并對用戶數據子集進行加密存儲。
3.根據權利要求1所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述知識點追蹤模塊(2)收集用戶在學習過程中的交互數據完成習題、觀看視頻、筆記時間、得分、正確率指標,引入知識點追蹤模型bkt估計用戶對各個知識點的掌握程度,使用bkt模型公式:
4.根據權利要求3所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述知識點追蹤模塊(2)根據用戶在不同知識點上的表現實時更新其在知識圖譜中的掌握狀態,基于累積證據更新公式:
5.根據權利要求1所述的一種基于聯邦學習的個性化學習推薦系統,其特征在于:所述聯邦學習模塊(3)中的追蹤模型訓練模塊(6)根據用戶在接收到推薦內容后記錄其對推薦內容的反應,然后將捕獲到的用戶響應數據與推薦內容對應的特征相結合,生成新的訓練樣本,使用生成的新訓練樣本在本地模型上進行重新訓練或在線學習,更新模型參數,本地模型參數更新完成后,對這些更新進行加密處理,通過安全的通信協議將加密后的模型參數上傳至中央服務器,中央服務器收到所有參與方上傳的加密模型參...
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。