京東數(shù)科自研聯(lián)邦學(xué)習(xí)平臺Fedlearn正式推出
FedLearning是一個由自己開發(fā)的聯(lián)邦學(xué)習(xí)平臺，其目標(biāo)是在滿足數(shù)據(jù)隱私安全和監(jiān)督要求的前提下，更好地挖掘數(shù)據(jù)價值，實現(xiàn)多贏機(jī)器學(xué)習(xí)，使人工智能系統(tǒng)更有效、更準(zhǔn)確地使用自己的數(shù)據(jù)。
FedLearning平臺有三個主要特點。首先，在數(shù)據(jù)和模型隱私方面，本地數(shù)據(jù)和模型參數(shù)不是在不同的參與者之間直接交換，而是交換更新參數(shù)所需的中間值。同時，為了避免從這些中間值中恢復(fù)數(shù)據(jù)信息，通過增加擾動來保護(hù)這些值，以確保數(shù)據(jù)和模型的隱私和安全性。其次，在通信方面，引入了集中式數(shù)據(jù)交換的概念，使數(shù)據(jù)交換與參與者無關(guān)。最后，采用異步計算框架，大大提高了模型訓(xùn)練的速度。
FedLearning平臺將密碼學(xué)、機(jī)器學(xué)習(xí)、塊鏈和其他聯(lián)邦學(xué)習(xí)算法結(jié)合起來，構(gòu)建了一套安全、智能和高效的鏈接平臺。在各組織的數(shù)據(jù)不需要向外傳輸?shù)那疤嵯拢Y(jié)合多方組織數(shù)據(jù)，實現(xiàn)了聯(lián)合建設(shè)模型等多方數(shù)據(jù)的聯(lián)合使用場景，并取得了額外的效果。與傳統(tǒng)的數(shù)據(jù)共享和交換方法相比，F(xiàn)edLearning平臺創(chuàng)新性地提出了并行加密算法、異步計算框架、創(chuàng)新的聯(lián)邦學(xué)習(xí)等技術(shù)框架，在保證數(shù)據(jù)安全的前提下提高了學(xué)習(xí)效率，并逐步實現(xiàn)了對1億級數(shù)據(jù)的集成能力。
在JD.com數(shù)學(xué)系開發(fā)FedLearning平臺的過程中，實現(xiàn)了基于內(nèi)核的非線性聯(lián)邦學(xué)習(xí)算法，在安全性方面，該方法不傳輸原始樣本和梯度信息，充分保護(hù)了數(shù)據(jù)的隱私；在快速性方面，該方法采用了第一次雙隨機(jī)梯度下降，大大提高了計算速度，充分利用了計算資源，并通過增加干擾提高了數(shù)據(jù)的安全保護(hù)，形成了"解決多黨垂直聯(lián)邦學(xué)習(xí)的安全核心學(xué)習(xí)算法"((FederatedDoublyStochasticKernelLearningforVerticallyPartitionedData).")。
彭南波，JD 智能模特主管。Com 的數(shù)學(xué)科學(xué)風(fēng)險管理中心說："在 JD。COM 的風(fēng)險控制" 聯(lián)邦模箱 " 產(chǎn)品業(yè)務(wù)實踐，比傳統(tǒng)的聯(lián)合建模取得了更好的效果。一方面，聯(lián)邦學(xué)習(xí)理論上可以得到最優(yōu)解，即通過梯度降迭代過程可以實現(xiàn)聯(lián)邦之間的特征組合和交叉建模，從而解決諸如異或等非線性問題。另一方面，由于它可以保護(hù)數(shù)據(jù)的隱私和安全性，不需要限制建模樣本的數(shù)量，這樣聯(lián)邦學(xué)習(xí)就可以使用更多的數(shù)據(jù)建模，在大數(shù)據(jù)的基礎(chǔ)上更有效地發(fā)現(xiàn)數(shù)據(jù)規(guī)律，從而提高模型的效果。
目前，京東的金條和白條業(yè)務(wù)模式已經(jīng)完全實現(xiàn)了從傳統(tǒng)建模到聯(lián)邦建模的升級，并且在聯(lián)邦模型下提高了模型的風(fēng)險識別能力和流量轉(zhuǎn)換率。除了在風(fēng)險控制方面的應(yīng)用外，JD.com 開發(fā)的聯(lián)邦學(xué)習(xí)平臺 FedLearning 平臺也廣泛應(yīng)用于 Ai+ 智能城市領(lǐng)域。
此外，京東數(shù)學(xué)部憑借在金融服務(wù)、數(shù)字營銷等領(lǐng)域積累的豐富實踐經(jīng)驗，形成多情景解決方案，通過聯(lián)邦學(xué)習(xí)可以實現(xiàn)多場景解決方案升級，結(jié)合每個客戶的情況，提供更高程度的定制服務(wù)。目前，已經(jīng)實施了多種不同類型的合作項目。
從底層代碼到算法，再到平臺構(gòu)建，JD。COM 數(shù)學(xué)系始終堅持自主研發(fā)和創(chuàng)新，一路穩(wěn)健。薄麗峰說：" 我們希望依靠數(shù)字科技強(qiáng)大的人工智能技術(shù)背景，通過 FedLearning 平臺的科技能力幫助用戶和行業(yè)實現(xiàn)‘連接’，實現(xiàn)各種規(guī)模企業(yè)的授權(quán)和增長，這也是我們作為聯(lián)邦學(xué)習(xí)應(yīng)用程序的領(lǐng)導(dǎo)者的使命。
