(圖片來源：網(wǎng)絡(luò))

近日，日本NTT的子公司NTT Research和康奈爾大學(xué)聯(lián)合宣布，雙方科學(xué)家在相干量子計(jì)算(CIM)的基礎(chǔ)上，聯(lián)合研發(fā)出了一種算法，該算法將深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練應(yīng)用于可控物理系統(tǒng)，并在三種非常規(guī)硬件上進(jìn)行了展示。該團(tuán)隊(duì)在期刊Nature(自然)上發(fā)表了一篇題為《Deep physical neural networks trained with backpropagation》(用反向傳播訓(xùn)練的深度物理神經(jīng)網(wǎng)絡(luò))的論文，詳細(xì)闡釋了他們的研究發(fā)現(xiàn)。

該論文的主要作者有Logan Wright和Tatsuhiro Onodera。兩人都是NTT Research Physics and Informatics(PHI)實(shí)驗(yàn)室的研究科學(xué)家以及在康奈爾大學(xué)應(yīng)用與工程物理學(xué)院實(shí)驗(yàn)室訪問的NTT Research科學(xué)家。該項(xiàng)目的負(fù)責(zé)人、康奈爾大學(xué)應(yīng)用與工程物理學(xué)助理教授Peter McMahon(彼得·麥克馬洪)是本文的另外五位合著者之一，根據(jù)該論文描述，他們提供了一種不受現(xiàn)有能源控制和其他可擴(kuò)展性條件限制的深度學(xué)習(xí)方法。

物理神經(jīng)網(wǎng)絡(luò)算法是“捷徑”

我們知道，深度學(xué)習(xí)是一種具有多層互連節(jié)點(diǎn)的神經(jīng)網(wǎng)絡(luò)，也是人工智能的一個(gè)子集，現(xiàn)已普遍存在于科學(xué)工程中。為了訓(xùn)練深度學(xué)習(xí)執(zhí)行一些數(shù)學(xué)功能，例如圖像識別，用戶們通常采用一種稱為反向傳播(“誤差反向傳播法”的縮寫)的訓(xùn)練方法。截至目前，該訓(xùn)練算法已通過數(shù)字電子設(shè)備實(shí)現(xiàn)。但隨著現(xiàn)有深度學(xué)習(xí)模型的計(jì)算需求激增以及摩爾定律的失效，科學(xué)家們正試圖提高深度神經(jīng)網(wǎng)絡(luò)的計(jì)算效率和速度。

Logan Wright博士表示：“反向傳播算法是指一系列數(shù)學(xué)運(yùn)算，它本質(zhì)上沒有什么數(shù)字化組成部分，僅僅是碰巧在數(shù)字電子硬件上運(yùn)行。我們所做的是找到一種方法來獲取這個(gè)數(shù)學(xué)訓(xùn)練秘訣，并將其轉(zhuǎn)化為物理訓(xùn)練。”

該團(tuán)隊(duì)將經(jīng)過訓(xùn)練的系統(tǒng)命名為物理神經(jīng)網(wǎng)絡(luò)(PNN)，著重強(qiáng)調(diào)了該方法是直接訓(xùn)練物理系統(tǒng)，而不是像傳統(tǒng)路線那樣，先訓(xùn)練數(shù)學(xué)函數(shù)然后再設(shè)計(jì)物理過程來執(zhí)行。Logan Wright博士講道，“這種直接訓(xùn)練物理系統(tǒng)的‘捷徑’，有助于PNN通過學(xué)習(xí)物理算法(能夠自動使用物理計(jì)算的能力)，能更容易地從非常規(guī)但具有強(qiáng)大潛力的物理基底(如非線性光子學(xué))中提取計(jì)算性能。”

在該論文中，作者將這種新算法命名為物理感知訓(xùn)練(PAT)，并將新的算法應(yīng)用到了幾個(gè)可控物理系統(tǒng)。其中一個(gè)實(shí)驗(yàn)具體過程為：將簡單的聲音(如元音)和各種參數(shù)編碼到激光脈沖的頻譜中，以構(gòu)建一個(gè)深度PNN，并通過將光學(xué)變換的輸出作為后續(xù)的輸入來“分層”進(jìn)行PAT訓(xùn)練。實(shí)驗(yàn)結(jié)果表明，該光學(xué)系統(tǒng)以93%的準(zhǔn)確率完成了對元音進(jìn)行測試分類的任務(wù)。

物理感知訓(xùn)練的三套系統(tǒng)驗(yàn)證

為了證明該方法的普適性，研究人員們又訓(xùn)練了三套物理應(yīng)用系統(tǒng)用以執(zhí)行更復(fù)雜的圖像分類任務(wù)。他們再次使用了光學(xué)系統(tǒng)，不過展示的是混合(數(shù)字物理類)PNN。此外，他們還設(shè)置了機(jī)械電子類PNN進(jìn)行測試。基于光學(xué)、電子和機(jī)械技術(shù)訓(xùn)練的PNN，執(zhí)行任務(wù)的準(zhǔn)確度分別達(dá)到了97%、93%和87%?？紤]到這些系統(tǒng)的簡單性，作者認(rèn)為這些結(jié)果有價(jià)值。

實(shí)驗(yàn)內(nèi)容(圖片來源：該論文)

該研究小組預(yù)測，通過使用與傳統(tǒng)數(shù)字電子產(chǎn)品截然不同的物理系統(tǒng)，機(jī)器學(xué)習(xí)能夠更快、更節(jié)能地執(zhí)行訓(xùn)練任務(wù)。或者，將這些PNN作為功能性機(jī)器學(xué)習(xí)用以處理普通數(shù)字之外的數(shù)據(jù)，助力其在機(jī)器人技術(shù)、智能傳感器、納米粒子等領(lǐng)域中發(fā)揮潛在用途。

NTT Research PHI實(shí)驗(yàn)室主任Yoshihisa Yamamoto表示：“這篇文章給出了一個(gè)解決機(jī)器學(xué)習(xí)耗電問題的強(qiáng)大的解決方案。Wright、Onodera等同事的研究通過將物理系統(tǒng)和反向傳播相結(jié)合，從理論上證明了該方法的有效性，并且適用于一系列有趣場景。未來，進(jìn)一步探索哪些物理系統(tǒng)最適合執(zhí)行機(jī)器學(xué)習(xí)計(jì)算將是一項(xiàng)令人興奮的任務(wù)。”

該論文是兩個(gè)實(shí)驗(yàn)室的目標(biāo)研究成果之一。NTT Research PHI實(shí)驗(yàn)室的使命是“從神經(jīng)網(wǎng)絡(luò)中的關(guān)鍵現(xiàn)象原理重新思考計(jì)算機(jī)”，目前該實(shí)驗(yàn)室的一大重點(diǎn)是制備相干伊辛機(jī)(Coherent Ising Machine，CIM)，一種采用光量子的耗散式架構(gòu)的量子計(jì)算機(jī)。與超導(dǎo)、離子阱等使用邏輯門計(jì)算架構(gòu)的其他技術(shù)路線相比，CIM采用量子失諧而不是量子糾纏作為計(jì)算資源，更加類似于人腦神經(jīng)突觸的工作模式，天然更適合于形成超大規(guī)模的量子神經(jīng)網(wǎng)絡(luò)，對環(huán)境噪聲和錯(cuò)誤有很強(qiáng)的抵抗力。

與此同時(shí)，康奈爾大學(xué)McMahon教授實(shí)驗(yàn)室正與NTT Research PHI實(shí)驗(yàn)室合作開展基于CIM的深度研究，研究“如何設(shè)計(jì)新式物理系統(tǒng)執(zhí)行計(jì)算”的問題。

該論文的其他四位合著者中，Martin M. Stein博士、Mong博士后研究員王天宇，都是McMahon實(shí)驗(yàn)室的成員，而Zoey Hu和Darren Schachter是作為康奈爾大學(xué)的本科生在2020-2021年參與該研究，Zoey Hu還曾于2021年夏天在NTT Research實(shí)習(xí)。

除康奈爾大學(xué)外，NTT Research PHI實(shí)驗(yàn)室還與九所大學(xué)達(dá)成了聯(lián)合研究。其中包括加州理工大學(xué)、哈佛大學(xué)、麻省理工學(xué)院、圣母大學(xué)、斯坦福大學(xué)、斯威本科技大學(xué)、東京工業(yè)大學(xué)、密歇根大學(xué)和東京大學(xué)。位于硅谷的美國宇航局艾姆斯研究中心和私人量子計(jì)算軟件公司1QBit也與NTT Research PHI實(shí)驗(yàn)室簽訂了聯(lián)合研究協(xié)議，目前中國的玻色量子公司也在進(jìn)行CIM方向的研究，其創(chuàng)始人文凱也是Yamamoto教授在斯坦福大學(xué)的博士學(xué)生和CIM技術(shù)研究主要參與者。返回

免責(zé)聲明：市場有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎!此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：