CMU 葡萄牙校友和研究員贏得了200萬歐元的ERC合并補助金

來自Instituto de Telecomunicações ( IT ) 和 CMU 葡萄牙校友的葡萄牙研究員 André Martins 獲得了200萬 歐元的歐洲研究委員會聯(lián)合資助 (ERC CoG )， 用于研究應(yīng)用于自然語言處理 ( NLP ) 的人工神經(jīng)網(wǎng)絡(luò)。

ERC Consolidator 資金將用于 DECOLLAGE 項目(針對語言生成的深度認(rèn)知學(xué)習(xí))，該項目專注于尋找 NLP 一些基本問題的解決方案，使用創(chuàng)新的跨學(xué)科方法，將人工智能、稀疏建模、神經(jīng)科學(xué)的工具結(jié)合在一起和認(rèn)知科學(xué)。

現(xiàn)有的自然語言處理深度學(xué)習(xí)模型雖然有時令人印象深刻，但往往不可靠甚至具有誤導(dǎo)性：它們不能很好地泛化到新領(lǐng)域，不能利用上下文信息，校準(zhǔn)不佳，記憶不可追溯。這些限制源于它們的單體架構(gòu)，適合感知但不適合需要更高層次認(rèn)知的任務(wù)。

“這個項目在克服當(dāng)前 NLP 技術(shù)的局限性方面更進(jìn)了一步，使人類和機(jī)器能夠用自然語言進(jìn)行有效交流并協(xié)同工作以解決日益困難的問題”，André Martins

有了這筆新?lián)芸畹目捎觅Y金，研究將集中在三個主要步驟上。首先，使用不確定性和質(zhì)量估計作為受控生成的指導(dǎo)原則，將這種控制機(jī)制與有效編碼上下文信息和集成多種模式相結(jié)合。其次，開發(fā)長期記憶的稀疏和結(jié)構(gòu)化模型，注意描述性表示，第三，為稀疏通信設(shè)計新的數(shù)學(xué)模型(彌合離散和連續(xù)表示之間的差距)，支持端到端的可區(qū)分性并實現(xiàn)多個模塊和代理可以在其中進(jìn)行通信的共享工作區(qū)。這些創(chuàng)新將應(yīng)用于極具挑戰(zhàn)性的生成任務(wù)，包括機(jī)器翻譯、對話和開放式生成。

該 ERC 獎項是在研究人員于 2017 年獲得價值 140 萬歐元的早期啟動基金之后獲得的，該基金應(yīng)用于 DeepSPIN 項目 ，使他能夠開展深度學(xué)習(xí)和結(jié)構(gòu)化預(yù)測方面的研究，以解決自然語言處理(包括機(jī)器翻譯)中具有挑戰(zhàn)性的任務(wù)、質(zhì)量估計和句法分析。

André Martins 是第一個 CMU 葡萄牙雙學(xué)位博士。語言技術(shù)校友，2012 年獲得 Técnico 和 卡內(nèi)基梅隆大學(xué) (CMU) 授予的博士學(xué)位。從那時起，他一直高度參與該計劃的倡議，指導(dǎo)兩名博士。候選人并與 CMU 團(tuán)隊嚴(yán)格合作領(lǐng)導(dǎo)兩個 CMU 葡萄牙大型項目(MAIA 和 GoLocal)。他目前是 Unbabel人工智能研究副總裁 和 Instituto Superior Técnico ( Técnico). 他共同創(chuàng)立并共同組織了第 12 屆里斯本機(jī)器學(xué)習(xí)學(xué)院 (LxMLS)，該學(xué)院得到了 CMU 葡萄牙計劃的支持，并且是泛歐人工智能網(wǎng)絡(luò) ELLIS 協(xié)會的成員。André 發(fā)表了 100 多篇論文，被引用超過 6,000 次，在頂級會議和期刊中的 h 指數(shù)為 37，在 Elsevier 評選的其科學(xué)領(lǐng)域中被引用次數(shù)最多的科學(xué)家中排名前 2%。