博雅計劃—博雅計劃：人工智能 高性能計算專題： 分布式優(yōu)化算法在訓(xùn)練以計算機(jī)視覺為例的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)等系統(tǒng)中的應(yīng)用研究【大學(xué)組】

開始日期：

2023年6月24日

專業(yè)方向：

計算機(jī)與人工智能

導(dǎo)師：

Soummya（卡內(nèi)基梅隆大學(xué) (CMU) 終身正教授）

課程周期：

7周在線小組科研學(xué)習(xí)+5周論文指導(dǎo)學(xué)習(xí)

語言：

英文

建議學(xué)生年級：

大學(xué)生

項目產(chǎn)出：

7周在線小組科研+5周論文指導(dǎo) 學(xué)術(shù)報告 EI/CPCI/Scopus/ProQuest/Crossref/EBSCO或同等級別索引國際會議全文投遞與發(fā)表指導(dǎo)（共同一作） 結(jié)業(yè)證書 成績單

項目介紹：

課題面向?qū)τ嬎銠C(jī)、機(jī)器學(xué)習(xí)、人工智能領(lǐng)域感興趣的高中生和大學(xué)生，結(jié)合學(xué)生校內(nèi)所學(xué)知識量身打造，將以獨(dú)立且完整的形式介紹聯(lián)合學(xué)習(xí)的基本內(nèi)容。在本課題中，教授會從聯(lián)合學(xué)習(xí)的基礎(chǔ)領(lǐng)域開始講解，從監(jiān)督學(xué)習(xí)和訓(xùn)練模型優(yōu)化切入，并逐漸從集中式機(jī)器學(xué)習(xí)向分布式機(jī)器學(xué)習(xí)進(jìn)行過渡。課題將涵蓋聯(lián)合學(xué)習(xí)的基本架構(gòu)和算法，介紹對聯(lián)合學(xué)習(xí)算法進(jìn)行設(shè)計分析時所需的主要工具，講解現(xiàn)有的計算框架，并結(jié)合自動駕駛等案例體現(xiàn)聯(lián)合學(xué)習(xí)的實(shí)戰(zhàn)應(yīng)用。針對未來有意從事人工智能、機(jī)器學(xué)習(xí)相關(guān)行業(yè)及科學(xué)研究的學(xué)生，本課題將提供必要準(zhǔn)備和堅實(shí)基礎(chǔ)。The topic of decentralized machine learning and in particular federated learning is of immense practical and theoretical interest in the broad ML community. This course focuses on an overview of this emerging research area with a self-contained set of lectures focusing on key prerequisites such as supervised learning and optimization for model training. It introduces in a tutorial manner the transition to decentralized ML from centralized paradigms with illustrations and examples. The course is aimed at university students as well as high school students with an interest in computing and algorithms. Elementary matrix analysis and linear algebra are expected as prerequisites, however, the lectures will be self-contained to cater to a broad audience