45億參數(shù)科學(xué)大模型一天訓(xùn)完

中國教育報-中國教育新聞網(wǎng)訊（記者 任朝霞）6月27日，國內(nèi)高校最大的云上科研智算平臺CFFF（Computing for the Future at Fudan）在復(fù)旦大學(xué)正式上線。這臺為發(fā)現(xiàn)和解決復(fù)雜科學(xué)問題而建的科研“超級計算機”由復(fù)旦大學(xué)與阿里云、中國電信共同打造，以先進的公共云模式提供超千卡并行智能計算，支持千億參數(shù)的大模型訓(xùn)練——這在國內(nèi)高校中尚屬首例，也領(lǐng)先于斯坦福大學(xué)等國際知名高校。

目前，首個基于CFFF平臺訓(xùn)練的科學(xué)大模型成果已正式發(fā)布，45億參數(shù)大模型一天訓(xùn)完。

復(fù)旦大學(xué)校長、中國科學(xué)院院士金力表示，在數(shù)據(jù)和智能技術(shù)驅(qū)動的“大科學(xué)時代”，如何在日新月異的科技創(chuàng)新環(huán)境中贏得主動，在關(guān)鍵領(lǐng)域取得創(chuàng)新突破，是時代給予高校的命題。以CFFF平臺為代表的智算平臺作為一種新興的科研超算架構(gòu)，將成為科研的重要支撐力量，極大提升科研效率、降低科研成本，加速科學(xué)原理發(fā)現(xiàn)和技術(shù)突破，并有力推動科學(xué)大模型的落地。

延續(xù)復(fù)旦大學(xué)“博學(xué)而篤志，切問而近思”的校訓(xùn)，CFFF平臺由面向多學(xué)科融合創(chuàng)新的AI for Science智能計算集群“切問”一號和面向高精尖研究的專用高性能計算集群“近思”一號兩部分組成。

復(fù)旦大學(xué)浩清教授、人工智能創(chuàng)新與產(chǎn)業(yè)研究院院長漆遠(yuǎn)介紹，基于百G高速數(shù)據(jù)傳輸網(wǎng)和阿里云全球領(lǐng)先的大規(guī)模異構(gòu)算力融合調(diào)度技術(shù)、分級存儲技術(shù)、AI與大數(shù)據(jù)一體化技術(shù)，部署在復(fù)旦校內(nèi)的“近思”一號和托管在1500公里外阿里云烏蘭察布數(shù)據(jù)中心的“切問”一號連成了一臺真正意義上的“超級計算機”，復(fù)旦四校區(qū)的所有實驗設(shè)備都能高速接入，做到異構(gòu)算力統(tǒng)一管理，計算任務(wù)統(tǒng)一調(diào)度，滿足不同應(yīng)用場景下的科學(xué)智能研究與應(yīng)用需求。

它還擁有國內(nèi)高校最大規(guī)模的多級數(shù)據(jù)冷熱分層存儲集群，解決了海量科研數(shù)據(jù)無法長期備份的痛點，并支持云上高速傳輸。

位于“東數(shù)西算”節(jié)點上的阿里云烏蘭察布數(shù)據(jù)中心，以公共云模式為復(fù)旦校內(nèi)多學(xué)院的多個科研項目提供更高性能、更具彈性、更低成本和更綠色的智能計算服務(wù)。漆遠(yuǎn)表示，有賴于公共云模式，跑在CFFF平臺上的項目可享受到超千卡并行的智能算力，千卡并行的有效算力達到行業(yè)領(lǐng)先的92%，可拓展性達到萬卡，萬卡并行有效算力也可達90%。

同時，CFFF平臺更加低碳。阿里云綠色數(shù)據(jù)中心技術(shù)結(jié)合烏蘭察布當(dāng)?shù)靥烊坏臍夂騼?yōu)勢，CFFF平臺可實現(xiàn)年平均PUE小于1.2，每年節(jié)省總電力超過2000千瓦，節(jié)省電費500萬元，年均節(jié)碳量達15噸。

據(jù)悉，CFFF平臺從開始建設(shè)的第一天起，就收到了來自復(fù)旦不同院系的多種研究需求，不僅涵蓋生命科學(xué)、大氣科學(xué)、材料科學(xué)領(lǐng)域，也包括金融系統(tǒng)分析等社會科學(xué)研究。平臺上的云原生與低代碼工程化AI開發(fā)平臺，進一步降低了AI與科研融合的門檻。

目前，CFFF平臺上的第一個科研成果已經(jīng)誕生。復(fù)旦大學(xué)人工智能創(chuàng)新與產(chǎn)業(yè)研究院李昊團隊近期發(fā)布了45億參數(shù)量的中短期天氣預(yù)報大模型，預(yù)測效果在公開數(shù)據(jù)集上首次達到業(yè)界公認(rèn)的ECMWF（歐洲中期天氣預(yù)報中心）集合平均水平，并將預(yù)測速度從原來的小時級縮短到了3秒內(nèi)。

這也是CFFF平臺上孕育出的第一個大模型。金力表示，復(fù)旦希望基于CFFF平臺建成一批具有世界級影響力的科學(xué)大模型，例如生命科學(xué)大模型、材料科學(xué)大模型、大氣科學(xué)大模型、集成電路大模型等。

復(fù)旦大學(xué)智能計算平臺CFFF"切問“一號、”近思“一號”成功發(fā)布 學(xué)校供圖