小明永久免费大陆在线观看-小明永久免费视频-小明永久视频免费播放-小嫩妇好紧好爽再快视频-小嫩嫩12欧美-小日本xxx

首頁 商業(yè) > 正文

《開放加速規(guī)范AI服務器設(shè)計指南》發(fā)布


【資料圖】

(CWW)日前,在2023年開放計算社區(qū)中國峰會(OCP China Day 2023)上,《開放加速規(guī)范AI服務器設(shè)計指南》(以下簡稱《指南》)發(fā)布?!吨改稀访嫦蛏墒紸I應用場景,進一步發(fā)展和完善了開放加速規(guī)范AI服務器的設(shè)計理論和設(shè)計方法,將助力社區(qū)成員高效開發(fā)符合開放加速規(guī)范的AI加速卡,并大幅縮短與AI服務器的適配周期,為用戶提供最佳匹配應用場景的AI算力產(chǎn)品方案,把握生成式AI爆發(fā)帶來的算力產(chǎn)業(yè)巨大機遇。

當前,生成式AI技術(shù)飛速發(fā)展,引領(lǐng)了新一輪AI創(chuàng)新浪潮。AI大模型是生成式AI的關(guān)鍵底座,對生產(chǎn)效率提升、傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級具有重大的價值潛力,而大模型的高效訓練通常需要具備千卡以上高算力AI芯片構(gòu)成的AI服務器集群支撐。隨著生成式AI加速落地,業(yè)界對配置高算力AI芯片的AI服務器需求也不斷高漲。在此背景下,全球已有上百家公司投入新型AI加速芯片的開發(fā),AI計算芯片多元化趨勢凸顯。由于缺乏統(tǒng)一的業(yè)界規(guī)范,不同廠商的AI加速芯片存在顯著差異,導致不同芯片需要定制化的系統(tǒng)硬件平臺承載,帶來更高的開發(fā)成本和更長的開發(fā)周期。

OCP是全球基礎(chǔ)硬件技術(shù)領(lǐng)域覆蓋面最廣、最有影響力的開源組織。2019年OCP成立OAI(Open Accelerator Infrastructure)小組,對更適合超大規(guī)模深度學習訓練的AI加速卡形態(tài)進行了定義,以解決多元AI加速卡形態(tài)和接口不統(tǒng)一的問題。2019年底,OCP正式發(fā)布了OAI-UBB(Universal Baseboard)1.0設(shè)計規(guī)范,并隨后推出了基于OAI-UBB1.0規(guī)范的開放加速硬件平臺,無需硬件修改即可支持不同廠商的OAM產(chǎn)品。近年來,以浪潮信息為代表的系統(tǒng)廠商研制了多款符合開放加速規(guī)范的AI服務器,實現(xiàn)了開放加速AI服務器的產(chǎn)業(yè)化實踐。

基于在開放加速計算領(lǐng)域的產(chǎn)品研發(fā)和工程實踐經(jīng)驗,《指南》進一步發(fā)展和完善了開放加速規(guī)范AI服務器的設(shè)計理論和設(shè)計方法,提出四大設(shè)計原則、全棧設(shè)計方法,包括硬件設(shè)計參考、管理接口規(guī)范和性能測試標準,旨在幫助社區(qū)成員更快更好地開發(fā)AI加速卡并適配開放加速AI服務器,應對生成式AI的算力挑戰(zhàn)。

《指南》指出,開放加速規(guī)范AI服務器設(shè)計應遵循四大設(shè)計原則,即應用導向、多元開放、綠色高效、統(tǒng)籌設(shè)計。在此基礎(chǔ)上,應采用多維協(xié)同設(shè)計、全面系統(tǒng)測試和性能測評調(diào)優(yōu)的設(shè)計方法,以提高適配部署效率、系統(tǒng)穩(wěn)定性、系統(tǒng)可用性。

多維協(xié)同設(shè)計是指系統(tǒng)廠商和芯片廠商在規(guī)劃初期要做好全方位、多維度的協(xié)同,最大化減少定制開發(fā)內(nèi)容。大模型計算系統(tǒng)通常是一體化高集成度算力集群,包含計算、存儲、網(wǎng)絡(luò)設(shè)備,軟件、框架、模型組件,機柜、制冷、供電、液冷基礎(chǔ)設(shè)施等。只有通過多維協(xié)同,才能實現(xiàn)全局最優(yōu)的性能、能效或TCO指標,提高系統(tǒng)適配和集群部署效率?!吨改稀方o出了從節(jié)點到集群的軟硬全棧參考設(shè)計。

全面系統(tǒng)測試是指異構(gòu)加速計算節(jié)點通常故障率高,需要更加全面、嚴苛的測試,才能最大程度降低系統(tǒng)生產(chǎn)、部署、運行過程中的故障風險,提高系統(tǒng)穩(wěn)定性,減少斷點對訓練持續(xù)性的影響。《指南》對結(jié)構(gòu)、散熱、壓力、穩(wěn)定性、軟件兼容性等方面的測試要點進行了全面梳理。

性能測評調(diào)優(yōu)是指需要對大模型加速計算系統(tǒng)開展多層次的性能評測和軟硬件深度調(diào)優(yōu)?!吨改稀方o出了基礎(chǔ)性能、互連性能、模型性能測試的要點和指標,并指出了針對大模型訓練和推理性能調(diào)優(yōu)的要點,以確保開放加速規(guī)范AI服務器能夠有效完成當前主流大模型的創(chuàng)新應用支撐。

關(guān)鍵詞:

最近更新

關(guān)于本站 管理團隊 版權(quán)申明 網(wǎng)站地圖 聯(lián)系合作 招聘信息

Copyright © 2005-2023 創(chuàng)投網(wǎng) - m.zhigu.net.cn All rights reserved
聯(lián)系我們:39 60 29 14 2@qq.com
皖I(lǐng)CP備2022009963號-3

国产精品兄妹在线观看麻豆 | 国产无遮挡无码视频免费软件 | 欧美日韩视频在线第一区 | 看一级特黄a大片日本片黑人 | 人人妻人人做人人爽 | 无码人妻精品一区二区三区下载 | 色偷偷偷在线视频播放 | 国产精品人人妻人人爽 | 精品久久久久久无码中文字幕一区 | 十八禁视频网站在线观看 | 用舌头去添高潮无码av在线观看 | 国产精品久久午夜夜伦鲁鲁 | 天天躁日日躁狠狠躁av | 日韩欧美aⅴ综合网站发布 国产日产精品久久久久快鸭 | 强行糟蹋人妻hd中文字幕 | 国产精品美女挤奶视频 | 无码国产偷倩在线播放老年人 | 狠狠躁日日躁夜夜躁2020 | 四虎国产精品永久在线无码 | 亚洲熟妇av日韩熟妇在线 | 国产亚洲精品久久久久久久久动漫 | 亚洲国产综合精品 在线 一区 | 九九综合九色综合网站 | 国产激情视频在线 | 国产精品一区二区手机在线观看 | 中文字幕人妻无码一夲道 | 国产精品午夜福利视频234区 | 91久久国产综合精品 | 偷看农村女人做爰毛片色 | 91网站桃色| 69久久精品无码一区二区 | a久久久久一级毛片护士免费 | 91精品国产91久久 | 精品少妇一区二区三区免费观 | 麻豆国产尤物av尤物在线观看 | 无码人妻一区二区三区一 | 黄瓜视频在线观看 | 国产亚洲精品久久久久久久久 | 国产mv在线天堂mv免费观看 | 永久免费av无码网站性色av | 亚洲av永久无码精品放毛片 |