AIGC開發(fā)者大會(huì)上，西藏雅江計(jì)算科學(xué)技術(shù)有限公司首席信息官劉克華正式發(fā)布了面向文生圖場(chǎng)景的低延遲高并發(fā)推理方案MCS AIHub。該方案以其突破性的低延遲、高并發(fā)性能，為AIGC行業(yè)帶來全新的算力解決方案。
當(dāng)前AIGC圖像生成領(lǐng)域面臨三大核心挑戰(zhàn)：復(fù)雜工作流加載緩慢嚴(yán)重影響創(chuàng)作效率，大模型加載時(shí)間過長(zhǎng)制約業(yè)務(wù)連續(xù)性，高并發(fā)場(chǎng)景下服務(wù)穩(wěn)定性難以保障。針對(duì)這些行業(yè)痛點(diǎn)，MCS AIHub提供了系統(tǒng)性技術(shù)解決方案。
該方案基于雅江計(jì)算自研的智算平臺(tái)架構(gòu)，通過全棧優(yōu)化實(shí)現(xiàn)了多項(xiàng)技術(shù)突破。在工作流加載環(huán)節(jié)，采用本地緩存、數(shù)據(jù)去重壓縮和漸進(jìn)式加載技術(shù)，將加載時(shí)間從行業(yè)平均的90秒壓縮至10秒以內(nèi)，效率提升達(dá)300%-500%。在模型加載方面，引入并行存儲(chǔ)架構(gòu)，相比傳統(tǒng)NAS方案實(shí)現(xiàn)20倍的加載速度提升。同時(shí)，系統(tǒng)支持千卡級(jí)并發(fā)推理，通過智能負(fù)載均衡和實(shí)時(shí)監(jiān)控機(jī)制，確保在高并發(fā)場(chǎng)景下的服務(wù)穩(wěn)定性與低延遲響應(yīng)。
MCS AIHub采用分層解耦的設(shè)計(jì)理念，底層算力調(diào)度層支持多元芯片架構(gòu)和彈性資源分配，中間服務(wù)層實(shí)現(xiàn)工作流智能解析與優(yōu)化，上層應(yīng)用層提供即開即用的模板化服務(wù)。系統(tǒng)支持動(dòng)態(tài)資源調(diào)度，能夠根據(jù)實(shí)時(shí)負(fù)載自動(dòng)調(diào)整計(jì)算資源配置，實(shí)現(xiàn)資源利用最優(yōu)化。
目前，MCS AIHub方案已在數(shù)字創(chuàng)意、電商內(nèi)容生成、教育培訓(xùn)等多個(gè)行業(yè)場(chǎng)景完成驗(yàn)證。在數(shù)字創(chuàng)意領(lǐng)域，方案幫助設(shè)計(jì)機(jī)構(gòu)將創(chuàng)意實(shí)現(xiàn)時(shí)間縮短70%；在電商場(chǎng)景中，支持萬級(jí)并發(fā)圖片生成需求；在教育行業(yè)，實(shí)現(xiàn)實(shí)時(shí)交互式AI繪畫教學(xué)。
雅江計(jì)算：新型AI算力產(chǎn)業(yè)服務(wù)商
雅江計(jì)算公司聚焦“算力生產(chǎn)－算力交付－算力運(yùn)維”全流程，構(gòu)建“貿(mào)工技”一體化運(yùn)營(yíng)體系，圍繞算效提升開展系統(tǒng)性布局，實(shí)現(xiàn)從系統(tǒng)研發(fā)、設(shè)備定制、綠色再制造到集成部署與技術(shù)服務(wù)的全鏈條協(xié)同。公司已建立“一核多中心”的產(chǎn)業(yè)布局：公司以西藏山南高原訓(xùn)練中心為核心，著力打造國(guó)際一流的高原特色算力基地，該中心兼具“高原極限性能測(cè)試基地”與“高端算力應(yīng)用創(chuàng)新平臺(tái)”雙重功能；公司通過北京市場(chǎng)運(yùn)營(yíng)中心對(duì)接國(guó)家戰(zhàn)略與全球資源，依托武漢研發(fā)制造中心實(shí)現(xiàn)自主可控的硬件研發(fā)與生產(chǎn)，借助深圳驗(yàn)收交付中心保障高效透明的設(shè)備流轉(zhuǎn)，并在杭州、上海、內(nèi)蒙、中衛(wèi)等全國(guó)算力樞紐設(shè)立技術(shù)服務(wù)節(jié)點(diǎn)，形成網(wǎng)格化、貼身式的全生命周期運(yùn)維體系，共同構(gòu)建覆蓋全國(guó)、閉環(huán)聯(lián)動(dòng)的業(yè)務(wù)支撐網(wǎng)絡(luò)。同時(shí)，公司對(duì)接國(guó)際化資源與平臺(tái)，積極推動(dòng)算力輸出，深度融入“一帶一路”算力合作體系，助力構(gòu)建開放協(xié)同的算力生態(tài)。
在AI技術(shù)快速發(fā)展的新時(shí)代，雅江計(jì)算將通過持續(xù)的技術(shù)創(chuàng)新和產(chǎn)業(yè)布局，為中國(guó)人工智能產(chǎn)業(yè)發(fā)展提供堅(jiān)實(shí)的算力基礎(chǔ)支撐，推動(dòng)AI技術(shù)在千行百業(yè)的規(guī)?；瘧?yīng)用。