昇騰雲服務,爲百模千态注入強勁動力
發布時間:2024-04-15
 

人工(gōng)智能已從萬千碎片化的小(xiǎo)模型時代走向“百模千态”的大(dà)模型時代。昇騰雲服務爲千行百業提供了更多元、高效、長穩的算力服務選擇,企業隻需一(yī)鍵接入,即可随取随用AI雲服務,不用自建或改造傳統數據中(zhōng)心,快速創建自己的大(dà)模型應用。

當下(xià),算力的緊缺和昂貴已成爲智能創新的重要制約因素,在千行百業的智能應用開(kāi)發來說更是如此。而雲算力作爲一(yī)種高效、靈活、可擴展的解決方案,正逐漸成爲突破算力瓶頸的更優選擇。昇騰雲作爲全棧自主的AI雲算力底座,提供了高性價比的AI算力,提供全鏈路雲化工(gōng)具鏈,支持高效遷移,全棧垂直優化,支持模型/算法高效運行,使能百态千模。

領先優勢,高效連接算力

 

領先的昇騰架構

  • 昇騰達芬奇架構領先,算力相比友商(shāng)提升30%+;

  • MindSpore原生(shēng)支持大(dà)模型開(kāi)發,千億參數模型調優時間縮短60%。

高效的遷移工(gōng)具鏈

  • 全流程昇騰遷移工(gōng)具鏈,典型場景遷移至生(shēng)産環境<2周;
  • 易用的訓練、推理遷移工(gōng)具,支撐客戶自主昇騰遷移。

 

極緻的資(zī)源利用

  • 統一(yī)的資(zī)源調度,資(zī)源極緻利用,綜合分(fēn)配率達90%;
  • 彈性調度、訓練&推理融合調度,資(zī)源發放(fàng)<30分(fēn)鍾。

 

豐富的生(shēng)态

  • AI Gallery生(shēng)态繁榮,沉澱行業資(zī)産10萬+;
  • 彙聚主流開(kāi)源大(dà)模型,高效連接雲上昇騰算力。

 

豐富應用場景,滿足訪問需求

 

 

大(dà)模型

 

 

1.構建大(dà)模型應用開(kāi)發工(gōng)具鏈,使能大(dà)模型開(kāi)箱即用
  • 構建大(dà)模型應用開(kāi)發工(gōng)具鏈,完善雲上數據清洗|模型微調|部署|Prompt|評測|Agent,大(dà)模型應用開(kāi)發效率提升;
  • 原生(shēng)昇騰雲組件Agent,構建“大(dà)模型+雲組件”組合競争力,如搜索Agent,大(dà)數據Agent等,使能雲上存量用戶零遷移構建大(dà)模型應用;

  • 支持業内主流大(dà)模型應用開(kāi)發框架:兼容主流應用框架, GPU生(shēng)态應用“零”改造遷移。

2.提供昇騰版主流開(kāi)源大(dà)模型
  • 支持業内主流大(dà)模型,精度、性能超越友商(shāng);

  • 内源代碼、鏡像、性能三層開(kāi)放(fàng),引領客戶技術選型,同源大(dà)模型昇騰開(kāi)發周期由月降至天。
3.提供昇騰版大(dà)模型工(gōng)具鏈,GPU大(dà)模型100%覆蓋遷移

提供昇騰版大(dà)模型原生(shēng)應用開(kāi)發工(gōng)具鏈及三方大(dà)模型工(gōng)具鏈,支持大(dà)模型調優&工(gōng)具鏈,豐富用戶選擇。

 

 

AIGC

 

 

1.模型轉換

分(fēn)鍾級模型轉換,提供模型轉換工(gōng)具一(yī)鍵轉換成mindpore格式。
2.自動調優
自動圖優化,生(shēng)成調優策略、編譯、在NPU芯片上驗證的閉環反饋機制,不斷叠代出更優的調優策略。
3.性能&精度校驗

提供工(gōng)具,定量分(fēn)析推理耗時,指定模型輸出進行精度誤差分(fēn)析,保證切換到昇騰後性能提升&精度無損。

自動駕駛

 

 

1.感知(zhī)、仿真算法性能深度優化
自動駕駛全鏈路算法深度優化,針對特有的感知(zhī)、仿真生(shēng)成相關算法深度優化,性能提升明顯。
2.大(dà)規模分(fēn)布式訓練
實現大(dà)規模分(fēn)布式訓練,支撐PB級數據訓練。
3.算力升級

快速供應,支撐昇騰雲算力升級,加速客戶算法叠代。

 

 

内容審核

 

深入業務場景,提供完備成熟的内容審核/CV場景快速昇騰遷移的方案,高效解決業務内容審核的算力/國産化需求,助力企業業務穩健發展。

1.快速遷移評估
昇騰遷移工(gōng)具鏈快速提供,模型算子分(fēn)析,模型精度診斷,模型性能測試,模型性能調優,模型轉換能力。
2.降本增效
在審核場景中(zhōng),昇騰芯片綜合性能對比友商(shāng)顯著提升。