<b id="zlk11"><small id="zlk11"></small></b>
  • <b id="zlk11"><sub id="zlk11"></sub></b>

  • <rp id="zlk11"></rp>
    <var id="zlk11"></var>
    <video id="zlk11"><td id="zlk11"><output id="zlk11"></output></td></video>
      1. ?
        當前位置:首頁 > 休閑 > 北大特訓營燃啟!解鎖大模型全鏈路技術 開源與職業成長雙向奔赴

        北大特訓營燃啟!解鎖大模型全鏈路技術 開源與職業成長雙向奔赴

        11月7日,特訓北京大學 鯤鵬昇騰科教創新卓越中心特訓營在北京融科資訊中心圓滿舉辦。營燃源職業成這場聚焦AI核心技術與開源生態的啟解全鏈重磅活動,匯聚了多位昇騰技術專家和研發骨干,鎖大術開以及北京大學學者,模型以“技術深耕+實戰賦能+職業護航”為核心,長雙為AI領域的向奔探索者、實踐者與開源貢獻者帶來一場覆蓋大模型訓練、特訓推理、營燃源職業成算子開發與部署全鏈路的啟解全鏈技術盛宴,更搭建起從技術創新到職業成長的鎖大術開一站式橋梁。

        開源生態筑基CANN為核,模型鏈接全球AI技術版圖

        作為昇騰開源生態的長雙核心基石,昇騰CANN生態技術專家郭依蓬在開場分享中,向奔全景展現了CANN從基礎構建到全面開源開放的特訓演進歷程。歷經多版本迭代,CANN已匯聚包含330+高性能算子、10+通信算法的外部成果貢獻,形成Ascend C編程語言、CATLASS算子模板庫、三方編程語言,三位一體的編程體系,通過底層畢昇編譯器的能力開放,支持Triton等主流生態無縫對接。截至目前,CANN認證開發者已突破8000人,累計對接PyTorch、TensorFlow、MindSpore等業界主流AI框架,以及魔樂社區、OpenI啟智等數十個開源平臺,為開發者提供了靈活、開放的異構計算底座。其全量開源的底層接口與工具鏈,更讓伙伴得以自主創新,在算子優化、模型適配等領域實現快速突破。


        昇騰CANN生態技術專家 郭依蓬

        推理加速突破vLLM與SGLang雙引擎驅動高性能

        推理性能是大模型落地的關鍵瓶頸,昇騰推理系統工程師付冰洋與溫捷分別帶來SGLang與vLLM與兩大主流框架的昇騰適配實踐。付冰洋聚焦SGLang在昇騰Atlas硬件上的高性能實踐,基于昇騰的高帶寬特性,通過MLAPO融合算子、aclGraph圖模式、W8A8C8量化等優化手段,實現DeepSeekV3 671B模型在16卡環境下QPM達440+。其創新的PD傳輸優化與Prefix Cache多級緩存機制,進一步降低了長序列推理的時延,為在線推理與強化學習場景提供了高效解決方案。


        昇騰推理系統工程師 付冰洋

        溫捷則詳解vLLM-Ascend插件化方案。通過Python entry_points機制,實現硬件后端與核心代碼解耦,支持獨立迭代與快速集成;針對MoE模型,結合EPLB靜動態負載均衡技術、 PD分離配比優化、flashcomm通信優化,matmulNZ搬運優化等,大幅提升推理效率。當前vLLM-Ascend已實現Qwen3等模型 0Day支持,昇騰核心開發者躋身vLLM主項目Maintainer,在GitHub社區斬獲上千star。


        昇騰推理系統工程師 溫捷

        算子開發前沿TileLang極簡范式釋放硬件潛能

        算子開發是AI性能優化的核心,北京大學計算機學院碩士研究生、TileLang Maintainer解文浩與華為TileLang技術專家楊偲嬋,帶來了新一代算子開發范式的實踐分享。解文浩以 DigitalSignatureAlgorithm(DSA)計算為例,演示TileLang開發流程。TileLang已在GitHub開源,提供Ascend C與 AscendNPU IR雙代碼生成后端,開發者通過簡潔API即可實現內存分配、數據搬運與同步控制。其DSA算子開發通過分塊處理、多級緩存調度,高效完成注意力分數計算、softmax標準化等流程,大幅降低開發門檻。


        北京大學研究生、TileLang Maintainer 解文浩

        楊偲嬋進一步介紹了TileLang與MLIR生態的深度融合,通過統一硬件抽象與多級IR對接,開發者可通過Developer與Expert雙模式,靈活控制內存分配、數據搬運與同步調度,實現硬件潛能的極致釋放。這種“簡約而不簡單”的編程范式,大幅降低了復雜融合算子的開發門檻,為開發者創新提供了高效支撐。


        TileLang技術專家 楊偲嬋

        實戰與成長從集群部署到職業進階

        北京大學研究生褚苙揚帶來北大卓越中心集群實操教程,詳解多機多卡多模態模型訓練要點。該集群基于昇騰,支持昇思MindSpore全場景AI框架實現數據與張量并行,借助HCCL通信庫優化跨節點傳輸;針對“文本+視覺”雙輸入特性,褚苙揚演示了 PD分離技術降低顯存占用,并分享集群使用教程和大模型訓練效果,助力開發者快速上手大規模訓練。


        北京大學研究生 褚苙揚

        昇騰高級技術專家藍王力從職業發展視角出發,解析AI領域的人才需求與成長路徑。他強調,開源貢獻、技術實戰與跨領域視野是核心競爭力。華為計算憑借全球化研發布局與領先的開源標準組織影響力,為人才提供優質發展土壤,而本次特訓營為優秀開發者開通了實習推薦的通道。同時藍王力介紹了華為“大問題創新機制”,鼓勵開發者聚焦大模型訓練加速、集群可靠性提升等產業級難題,實現個人成長與技術突破的雙向成就。


        昇騰高級技術專家 藍王力

        此次特訓營不僅讓開發者掌握了算子編程與開發等技術,更解鎖了開源貢獻、實習就業的成長路徑。未來,北京大學 鯤鵬昇騰科教創新卓越中心將持續搭建技術交流與人才培養平臺,推動AI開源生態繁榮與產業人才成長,為智能世界筑基賦能。鯤鵬昇騰科教創新卓越中心定位為基于鯤鵬昇騰技術路線的校級生態合作平臺,它將圍繞大學計算產業前沿課題研究、課程體系建設、研究人才培養等方面展開合作,為產業輸出高質量鯤鵬昇騰人才,孵化和培育根植中國的世界級科研創新成果。

        (責任編輯:焦點)

        推薦文章
        熱點閱讀
        最斩殴美精品一二三区_手机免费Av片在线播放_精品在线欧美一区二区_亚洲欧洲自拍拍偷午夜色无码_精品3d动画肉动漫在线无码_日本高清中文字幕二区不卡