
帖子
SpaceX自研C语言AI训练框架接近完工,将用于训练Grok v5

币界网消息,SpaceX CEO马斯克透露,SpaceX内部团队正在接近完成用C语言自研的超大规模AI训练框架v1.0版本。该框架在硬件映射与并行机制上,能精准适配由22万张英伟达GB300加速卡与800G网卡组成的超大规模计算集群。为了压榨底层算力,框架在设计上极度贴近裸金属(bare metal)底层,并深度采用流水线并行(pipeline parallelism)技术。在应对超大规模训练任务时,纯C语言编写的底层架构相较于谷歌主流的高级AI框架JAX,潜在运行速度可提升一个数量级以上(即10倍以上)。全新自研训练栈将运行于SpaceX旗下的Colossus超级计算集群,直接服务于下一代大模型Grok v5的全量训练与迭代。
相關快訊
Perplexity開源推理底座pplx-garden,繞過英偉達網路稅實現多卡極速通信
英偉達發佈Gamma-World,多智慧體世界模型支援四人協作與即時24 FPS
AI 與頭部科技股延續強勢走向,Gate 拓展全球資產交易覆蓋能力
外國投資者連續第八周買入日本股票
美股交易造富鏈上巨鯨:某位址430萬本金涉足美股,兩個月翻超280%
「光子股神」:英偉達入股助力諾基亞轉型AI基礎設施,近一個月內部人士積極增持
引入AlphaGo搜索,全新MCTS視頻生成框架長視頻時長超Sora
年化營收猛增至6億美元,AI推理服務商Baseten擬以110億美元估值融資10億美元
「英偉達挑戰者」Cerebras上線兩周回落35.8%,鏈上CBRS最大空頭盈達126萬美元
高通與位元組跳動達成數百萬顆AI晶元採購協定