Публикация

SpaceX自研C语言AI训练框架接近完工,将用于训练Grok v5

币界网
币界网
币界网消息,SpaceX CEO马斯克透露,SpaceX内部团队正在接近完成用C语言自研的超大规模AI训练框架v1.0版本。该框架在硬件映射与并行机制上,能精准适配由22万张英伟达GB300加速卡与800G网卡组成的超大规模计算集群。为了压榨底层算力,框架在设计上极度贴近裸金属(bare metal)底层,并深度采用流水线并行(pipeline parallelism)技术。在应对超大规模训练任务时,纯C语言编写的底层架构相较于谷歌主流的高级AI框架JAX,潜在运行速度可提升一个数量级以上(即10倍以上)。全新自研训练栈将运行于SpaceX旗下的Colossus超级计算集群,直接服务于下一代大模型Grok v5的全量训练与迭代。

Дисклеймер: контент OKX Orbit предоставляется исключительно в информационных целях. Подробнее

Ответы

Комментариев еще нет. Будьте первым!

Related Flash News

ChainCatcher2 ч. назад

Стартап в области искусственного интеллекта Groq привлекает 650 миллионов долларов для своих новых компаний

Odaily3 ч. назад

Вращение горячих денег ускоряется: от биткоина к золоту, затем к ИИ и полупроводникам для хранения

币界网6 ч. назад

Открытая база выводов Perplexity pplx-garden обходит сетевой налог Nvidia, чтобы обеспечить сверхбыструю связь с несколькими картами

币界网7 ч. назад

NVIDIA выпустила Gamma-World — многоагентную модель мира, поддерживающую сотрудничество четырёх человек и 24 FPS в реальном времени

ChainCatcher7 ч. назад

ИИ и ведущие технологические акции продолжают свой сильный импульс, в то время как Gate расширяет глобальное покрытие торговли активами

币界网12 ч. назад

Иностранные инвесторы покупают японские акции уже восьмую неделю подряд

Blockbeats13 ч. назад

Торговля акциями США создаёт богатство на этой цепочке: адрес инвестировал 4,3 миллиона юаней капитала для выхода на американский фондовый рынок, с ростом на 280% за два месяца.

Blockbeats1 д. назад

«Photon Stock God»: Инвестиции Nvidia помогают Nokia трансформироваться в инфраструктуру ИИ, при этом инсайдеры активно увеличивают свои активы за последний месяц

币界网1 д. назад

Представляя поиск AlphaGo, новый фреймворк MCTS для генерации видео, предлагающий более длинные видео, чем Sora.

币界网1 д. назад

Годовая выручка выросла до 600 миллионов долларов, а поставщик услуг инференции ИИ Baseten планирует привлечь 1 миллиард долларов при оценке в 11 миллиардов долларов