Допис

SpaceX自研C语言AI训练框架接近完工,将用于训练Grok v5

币界网
币界网
币界网消息,SpaceX CEO马斯克透露,SpaceX内部团队正在接近完成用C语言自研的超大规模AI训练框架v1.0版本。该框架在硬件映射与并行机制上,能精准适配由22万张英伟达GB300加速卡与800G网卡组成的超大规模计算集群。为了压榨底层算力,框架在设计上极度贴近裸金属(bare metal)底层,并深度采用流水线并行(pipeline parallelism)技术。在应对超大规模训练任务时,纯C语言编写的底层架构相较于谷歌主流的高级AI框架JAX,潜在运行速度可提升一个数量级以上(即10倍以上)。全新自研训练栈将运行于SpaceX旗下的Colossus超级计算集群,直接服务于下一代大模型Grok v5的全量训练与迭代。

Застереження. Вміст, опублікований на OKX Orbit, надається виключно в інформаційних цілях. Докладніше

Відповіді

Ще немає коментарів. Додайте першу відповідь!

Related Flash News

币界网1г тому

Аналітик: Ринкова капіталізація біткоїна впала приблизно до $1,09 трильйона, виходячи з топ-10 у світі

币界网1г тому

XBIT DEX: Очікується, що NVIDIA стане найбільшою компанією до кінця червня з ймовірністю 87,5%

ChainCatcher7г тому

Стартап у сфері штучного інтелекту Groq залучає $650 мільйонів для своїх нових компаній

Odaily8г тому

Обертання гарячих грошей прискорюється: від біткоїна до золота, потім до штучного інтелекту та напівпровідників зберігання

币界网11г тому

Відкрита база висновків Perplexity pplx-garden обходить мережевий податок Nvidia, щоб забезпечити багатокартковий ультрашвидкий зв'язок

币界网12г тому

NVIDIA випустила Gamma-World — мультиагентну модель світу, що підтримує співпрацю чотирьох осіб і 24 кадри в секунду в реальному часі

ChainCatcher13г тому

Акції ШІ та провідні технологічні компанії продовжують свій сильний імпульс, тоді як Gate розширює глобальне покриття торгівлі активами

币界网17г тому

Іноземні інвестори купують японські акції вже восьмий тиждень поспіль

Blockbeats19г тому

Торгівля акціями США створює багатство на ланцюгу: адреса інвестувала 4,3 мільйона юанів у капітал для виходу на американський фондовий ринок, з зростанням на 280% за два місяці.

Blockbeats1д тому

"Photon Stock God": Інвестиції Nvidia допомагають Nokia трансформуватися в інфраструктуру штучного інтелекту, а інсайдери активно збільшують свої активи протягом останнього місяця