Publier

Perplexity开源推理底座pplx-garden,绕过英伟达网络税实现多卡极速通信

币界网
币界网
币界网消息,Perplexity AI正式开源高性能推理基础设施工具包pplx-garden。该项目核心是自研的Rust点对点通信库fabric-lib,旨在打破英伟达专属通信协议的硬件绑定,帮助开发者在无需昂贵网络交换机的前提下,实现万亿参数大模型在异构多显卡集群上的极速运行。fabric-lib完美适配NVIDIA ConnectX-7网卡,并支持AWS EFA传统以太网卡,将多卡网络带宽提升至400 Gbps。为解决AWS EFA乱序传输问题,Perplexity首创immcounter计数器同步机制,实现高效的「零拷贝」数据流转。pplx-garden在异步强化学习训练中,仅需1.3秒完成万亿参数模型的权重同步与下发,显著提升工程效益。

Avertissement : les contenus d'OKX Orbit sont uniquement publiés à titre informatif. En savoir plus

Réponses

Aucun commentaire pour le moment. Soyez le premier à répondre !

Related Flash News

ChainCatcherIl y a 48 m

La start-up d’IA Groq lève 650 millions de dollars pour ses nouvelles entités

OdailyIl y a 2 h

La rotation de la monnaie chaude s’accélère : du Bitcoin à l’or, puis à l’IA et aux semi-conducteurs de stockage

币界网Il y a 5 h

NVIDIA a lancé Gamma-World, un modèle multi-agents supportant la collaboration à quatre personnes et le temps réel à 24 FPS

ChainCatcherIl y a 6 h

L’IA et les principales actions technologiques poursuivent leur forte dynamique, tandis que Gate élargit sa couverture mondiale du trading d’actifs

币界网Il y a 8 h

Le cadre d’entraînement IA en langage C développé par SpaceX est presque terminé et sera utilisé pour entraîner Grok v5

币界网Il y a 10 h

Des investisseurs étrangers ont acheté des actions japonaises pour la huitième semaine consécutive

BlockbeatsIl y a 12 h

Le trading boursier américain crée de la richesse sur la chaîne : une adresse a investi 4,3 millions de yuans en capital pour entrer sur le marché boursier américain, avec une augmentation de 280 % en deux mois.

BlockbeatsIl y a 1 j

« Photon Stock God » : L’investissement de Nvidia aide Nokia à se transformer en infrastructure d’IA, les initiés ayant activement augmenté leurs avoirs au cours du mois écoulé

币界网Il y a 1 j

Introduction de la recherche AlphaGo, le nouveau cadre de génération vidéo MCTS offre des durées vidéo plus longues que Sora

币界网Il y a 1 j

Le chiffre d’affaires annualisé a grimpé à 600 millions de dollars, et le fournisseur de services d’inférence en IA Baseten prévoit de lever 1 milliard de dollars à une valorisation de 11 milliards de dollars