基本的配置： nvl最大到72，可以根据调度来配置，选择同一个rack上有多少台机器，比如nvl4, nvl8等 分析fsdp/ep下的带宽 attn等参数量小，并非带宽bound先不分析。并且可以调小attn fsdp group size来降低网络的要求 GB200上，nvlink带宽理论是900GB，考虑协议的消耗，按照75%算，就是675GB 单卡挂2块RDMA网卡，一块是400Gbps 单个tray的聚合通信带宽就是 400Gbps * 2 * 4(gpu) / 8 = 400GBps 按…