300I的单机测试

比较少见的机型，先看看NPU之间的互联情况

一卡两芯片的设计

看到一个说法：对AI研究来说，带宽没那么重要。大不了从1小时出结果等成过夜出结果。但有96GB显存意味着它能装下的模型。在这种情况下还是适用。不过就只能单卡跑。

把模型做TP后进行性能测试，结果惨不忍睹。机内跨CPU和NUMA和PCIE的叠加就是个灾难。