Пару дней назад Nvidia опубликовала материал, где рассказала, что на своей недавней презентации AMD неправильно сравнивала ускоритель Instinct MI300X и с Nvidia H100. И если сравнить правильно, решение Nvidia будет быстрее. Теперь AMD отреагировала на выпад конкурента, заявив, что это конкурент сравнивает неправильно.
AMD отмечает, что Nvidia в своём сравнении пошла сразу на три хитрости:
- Для ускорителя H100 использовалась библиотека TensorRT-LLM вместо vLLM в тестах AMD
- Сравнение производительности в режиме FP16 на AMD Instinct MI300X с режимом FP8 на H100
- Опубликованные данные AMD о производительности были инвертированы из относительных значений задержки в абсолютную пропускную способность
В итоге теперь уже AMD перетестировала ускорители, якобы максимально правильно их сравнив. Компания сделала сразу два сравнения: с библиотекой vLLM для обоих ускорителей и с разными библиотеками.
Как можно видеть, всё равно Instinct MI300X, согласно тестам AMD, оказывается ощутимо быстрее.
По материалам
