Компания AMD снова хвастается производительностью блока NPU в своих мобильных процессорах Ryzen 8000, сравнивая их с новейшими Core Ultra.
AMD сравнила Ryzen 7 8840U с Core Ultra 7 155H в тестах, связанных с большими языковыми моделями. В чате Llama v2 APU Ryzen обрабатывал токены на 14 % быстрее, чем Core Ultra 7 155H. При том же размере битов в Mistral Instruct процессор Ryzen обеспечивает скорость обработки токенов на 17% выше.
В тех же тестах LLM, но с учетом времени до первого токена для запроса образца, процессор AMD был на 79% быстрее, чем Core Ultra 7 в Llama v2 и на 41% быстрее в Mistral Instruct.
В чате Llama 2 7B, где используется множество различных размеров битов, размеров блоков и уровней качества, даже Ryzen 7 7840U в среднем был на 55% быстрее аналога Intel, и это при том, что по сухой производительности блоки NPU у этих процессоров близки (10 и 11 TOPS). У Ryzen 8040, напомним, NPU имеет производительность уже 16 TOPS, и это рекорд на данный момент в этом классе.
Напомним, недавно мы видели независимые тесты из набора Procyon, которые также показали превосходство процессоров AMD, но проблема в том, что многие тесты работаю только на каких-то одних CPU и не работают на других.
По материалам
