У Hugging Face появилось табло для тех, кто собирается гонять модели не на привычных GPU, а на AWS Trainium. Вбиваешь название модели — сервис показывает, запустилась ли она без переделок, сколько ядер Trainium ей понадобилось, сколько занял прогон и сколько памяти она съела.
Это не каталог с галочками «ну вроде работает». Для каждой проверенной модели лежат версия компилятора Neuron, версии библиотек и готовый `run.py`. То есть инженеру не надо устраивать гадание на логах: можно взять ту же связку и повторить запуск на инстансе Trainium2.
Но зелёный PASS тут не медаль за скорость. Проверка загружает модель на `trn2`, раскладывает веса на минимальное нужное число ядер, генерирует 32 токена и сверяет результат. Одноядерные прогоны сравнивают с CPU; для моделей на нескольких ядрах текст смотрит маленькая модель-судья. Длинные ответы, реальная пропускная способность и поведение под нагрузкой в этот вердикт не входят. Словом, машина завелась — ещё не значит, что она выиграла гонку.
Потолок тоже есть: пока тестируют только Transformers-модели для генерации текста и работы с текстом и картинкой. И только те, что помещаются максимум на четырёх устройствах Trainium2 — это до 16 ядер. Diffusers, sentence transformers и другие задачи оставили на потом.
Практический смысл довольно земной. Trainium часто рассматривают как альтернативу дорогим GPU в AWS, но совместимость там упиралась в конкретную модель, компилятор и версию библиотек. Теперь эту лотерею можно проверить до аренды железа. В открытом наборе результатов видны и неудачные запуски с ошибками — полезнее, чем бодрый список победителей без кладовки с граблями.
Независимого сравнения цены или скорости с GPU здесь нет. Это инструмент совместимости, а не таблица «что выгоднее».