Ai2 переделала планировщик для своих GPU-кластеров: вместо бесконечной кнопки «HIGH priority» у проектов теперь есть бюджет GPU-времени. Хочешь защищённый запуск — трать свою долю. Хочешь занять видеокарты пустой задачей «на всякий» — тоже трать. Парковка у подъезда внезапно стала платной, и смысл бросать там ведро резко просел.
Масштаб не домашний. Внутри Ai2 — тысячи NVIDIA H100, B200 и B300, кластеры от 88 до 1024 GPU и около 150 внутренних исследователей. Железа всё равно мало: заявок на видеокарты в любой момент в 2–3 раза больше, чем доступной мощности. То есть каждый GPU-час уже кем-то мысленно потрачен дважды, иногда трижды.
Старая схема держалась на приоритетах и возможности не давать задачу прерывать. Закончилось предсказуемо: все стали HIGH, низкие приоритеты высохли, а часть людей держала no-op-нагрузки просто чтобы быстро подключиться, когда понадобится отладка. Инженерам ещё доставалась отдельная радость — уговаривать владельцев непрерываемых задач освободить хосты с проблемами обслуживания.
Новая логика грубее, но честнее. Руководители заранее делят GPU-время между направлениями, проектами и исследователями. Планировщик уже не пытается каждый раз решать, чья заявка «важнее на словах», а смотрит, чем она оплачена внутри этой иерархии. Если запрос не привязан к бюджету, он не получает защиты от прерывания.
Подвох не исчез, он просто стал видимым. Это внутренний рассказ Ai2, независимой проверки результатов здесь нет. И это не магия, которая делает GPU больше. Очередь остаётся, дефицит остаётся, большие тренировки всё ещё конкурируют за один и тот же металл. Но меняется цена поведения: раньше можно было бесплатно завысить важность или занять место, теперь такой трюк жжёт бюджет своей команды.
Практический смысл понятный. В AI-лабораториях вычисления давно стали не просто «инфрой», а валютой. Ai2 показывает один взрослый способ не превращать общий кластер в коммунальную кухню: меньше ручных переговоров, больше заранее согласованных правил. Скучно? Да. Зато именно так обычно и выглядит взросление дорогой игрушки.