AWS открыла в SageMaker AI training sessions — сессии для дообучения моделей, где командой остаётся логика тренировки, а GPU-хозяйством занимается облако. Можно самому собрать цикл обучения: генерировать ответы, оценивать их своей функцией и обновлять веса. Кластеры, распределённый запуск, восстановление после сбоев и чекпоинты уходят на сторону SageMaker.
Это уже не кнопка «дообучи модель на моём датасете». Раньше в serverless-режиме выбираешь готовый рецепт, загружаешь данные и настраиваешь параметры. Новые API отдают разработчику шаги по одному: `sample()`, `forward_backward()`, `optim_step()`. То есть можно крутить свой RL-цикл, нестандартную функцию потерь или многошаговое обучение агента — не поднимая ради этого собственный GPU-зоопарк.
Фокус тут не на «модель стала умнее». AWS просто сдвинула границу ответственности. Команда всё ещё пишет Python-код, задаёт награду, готовит данные и разбирается, почему модель научилась мухлевать с метрикой. Облако берёт на себя ту часть, где обычно начинается танец с типами инстансов, очередями, распределённым обучением и упавшим воркером в три ночи.
Сессия держит модель загруженной на GPU между вызовами. Это важно для обучения с подкреплением: сначала модель выдаёт несколько вариантов ответа, локальная среда или тестовый стенд их оценивает, затем сервис считает градиенты и обновляет веса. Не нужно каждый раз заново поднимать железо ради следующего шага.
Деньги считают не за час занятой видеокарты, а за обработанные сервисом токены. Пока внешний код проверяет ответ или гоняет тесты, GPU-время не тарифицируется. Для задач, где оценка долгая, это может быть заметно удобнее аренды кластера «на всякий случай». Но бесплатной магии нет: сам цикл, данные, права доступа и качество награды остаются проблемой команды.
На старте заявлена поддержка четырёх базовых моделей: `gpt-oss-20b`, `gemma-4-31B-it`, `Qwen3.6-27B` и `Qwen3.8-27B`. Доступность зависит от региона: в документации, например, `gpt-oss-20b` указан для `us-east-1`, `us-west-2` и `ap-south-1`, а часть Qwen — только для двух регионов. Нужны Python SDK, IAM-роли и место в S3 для данных и чекпоинтов. То есть GPU-админа можно не звать, но облачный пропуск на вход всё равно придётся оформить.
AWS отдельно фиксирует: данные и дообученные веса не идут на обучение других моделей. Для компаний с закрытыми данными это, пожалуй, важнее красивого слова «serverless».