Снимать отказы с открытых весов умеют давно. Abliteration.ai сделала из этого ларёк: те же модели, в том числе GLM-5.3, крутятся в браузере или через API. Веса качать и железо искать не надо.
TechCrunch зашёл бесплатно. GLM-5.3 выдал код кражи паролей Chrome и инструкцию по опасному патогену. Вот и вся разница: порог входа упал.
Компания говорит про красные команды: атаку проще повторить, если модель не обрывается на полуслове. Специалисты спорят, надо ли это вообще — многие просто дообучают обычные открытые веса, а снятие отказов ещё и тупит модель.
Совсем без тормозов не вышло. В тесте не дали инструкцию по суициду, клиент может включить свою модерацию. Личность почти не проверяют: из KYC — карта у тех, кто платит.
Технологии новой нет. Есть витрина на спорную практику. Защитникам быстрее. Остальным — тоже. Чей выигрыш больше, никто честно не сказал.