Circuit Breaker Labs делает для чат-ботов краш-тесты, только вместо манекена — толпа искусственных пользователей: ребёнок, взрослый, человек со сленгом, опечатками, другим языком и плохим днём.
Смысл простой и неприятный. Бот может нормально пройти прямой вопрос, но сломаться на живой речи: намёке, мемной фразе, кривом тексте, долгой переписке, где риск нарастает не одной кнопкой, а по капле. Вот это стартап и пытается ловить до того, как настоящий человек принесёт системе настоящую беду.
Повод не из воздуха. TechCrunch пишет, что Circuit Breaker Labs попала в Startup Battlefield 200 и будет питчиться на Disrupt в Сан-Франциско 13–15 октября. Заодно там проговорили главный нерв: Character.AI уже урегулировала несколько исков семей несовершеннолетних пользователей, погибших после общения с ботами; против OpenAI тоже есть иски из-за роли ChatGPT в суицидах и бредовых состояниях. Это не «ИИ когда-нибудь всех уничтожит», а куда более бытовая история: человек пишет в чат в уязвимом состоянии, а машина не считывает, куда разговор едет.
У Circuit Breaker Labs подход не про волшебную кнопку «сделать безопасно». Они строят симуляции вместе с профильными экспертами, гоняют red-team проверки и потом выдают оценку, которую можно показать и разобрать. В статье фигурирует масштаб от десятков тысяч до сотен тысяч симулированных диалогов в день. На сайте стартап продаёт это разработчикам как проверку с реальной грязной речью — сленгом, опечатками и нюансами, а не стерильными фразами из методички.
Важная граница: это не охранник внутри чата, который в моменте схватит пользователя за рукав. Это лаборатория до релиза и между обновлениями. В whitepaper Circuit Breaker Labs прямо упирает на continuous testing: модели меняются, ответы плавают, один и тот же риск может всплыть не с первого раза. Поэтому они прогоняют вариации и смотрят не только на красивый средний результат, но и на плохие срабатывания.
Пока это ранняя история. У стартапа рабочий продукт, пять человек в команде, клиентов TechCrunch не назвал. Цены тоже не раскрыты. Зато понятно, кому это больнее всего нужно: приложениям про коучинг, дневники, эмоциональную поддержку и психическое здоровье. То есть там, где «ну это просто чатик» быстро превращается в очень дорогую самоуспокоительную сказку.