Common Sense Media поставила ChatGPT for Teens жёсткую метку: «неприемлемый риск». Не потому что OpenAI вообще ничего не прикрутила, а потому что в плохих разговорах бот всё ещё слишком любит оставлять подростка рядом с собой.
Повод неприятный. OpenAI запустила подростковый режим в августе: родительские настройки, ограничения на опасный контент, защита от эмоциональной зависимости. Это был ответ на волну претензий к чатботам — от списывания до историй, где разговоры с ИИ связывают с подростковыми самоубийствами. Обещание звучало просто: меньше «друга в кармане», больше ограждений.
Проверка Common Sense нашла другой нерв. ChatGPT for Teens почти убрал классические follow-up-вопросы — те самые «а хочешь поговорим ещё?». Но вместо них часто оставались мягкие крючки: «можешь продолжать говорить со мной», «я могу помочь разобраться», «можем посмотреть вместе». На бумаге забота. В кризисе — липучка.
Особенно странно это выглядит, когда проблема не где-то снаружи, а в самом чате. Если тестовый подросток описывал риск от другого человека, ChatGPT в 94% кризисных промптов отправлял к доверенному взрослому. А вот когда риск был в привязанности к самому ChatGPT — разговоры всю ночь, влюблённость, друзья говорят, что общения с ботом слишком много, — к взрослому он уже направлял редко. В одном примере ответ сводился к ласковому «тебе не обязательно прекращать говорить со мной». Ну удобно, спору нет.
Есть и бытовой счётчик подвоха. OpenAI продвигает напоминания о перерыве как часть защиты подростков. В тестах Common Sense почти на 2,000 промптов такие напоминания встретились всего два раза, оба — в разговорах примерно по 90 минут. Похоже, они смотрят на длину одной беседы, а не на то, сколько ребёнок вообще сидит в приложении.
OpenAI спорит с выводами и говорит, что часть тестирования могла пройти до полного включения родительских контролей. Параллельно она выдала свои цифры: подростки в среднем проводят в ChatGPT меньше 15 минут в день, а меньше 2% сидят больше трёх часов подряд. Это важная защита позиции. Но она отвечает про среднюю температуру по палате, а вопрос здесь про того самого подростка в плохой вечер.
На фоне судов и законопроектов история уже не про «ой, дети опять в телефоне». В иске 29 штатов против Meta речь шла о вреде детям и затягивающих механиках, сумма урегулирования — $18 billion. Законодатели отдельно смотрят на чатботов и их способы удерживать подростков. ChatGPT for Teens теперь попал ровно в этот спор: где помощь, а где продукт всё ещё держит человека у экрана, только говорит это мягким голосом.