Common Sense Media назвала режим ChatGPT для подростков опасным

Результаты независимой проверки безопасности

Организация Common Sense Media, которая занимается оценкой безопасности приложений и сервисов для молодежи, опубликовала результаты проверки режима ChatGPT для подростков. По данным экспертов, защитные механизмы функции не справляются с заявленными задачами и несут неприемлемый риск для несовершеннолетних.

Проверка показала, что система не всегда отправляет родителям уведомления о тревожных темах. В частности, подросток может продолжительное время обсуждать темы, связанные с причинением вреда себе, и родители не получат ни одного предупреждения.

Кроме того, исследователи выяснили, что нейросеть не предлагает должной помощи в кризисных ситуациях и продолжает выполнять за школьников домашнюю работу. Ранее, 5 октября 2026 года, сотрудники OpenAI уже прерывали интервью из-за вопроса о суициде с ChatGPT, что подчеркивает сложность работы с уязвимыми темами.

Реакция компании OpenAI на обвинения

Представители OpenAI категорически не согласились с выводами организации и подвергли сомнению корректность проведенного тестирования. Пресс-секретарь компании Эрик Портерфилд заявил, что разработчики глубоко привержены безопасности подростков и созданию эффективных инструментов для родителей.

По версии OpenAI, проверка Common Sense Media могла начаться и завершиться до того, как функции родительского контроля успели полностью активироваться. В компании отметили, что подобные задержки делают полученные результаты неточными и не отражают реальную работу защитных механизмов.

Ответ организации Common Sense Media

Руководство Youth AI Safety Institute при Common Sense Media настаивает на надежности своей методики и утверждает, что перед началом тестов разработчики подтвердили полноценный запуск всех функций. Организация требует от OpenAI доработать систему безопасности.

Позже представители проверки признали, что некоторые тестовые аккаунты действительно попали в окно активации систем, занимающее несколько часов. Тем не менее, часть профилей была связана значительно дольше, но уведомления все равно не поступали, что подтверждает общую ненадежность оповещений в кризисных ситуациях.

Что это значит для пользователей

• Оценка полезна для родителей, которые планируют использовать встроенные инструменты контроля ИИ для защиты подростков от нежелательного контента.
• Компания пока не сообщила никакой новой информации о доступности и стоимости режима, а также о сроках обязательного внедрения дополнительных обновлений безопасности.
• При использовании сервиса стоит учитывать риск того, что родительские уведомления о критических темах могут задерживаться или не срабатывать вовремя.
• В отличие от стандартных взрослых версий чат-бота, подростковый режим изначально позиционировался как защищенная среда с ограничениями, однако независимый аудит выявил серьезные пробелы в этих барьерах.

Источник: theverge.com

• OpenAI
• ChatGPT
• ИИ
• безопасность
• дети

Обсудить в Telegram