Родители, у которых есть связанные подростковые аккаунты, смогут узнать, нарушили ли их дети правила OpenAI, касающиеся насилия.

Теперь OpenAI будет уведомлять родителей и опекунов, имеющих связанные учетные записи, если их ребенок был заблокирован в ChatGPT за нарушение правил, касающихся угроз насилия или актов насилия в интернете.

Компания запустила родительский контроль для ChatGPT в прошлом году, позволив родителям связать свои личные учетные записи с учетными записями своих детей-подростков.

Это позволяет им планировать часы, когда ChatGPT нельзя использовать, и уменьшать количество контента, представляющего серьезную опасность, а также уведомлять их, если чат-бот обнаружит признаки того, что их ребенок может подумывать о причинении себе вреда. Теперь OpenAI расширила возможности уведомлений, чтобы информировать родителей о том, что их ребенок может представлять опасность для окружающих.

В приведенном компанией примере OpenAI отправила родителю уведомление о «важном обновлении» учетной записи его ребенка. После этого он может нажать «Узнать больше», чтобы увидеть более подробное сообщение о том, что учетная запись его ребенка была деактивирована за нарушение правил использования, связанных с актами насилия.

Компания сотрудничала с Moonshot, фирмой, специализирующейся на мониторинге и противодействии онлайн-насилию, для разработки этой функции.

«Уведомление родителей о возникновении серьезной проблемы с предоставлением более подробной информации — это критически важный первый шаг, дающий семьям возможность своевременно вмешаться и обратиться за помощью», — сказала основатель Moonshot Видхья Рамалингам. «Такой доступ — одна из многих мер, необходимых для обеспечения безопасности молодых людей при использовании ChatGPT».

Компания OpenAI пообещала усилить свои протоколы безопасности после того, как выяснилось, что подозреваемый в массовой стрельбе в Тамблер-Ридж, Британская Колумбия, в 2025 году использовал ChatGPT. Канадские власти вызвали компанию в суд после сообщений о том, что она не уведомила власти о блокировке аккаунта стрелка. Глава OpenAI Сэм Альтман даже извинился за эту оплошность.

Помимо запуска нового уведомления, OpenAI также представила возможность включения режима обучения непосредственно из родительского контроля. Этот режим позволяет ChatGPT давать подсказки перед ответом на вопросы, чтобы помочь ученикам учиться и заниматься. Кроме того, чат-бот теперь будет чаще показывать напоминания о перерывах подросткам, которые проводят много времени в ChatGPT, чтобы помочь им сформировать более здоровые привычки использования гаджетов.