Родительский контроль в ChatGPT для защиты детей от ИИ

Компания OpenAI анонсировала запуск специальной версии чат-бота ChatGPT for Teens, которая предусматривает усиленные меры безопасности для пользователей младше 18 лет. Система автоматически переводит юных пользователей на эту версию. Тем не менее, специалисты предупреждают, что стандартных ограничений может быть недостаточно, и призывают родителей самостоятельно корректировать ключевые параметры доступа.

Издание РБК-Украина, ссылаясь на Engadget, подготовило руководство по базовым настройкам безопасной коммуникации детей с искусственным интеллектом.

Связывание родительских и подростковых аккаунтов

Для активации функции родительского контроля необходимо объединить аккаунты пользователя и подростка в веб-версии или приложении ChatGPT.

• Необходимо перейти в раздел «Настройки» (Settings) и выбрать опцию «Родительский контроль» (Parental controls).
• Далее следует нажать «Добавить члена семьи» (Add family member).
• В поле «Пригласить через» (Invite via) нужно указать электронную почту или номер телефона подростка.
• В пункте «Этот человек является» (This person is) выбрать опцию «Мой ребенок» (My child) и отправить приглашение.

После того как ребенок подтвердит приглашение, его профиль появится в списке членов семьи. Подросток также может самостоятельно инициировать связывание, выбрав пункт «Мой родственник/опекун» (My parent or guardian).

Важно отметить, что система родительского контроля действует только до достижения пользователем 18 лет. По достижении совершеннолетия OpenAI отправляет уведомления обеим сторонам, после чего связь между аккаунтами и установленные родительские ограничения автоматически аннулируются.

Обзор настроек и параметров по умолчанию

После успешного связывания аккаунтов родителям становится доступна панель с основными настройками:

• «Уменьшение чувствительного контента» (Reduce sensitive content): эта функция блокирует доступ к нежелательным материалам. По умолчанию она включена.
• «Улучшение модели для всех» (Improve the model for everyone): данная опция позволяет OpenAI использовать переписку ребенка для обучения ИИ. Настройка включена по умолчанию.
• «Сохраненные воспоминания» (Reference saved memories): эта функция позволяет чат-боту формировать ответы на основе предыдущих диалогов. В зависимости от региона настройка может быть включена или отключена, требуя дополнительной проверки.
• «Сетевой доступ Codex и облачный браузер» (Codex network access/Cloud browser): предоставляет агенту ChatGPT Work возможность выхода в интернет. Эта опция включена по умолчанию.
• «Голосовой режим и генерация изображений» (Voice Mode/Image generation): предоставляет доступ к функциям голосового общения и создания изображений. Настройка включена по умолчанию.
• «Режим обучения» (Study Mode) и «Расписание» (Study hours): эти настройки побуждают ИИ направлять ребенка к самостоятельному поиску информации, вместо предоставления готовых решений. По умолчанию они отключены.
• «Время тишины» (Quiet hours): позволяет полностью блокировать доступ к чату в определенные часы. Настройка отключена по умолчанию.

Следует подчеркнуть, что подросток не имеет возможности изменять родительские настройки до тех пор, пока аккаунты остаются связанными.

Сигналы тревоги и модерация контента

Связывание аккаунтов активирует систему экстренных оповещений. В случае если ребенок обсуждает с ИИ темы, связанные с самоповреждением или причинением вреда другим, родители получают уведомления через SMS, электронную почту и в приложении.

Перед отправкой уведомления родителям, контент, признанный критическим, проходит проверку штатной командой модераторов OpenAI. Компания стремится уведомить родителей в течение часа с момента создания опасного запроса.

Рекомендации по настройке безопасной среды

Для обеспечения максимально защищенного и продуктивного взаимодействия ребенка с ИИ, специалисты рекомендуют внести следующие изменения в настройки:

• Отключить «Сохраненные воспоминания»: это является ключевым шагом, поскольку исследования показывают, что долговременная память ИИ может создавать иллюзию подлинных отношений и способствовать чрезмерной эмоциональной привязанности подростка к чат-боту.
• Отключить «Улучшение модели для всех»: данная мера предотвратит попадание приватной переписки ребенка в обучающие датасеты.
• Настроить «Режим обучения» (Study Mode): рекомендуется установить расписание, по которому после уроков чат-бот будет работать в режиме подсказок, помогая ребенку в выполнении домашних заданий, но не предоставляя готовых ответов.
• Оставить включенными функции генерации изображений и голосового режима: эти опции полезны для создания инфографики, визуальных проектов и улучшения доступности инструмента.

Параметры сетевого доступа ChatGPT Work можно игнорировать, поскольку подростки редко пользуются этим функционалом.