ChatGPT будет проверять возраст пользователей. Каких изменений ждать в работе ИИ?
Компания OpenAI 16 сентября сообщила о намерении разработать систему прогнозирования возраста, чтобы отличать взрослых пользователей ChatGPT от несовершеннолетних.
Таким образом компания стремится оградить лиц моложе 18 лет от потенциально вредного или неуместного контента. Планируется, что система будет распознавать ориентировочный возраст пользователя во время общения. Если у искусственного интеллекта возникнут сомнения в том, является ли пользователь совершеннолетним, он будет включать более безопасный режим с возрастными ограничениями. В некоторых странах возможно даже документальное подтверждение возраста.
По мнению компании, такие действия хотя и несколько противоречат праву на конфиденциальность переписки с ChatGPT, но все же оправданы для безопасности младшей аудитории.
В рамках этих изменений подростки не будут получать ответы на темы, связанные с флиртом, самоповреждением или суицидом ни в каком контексте. Если ИИ зафиксирует признаки серьезной угрозы для жизни, компания будет контактировать с родителями или, при необходимости, с правоохранителями.
OpenAI отмечает, что технологии быстро развиваются и важно не только открывать новые возможности, но и устанавливать ответственные ограничения для самых уязвимых пользователей. Решение о разделении на возрастные категории компания считает оправданным, поскольку оно позволит сделать взаимодействие с искусственным интеллектом более ответственным.