Компания OpenAI представила новую систему безопасности под названием «Trusted Contact», предназначенную для пользователей чат-бота ChatGPT. Основная задача данного инструмента — обеспечить своевременную помощь людям, находящимся в состоянии острого психологического кризиса. Функция позволяет пользователям старше 18 лет назначить доверенное лицо, которое получит уведомление в случае выявления угрожающих признаков в поведении пользователя.

Алгоритмы искусственного интеллекта настроены на анализ сообщений для обнаружения сигналов, свидетельствующих о намерениях нанести себе вред. В случае идентификации подозрительной активности система сначала предлагает пользователю самостоятельно обратиться за профессиональной помощью. Если ситуация оценивается как критическая, данные передаются группе модераторов для экспертной проверки реальности угрозы.

Важным аспектом новой политики конфиденциальности является защита личных данных. Доверенное лицо не получает доступа к истории переписки или деталям диалогов. Уведомление содержит лишь общую информацию о необходимости оказать поддержку и рекомендации по дальнейшим действиям. Таким образом, разработчики стремятся соблюсти баланс между безопасностью и правом на частную жизнь.

Проект был разработан при участии экспертов Американской психологической ассоциации и ведущих исследователей в области психиатрии. Внедрение такой системы стало ответом на растущую обеспокоенность общественности влиянием ИИ на эмоциональное состояние людей. Несмотря на положительные отзывы экспертов, инициатива вызвала дискуссии среди пользователей относительно границ вмешательства технологий в личное пространство.