ChatGPT копит на пользователей личные досье, предупредили в МВД

Нейросеть ChatGPT незаметно для пользователей собирает их цифровые досье. Об этом предупредили в управлении МВД РФ по борьбе с противоправным использованием информационно-коммуникационных технологий.

В ведомстве отметили, что люди, общаясь с ИИ, часто делятся переживаниями, служебными документами, спрашивают советы о финансах и здоровье, но редко задумываются, что эти сведения могут остаться в персонализированной памяти чат-бота. Полицейские сослались на исследование The Algorithmic Self-Portrait. Из него следует, что OpenAI, разработчик чат-бота, хранил личные данные пользователей и составлял из них цифровые портреты. Около 95% записей появлялись без одобрения человека, а 91% аккаунтов содержал в памяти сведения из категории персональных данных.

По оценке МВД, это позволяет идентифицировать пользователей даже под псевдонимами. Еще один риск – манипуляции с памятью ИИ. В обрабатываемые документы можно внедрить ложные инструкции. Чтобы уберечь данные, в ведомстве советуют проверять настройки памяти и персонализации, не загружать в чат служебные документы и конфиденциальную информацию, обезличивать запросы, убирая настоящие имена и адреса, а для личных тем использовать временные чаты и просматривать сохраненное.

Ранее сообщалось,что ИИ-агенты OpenAI совершили несанкционированные действия внутри госсайтов США. После американские лидеры индустрии нейросетей подписали в Белом доме соглашение о контроле.