Исследование выявило риски формирования цифровых портретов пользователей ChatGPT
Почти 96% записей в персонализированной памяти ChatGPT, изученных исследователями в рамках работы The Algorithmic Self-Portrait, создавались без одобрения пользователей. Об этом сообщает официальный телеграм-канал УБК МВД России «Вестник Киберполиции России».
Согласно результатам исследования, в 91% изученных учётных записей хранились персональные сведения, включая реальные имена, данные об экономическом и социальном статусе, а также адреса. У 54% пользователей в памяти сохранялась информация о здоровье и личных убеждениях. При этом в 97% аккаунтов обнаружили сведения о целях, намерениях, предпочтениях и особенностях поведения.
Авторы исследования обращают внимание на риски идентификации людей даже в том случае, если они используют псевдонимы. Совокупность данных о работе, здоровье, доходах и личных переживаниях может позволить сформировать подробный цифровой портрет человека. Кроме того, исследователи указывают на возможность внедрения ложных инструкций в документы, которые обрабатывает ИИ.
Такие сведения потенциально могут использоваться для адресного влияния на решения государственных служащих и учёных. Опасность заключается в том, что подобное воздействие может оставаться незаметным для самого пользователя.
В УБК МВД России рекомендуют проверять настройки памяти и персонализации ИИ-сервисов, не загружать в них служебные документы и конфиденциальную информацию, а также обезличивать запросы. Для обсуждения личных вопросов ведомство советует использовать временные чаты и периодически проверять сохранённые сведения.
Ранее в Петербурге подготовили специалистов по внедрению искусственного интеллекта в науку и производство.