МВД: ChatGPT накапливает данные о пользователях
· Общество
Часть функций сервиса нарушают право на анонимность
Чат-бот ChatGPT незаметно для людей накапливает сведения в цифровом досье — предупредило управление МВД России по организации борьбы с противоправным использованием информационно-коммуникационных технологий. В беседах с ИИ пользователи раскрывают личные переживания и рабочие бумаги, просят советов о деньгах и здоровье.
Разработчик чат-бота, компания OpenAI, сохраняла личные данные и выстраивала из них портреты пользователей — это показало исследование The Algorithmic Self-Portrait, на которое сослались в управлении. Около 95 % записей появились без согласия человека, а в 91 % случаев в памяти учетных записей лежали сведения, относящиеся к персональным данным, сообщили Ведомости.
Опознать человека по такой памяти можно даже тогда, когда он работает под псевдонимом, считают в российской полиции. Отдельная опасность — вмешательство в память ИИ: ложные указания прячут в документах, которые сервис обрабатывает.
Снизить риски помогут несколько мер, которые перечислили в управлении:
- следить за настройками памяти и персонализации в ИИ-сервисах;
- не загружать в чат служебные документы и прочие закрытые сведения;
- обезличивать запросы, убирая настоящие имена, адреса и другие опознавательные подробности;
- для личных тем открывать временные чаты;
- просматривать то, что уже сохранено.
По материалам Ведомости