Корпорация Microsoft подтвердила наличие ошибки в ИИ помощнике Microsoft 365 Copilot, которая приводила к обработке и краткому пересказу секретных электронных писем. Проблема наблюдалась с конца января и позволяла алгоритмам обходить политики предотвращения потери данных, используемые организациями для защиты чувствительной информации.
Согласно уведомлению службы поддержки, уязвимость затрагивает функцию чата на вкладке Работа. ИИ некорректно анализировал черновики и отправленные сообщения пользователей, даже если они были отмечены специальными ярлыками конфиденциальности. Данные метки как раз предназначены для ограничения доступа автоматизированных инструментов к содержимому переписки. Представители компании заявили, что причиной стало неуточненное отклонение в программном коде.
Ошибки, ага поверил.
Сначала назойливо добиваемся обновления Windows до версии с Copilot. Затем Copilot начинает собирать конфиденциальную информацию на ПК пользователей и организаций, а затем мы говорим, что это была "случайная ошибка". Примерно как со случайным сбором личных данным компанией "Кембридж Аналитика".
Оценили 11 человек
13 кармы