Microsoft обновляет спорную функцию отзыва с использованием искусственного интеллекта из соображений конфиденциальности

Tomcat

Professional
Messages
2,689
Reaction score
913
Points
113
Microsoft в пятницу заявила, что отключит свою функцию отзыва на основе искусственного интеллекта (ИИ) по умолчанию и сделает ее разрешенной.

Отзыв, который в настоящее время находится в предварительном просмотре и выйдет эксклюзивно для компьютеров Copilot + 18 июня 2024 года, функционирует как "наглядная временная шкала для изучения", делая скриншоты того, что появляется на экранах пользователей каждые пять секунд, которые впоследствии анализируются для получения релевантной информации.

Но функция, предназначенная для использования в качестве своего рода фотографической памяти с поддержкой искусственного интеллекта, была встречена мгновенной негативной реакцией сообщества безопасности и конфиденциальности, которое раскритиковало компанию за недостаточную продуманность и внедрение адекватных мер предосторожности, которые могли бы помешать злоумышленникам легко получить доступ к цифровой жизни жертвы.

Записанная информация может включать скриншоты документов, электронных писем или сообщений, содержащих конфиденциальные сведения, которые могли быть удалены или временно переданы с использованием исчезающих или самоуничтожающихся форматов, популярных на платформах обмена мгновенными сообщениями.

Энди Гринберг из WIRED назвал Recall "незапрошенным предустановленным шпионским ПО, встроенным в новые компьютеры с Windows". Windows Central сообщила, что Microsoft "чрезмерно скрывала" отзыв Windows во время разработки и решила не тестировать его публично.

Стремясь противостоять растущему шквалу критики, Microsoft заявила, что пользователи полностью контролируют весь процесс отзыва, и что она запустила функцию в режиме предварительного просмотра, чтобы помочь собрать отзывы клиентов.

Среди существенных изменений, внесенных в эту функцию, - обновления системы безопасности и новый процесс настройки для ее включения, дающий пользователям возможность полностью отказаться от периодического сохранения скриншотов с помощью функции Отзыв.

Изменения в системе безопасности также требуют, чтобы пользователи регистрировались для биометрического сканирования Windows Hello, чтобы включить отзыв, с подтверждением присутствия, необходимым для просмотра временной шкалы и выполнения поиска.

Помимо шифрования базы данных поискового индекса (которая ранее хранилась в незашифрованной базе данных SQLite), технический гигант отметил, что моментальные снимки отзыва будут расшифрованы и доступны только после аутентификации пользователя.

"КОМПЬЮТЕРЫ Copilot + будут запускаться с функцией дешифрования "точно в срок", защищенной Windows Hello Enhanced Sign-in Security (ESS), поэтому моментальные снимки отзыва будут расшифрованы и доступны только после аутентификации пользователя", - сказал Паван Давулури, корпоративный вице-президент Microsoft по устройствам на Windows +.

"Это обеспечивает дополнительный уровень защиты для отзыва данных в дополнение к другим функциям безопасности Windows, включенным по умолчанию, таким как SmartScreen и Defender, которые используют передовые методы искусственного интеллекта для предотвращения доступа вредоносных программ к данным, таким как отзыв".

Далее Редмонд подтвердил, что моментальные снимки отзыва хранятся и обрабатываются локально на устройстве и что они не передаются другим компаниям или приложениям. В нем также говорится, что пользователи могут приостанавливать, фильтровать и удалять сохраненные данные в любой момент времени.

Для пользователей на управляемых рабочих устройствах в корпоративных средах ИТ-администраторы могут отключить отзыв, хотя они не могут включить его самостоятельно. Microsoft подчеркнула, что выбор остается исключительно за пользователями.

"Вы увидите, что отзыв закреплен на панели задач, когда доберетесь до своего рабочего стола", - сказал Давулури. "В системном трее у вас появится значок отзыва моментального снимка, позволяющий узнать, когда Windows сохраняет моментальные снимки".

"Оказывается, высказывания работают", - сказал исследователь безопасности Кевин Бомонт, который был ярым критиком первоначальной реализации отзыва. "Очевидно, что в деталях будут проблемы – потенциально серьезные, – но здесь есть несколько хороших элементов. Microsoft должна взять на себя обязательство не пытаться обманом заставить пользователей включить ее в будущем ".

"Я думаю, что в целом возможность выбора домашних систем избавит многих людей от дальнейших проблем с безопасностью в будущем. Ее никогда не следовало включать по умолчанию ".

Изменение курса Microsoft происходит в разгар серии сбоев в системе безопасности, с которыми компания столкнулась в последние годы со стороны российских и китайских национальных государств, что побудило компанию поставить безопасность превыше всего в рамках своей инициативы "Безопасное будущее" (SFI).

"Если вы столкнулись с выбором между безопасностью и другим приоритетом, ваш ответ ясен: занимайтесь безопасностью", - сказал генеральный директор Microsoft Сатья Наделла в памятке, выпущенной для его сотрудников в прошлом месяце. "В некоторых случаях это будет означать, что безопасность будет важнее других наших действий, таких как выпуск новых функций или обеспечение постоянной поддержки устаревших систем".
 

Similar threads

Top