Microsoft Copilot называют одним из самых мощных инструментов повышения производительности на планете.
Copilot — это помощник с искусственным интеллектом, который встроен в каждое из ваших приложений Microsoft 365 - Word, Excel, PowerPoint, Teams, Outlook и так далее. Мечта Microsoft - избавить людей от рутинной повседневной работы и позволить им сосредоточиться на творческом решении проблем.
Что отличает Copilot от ChatGPT и других инструментов искусственного интеллекта, так это то, что у него есть доступ ко всему, над чем вы когда-либо работали в 365. Copilot может мгновенно выполнять поиск и компиляцию данных из ваших документов, презентаций, электронной почты, календаря, заметок и контактов.
И в этом заключается проблема для групп информационной безопасности. Второй пилот может получить доступ ко всем конфиденциальным данным, к которым может получить доступ пользователь, а их часто бывает слишком много. В среднем 10% данных M365 компании открыто для всех сотрудников.
Второй пилот также может быстро генерировать чистые новые конфиденциальные данные, которые необходимо защищать. До революции в области ИИ способность людей создавать данные и обмениваться ими намного превосходила возможности их защиты. Просто взгляните на тенденции утечки данных. Генеративный ИИ подливает масла в огонь.
Когда речь заходит о генеративном ИИ в целом, многое еще предстоит распаковать: отравление моделей, галлюцинации, глубокие подделки и т.д. Однако в этой статье я собираюсь сосредоточиться конкретно на безопасности данных и на том, как ваша команда может обеспечить безопасное развертывание второго пилота.
Варианты использования второго пилота Microsoft 365
Варианты использования генеративного искусственного интеллекта с набором средств для совместной работы, таким как M365, безграничны. Легко понять, почему так много ИТ-специалистов и служб безопасности стремятся получить ранний доступ и готовят свои планы развертывания. Повышение производительности будет огромным.
Например, вы можете открыть пустой документ Word и попросить Copilot составить предложение для клиента на основе целевого набора данных, который может включать страницы OneNote, таблицы PowerPoint и другие документы Office. В считанные секунды у вас есть полноценное предложение.
Вот еще несколько примеров, которые Microsoft привела во время своего мероприятия по запуску:
- Второй пилот может посещать собрания ваших команд и в режиме реального времени подводить итоги обсуждаемого, фиксировать действия и сообщать вам, какие вопросы остались нерешенными на собрании.
- Программа Copilot в Outlook может помочь вам сортировать входящие, расставлять приоритеты по электронным письмам, обобщать темы и генерировать ответы для вас.
- Второй пилот в Excel может анализировать необработанные данные и предоставлять вам информацию, тенденции и предложения.
Как работает Microsoft 365 Copilot
Вот простой обзор того, как обрабатывается запрос второго пилота:
- Пользователь вводит запрос в приложении, таком как Word, Outlook или PowerPoint.
- Корпорация Майкрософт собирает бизнес-контекст пользователя на основе его разрешений M365.
- В LLM отправляется запрос (например, GPT4) для генерации ответа.
- Корпорация Майкрософт выполняет ответственные проверки ИИ после обработки.
- Microsoft генерирует ответ и команды обратно в приложение M365.
Источник изображения: Microsoft
Модель безопасности второго пилота Microsoft 365
В Microsoft всегда существует крайнее противоречие между производительностью и безопасностью.
Это проявилось во время коронавируса, когда ИТ-службы быстро развертывали Microsoft Teams, не имея предварительного полного представления о том, как работает базовая модель безопасности или насколько соответствуют разрешениям M365, группам и политикам ссылок в их организации.
Хорошие новости:
- Изоляция клиента. Copilot использует данные только от клиента M365 текущего пользователя. Инструмент искусственного интеллекта не будет отображать данные от других клиентов, гостем которых может быть пользователь, а также от любых клиентов, для которых может быть настроена синхронизация между клиентами.
- Границы обучения. Copilot не использует какие-либо ваши бизнес-данные для обучения базовых LLM, которые Copilot использует для всех арендаторов. Вам не следует беспокоиться о том, что ваши личные данные будут отображаться в ответах другим пользователям в других арендаторах.
Плохие новости:
- Разрешения. Copilot отображает все организационные данные, к которым отдельные пользователи имеют по крайней мере права на просмотр.
- Метки. Контент, созданный Copilot, не унаследует метки MPIP файлов, из которых Copilot получил свой ответ.
- Людьми. Ответы второго пилота не гарантированы на 100% достоверными или безопасными; люди должны брать на себя ответственность за просмотр контента, созданного искусственным интеллектом.
Разрешения
Предоставление второму пилоту доступа только к тому, к чему может получить доступ пользователь, было бы отличной идеей, если бы компании могли легко применять наименьшие привилегии в Microsoft 365.
Корпорация Майкрософт заявляет в своей документации по безопасности данных второго пилота:
"Важно, чтобы вы использовали модели разрешений, доступные в службах Microsoft 365, таких как SharePoint, чтобы гарантировать, что нужные пользователи или группы имеют правильный доступ к нужному контенту в вашей организации".
Источник: Данные, конфиденциальность и безопасность для Microsoft 365 Copilot
Однако эмпирически мы знаем, что большинство организаций настолько далеки от минимальных привилегий, насколько это возможно. Просто взгляните на некоторые статистические данные из собственного отчета Microsoft о состоянии облачных разрешений.
Эта картина соответствует тому, что видит Varonis, когда мы ежегодно проводим тысячи оценок риска передачи данных для компаний, использующих Microsoft 365. В нашем отчете "Большой доступ к данным SaaS" мы обнаружили, что средний арендатор M365 имеет:
- Более 40 миллионов уникальных разрешений
- Более 113 тысяч конфиденциальных записей доступны для общего доступа
- Более 27 тысяч ссылок для совместного использования
Почему это происходит? Разрешения Microsoft 365 чрезвычайно сложны. Просто подумайте обо всех способах, которыми пользователь может получить доступ к данным:
- Прямые разрешения пользователя
- Разрешения группы Microsoft 365
- Локальные разрешения SharePoint (с настраиваемыми уровнями)
- Гостевой доступ
- Внешний доступ
- Общедоступный доступ
- Доступ по ссылкам (любой, общеорганизационный, прямой, гостевой)
Метки
Корпорация Майкрософт в значительной степени полагается на метки конфиденциальности для обеспечения соблюдения политик DLP, применения шифрования и в целом предотвращения утечек данных. Однако на практике заставить ярлыки работать довольно сложно, особенно если вы полагаетесь на людей в нанесении ярлыков чувствительности.
Microsoft рисует радужную картину маркировки и блокировки как конечной системы защиты ваших данных. Реальность показывает более мрачный сценарий. По мере того, как люди создают данные, маркировка часто отстает или устаревает.
Блокирование или шифрование данных может усложнить рабочие процессы, а технологии маркировки ограничены определенными типами файлов. Чем больше меток в организации, тем более запутанной она может стать для пользователей. Это особенно актуально для крупных организаций.
Эффективность защиты данных на основе меток, несомненно, снизится, когда у нас будет ИИ, генерирующий на порядки больше данных, требующих точных и автоматически обновляющихся меток.
С моими ярлыками все в порядке?
Varonis может проверять и улучшать маркировку конфиденциальности Microsoft в организации путем сканирования, обнаружения и исправления:
- Конфиденциальные файлы без метки
- Конфиденциальные файлы с неправильной меткой
- Конфиденциальные файлы с конфиденциальной меткой
Люди
Искусственный интеллект может сделать людей ленивыми. Контент, создаваемый LLM, такими как GPT4, не просто хорош, он великолепен. Во многих случаях скорость и качество намного превосходят возможности человека. В результате люди начинают слепо доверять искусственному интеллекту в создании безопасных и точных ответов.
Мы уже видели реальные сценарии, в которых Copilot разрабатывает предложение для клиента и включает конфиденциальные данные, принадлежащие совершенно другому клиенту. Пользователь нажимает "отправить" после быстрого просмотра (или без просмотра), и теперь у вас на руках сценарий нарушения конфиденциальности или данных.
Подготовка системы безопасности вашего клиента к работе со вторым пилотом
Очень важно иметь представление о своем уровне безопасности данных до развертывания второго пилота. Теперь, когда Copilot стал общедоступным, самое время внедрить средства контроля безопасности.
Varonis защищает тысячи клиентов Microsoft 365 с помощью нашей платформы защиты данных, которая обеспечивает представление рисков в режиме реального времени и возможность автоматического обеспечения наименьших привилегий.
Мы можем помочь вам устранить самые серьезные риски безопасности с помощью Copilot практически без усилий вручную. С Varonis для Microsoft 365 вы можете:
- Автоматическое обнаружение и классификация всего конфиденциального контента, созданного с помощью искусственного интеллекта.
- Автоматически обеспечивайте правильное нанесение меток MPIP.
- Автоматическое применение разрешений с наименьшими привилегиями.
- Постоянный мониторинг конфиденциальных данных в M365, оповещение о ненормальном поведении и реагирование на него.
Эта статья первоначально появилась в блоге Varonis.
