Бесплатное обнаружение и платный уровень автоматизированного управления. Компания Wing Security объявила сегодня, что теперь она предлагает более тысячи приложений AI и SaaS на базе AI. Это позволит компаниям лучше защищать свою интеллектуальную собственность (IP) и данные от растущих и эволюционирующих рисков, связанных с использованием искусственного интеллекта.
Количество приложений SaaS, похоже, растет с каждым днем, как и количество возможностей искусственного интеллекта, которые они интегрируют. По данным Wing Security, компании по обеспечению безопасности SaaS, которая исследовала более 320 компаний, ошеломляющие 83,2% используют приложения GenAI. Хотя эта статистика, возможно, и не стала сюрпризом, исследование показало, что 99,7% организаций используют SaaS-приложения, которые используют возможности искусственного интеллекта для предоставления своих услуг. Такое использование GenAI в SaaS-приложениях, которые не являются "чистым" искусственным интеллектом, часто остается незамеченным как службами безопасности, так и пользователями.
При examining сотен SaaS-приложений, использующих искусственный интеллект, Wing Security смогла классифицировать различные способы использования этими приложениями данных организации, а также предложить решение для этой новой угрозы:
Хранение данных: В некоторых случаях искусственный интеллект хранит данные в течение очень длительных периодов времени; в других они могут храниться только в течение коротких периодов. Хранение данных позволяет моделям обучения ИИ и будущим моделям постоянно тренироваться на этом. Тем не менее, основная проблема возникает при рассмотрении множества различных типов атак, наблюдаемых в приложениях SaaS. Когда приложение скомпрометировано, данные, которые оно хранит, также могут быть скомпрометированы.
Обучение модели: Обрабатывая огромные объемы информации, системы искусственного интеллекта могут выявлять закономерности, тенденции и инсайты, которые могут ускользать от анализа человеком. С помощью алгоритмов машинного обучения модели искусственного интеллекта извлекают уроки из данных и со временем адаптируются, повышая свою производительность и точность, что приводит к улучшению обслуживания конечных пользователей. С другой стороны, предоставление этим моделям возможности изучать ваш код, патенты, ноу-хау в области продаж и маркетинга предоставляет приложениям, использующим искусственный интеллект, потенциальные средства для коммерциализации конкурентных преимуществ вашей организации. Для некоторых эти утечки знаний считаются более значимыми, чем утечки данных
Человеческий фактор: Некоторые приложения искусственного интеллекта используют проверку человеком для обеспечения точности и достоверности собираемых ими данных. Этот совместный подход, часто называемый "человек в цикле" или ИИ с участием человека, предполагает интеграцию человеческого опыта в алгоритмический процесс принятия решений. Это приводит к повышению точности модели искусственного интеллекта, но также означает, что человек, работающий в приложении GenAI, получает доступ к потенциально конфиденциальным данным и ноу-хау.
Использование автоматизации для борьбы с рисками AI-SaaS
Недавно выпущенное решение Wing для искусственного интеллекта гарантирует, что службы безопасности будут лучше адаптироваться к постоянно растущему и практически неостановимому использованию искусственного интеллекта в своих организациях и контролировать его. Их решение состоит из трех основных шагов - Знать, оценивать, контролировать.
Знайте: Как и в случае со многими угрозами безопасности, первым шагом является их обнаружение. В случае искусственного интеллекта недостаточно просто пометить "обычных подозреваемых" или чисто GenAI-приложения, такие как ChatGPT или Bard. Поскольку тысячи SaaS-приложений в настоящее время используют искусственный интеллект для улучшения своих услуг, обнаружение должно включать любое приложение, использующее данные клиентов для улучшения своих моделей. Как и в случае со своими предыдущими решениями, Wing предлагает этот первый и фундаментальный шаг в качестве бесплатного решения для самообслуживания, позволяющего пользователям самостоятельно подключаться к интернету и начинать узнавать о масштабах приложений на базе искусственного интеллекта, используемых их сотрудниками.
Оценка: После обнаружения SaaS, использующего искусственный интеллект, Wing автоматически предоставляет оценку безопасности и детализирует способы использования данных компании искусственным интеллектом: как долго они хранятся? Есть ли здесь человеческий фактор? И, возможно, самое главное, настраивается ли он? Предоставление подробного представления о пользователях приложения, разрешениях и информации о безопасности. Этот автоматический анализ позволяет командам безопасности принимать более обоснованные решения.
Контроль: Обнаружение и анализ Wing выявляет наиболее важные проблемы, требующие решения, позволяя командам безопасности легко понять уровень риска и типы необходимых действий. Например, принятие решения о том, следует ли разрешать использование определенного приложения или просто настроить элементы искусственного интеллекта, чтобы они лучше соответствовали их политике безопасности.
Секрет: автоматизация всего вышеперечисленного
Автоматизируя обнаружение, оценку и контроль, службы безопасности экономят время на определении того, на чем сосредоточить свои усилия, вместо того, чтобы распыляться, пытаясь справиться с огромным и постоянно развивающимся полем атаки. Впоследствии это значительно снижает риск.
Автоматизированные рабочие процессы Wing также обеспечивают уникальное межорганизационное решение: позволяя пользователям напрямую общаться с администратором приложения или пользователями, Wing предлагает более информированные решения в области безопасности наряду с более сильной культурой включения в систему безопасности, а не просто черный или белый список.
В эпоху повсеместного распространения SaaS-приложений их интеграция с искусственным интеллектом ставит новые задачи. С одной стороны, использование искусственного интеллекта стало отличным инструментом повышения производительности, и сотрудники должны иметь возможность использовать его для получения многочисленных преимуществ. С другой стороны, по мере того, как зависимость от искусственного интеллекта в приложениях SaaS продолжает расти, потенциальные риски, связанные с использованием данных, становятся более выраженными.
Wing Security ответила на этот вызов, представив новый подход, направленный на расширение возможностей организаций ориентироваться в растущем использовании искусственного интеллекта в своих операциях и контролировать его, одновременно вовлекая конечных пользователей в цикл и гарантируя, что они могут безопасно использовать необходимые им AI-SaaS. Их платформа автоматизированного управления обеспечивает всестороннее понимание того, как приложения искусственного интеллекта используют организационные данные и ноу-хау, решая такие проблемы, как хранение данных, обучение модели и человеческий фактор в цикле искусственного интеллекта. Службы безопасности могут экономить драгоценное время благодаря четкой расстановке приоритетов рисков и вовлечению пользователей.
Количество приложений SaaS, похоже, растет с каждым днем, как и количество возможностей искусственного интеллекта, которые они интегрируют. По данным Wing Security, компании по обеспечению безопасности SaaS, которая исследовала более 320 компаний, ошеломляющие 83,2% используют приложения GenAI. Хотя эта статистика, возможно, и не стала сюрпризом, исследование показало, что 99,7% организаций используют SaaS-приложения, которые используют возможности искусственного интеллекта для предоставления своих услуг. Такое использование GenAI в SaaS-приложениях, которые не являются "чистым" искусственным интеллектом, часто остается незамеченным как службами безопасности, так и пользователями.
При examining сотен SaaS-приложений, использующих искусственный интеллект, Wing Security смогла классифицировать различные способы использования этими приложениями данных организации, а также предложить решение для этой новой угрозы:
Хранение данных: В некоторых случаях искусственный интеллект хранит данные в течение очень длительных периодов времени; в других они могут храниться только в течение коротких периодов. Хранение данных позволяет моделям обучения ИИ и будущим моделям постоянно тренироваться на этом. Тем не менее, основная проблема возникает при рассмотрении множества различных типов атак, наблюдаемых в приложениях SaaS. Когда приложение скомпрометировано, данные, которые оно хранит, также могут быть скомпрометированы.
Обучение модели: Обрабатывая огромные объемы информации, системы искусственного интеллекта могут выявлять закономерности, тенденции и инсайты, которые могут ускользать от анализа человеком. С помощью алгоритмов машинного обучения модели искусственного интеллекта извлекают уроки из данных и со временем адаптируются, повышая свою производительность и точность, что приводит к улучшению обслуживания конечных пользователей. С другой стороны, предоставление этим моделям возможности изучать ваш код, патенты, ноу-хау в области продаж и маркетинга предоставляет приложениям, использующим искусственный интеллект, потенциальные средства для коммерциализации конкурентных преимуществ вашей организации. Для некоторых эти утечки знаний считаются более значимыми, чем утечки данных
Человеческий фактор: Некоторые приложения искусственного интеллекта используют проверку человеком для обеспечения точности и достоверности собираемых ими данных. Этот совместный подход, часто называемый "человек в цикле" или ИИ с участием человека, предполагает интеграцию человеческого опыта в алгоритмический процесс принятия решений. Это приводит к повышению точности модели искусственного интеллекта, но также означает, что человек, работающий в приложении GenAI, получает доступ к потенциально конфиденциальным данным и ноу-хау.
Использование автоматизации для борьбы с рисками AI-SaaS
Недавно выпущенное решение Wing для искусственного интеллекта гарантирует, что службы безопасности будут лучше адаптироваться к постоянно растущему и практически неостановимому использованию искусственного интеллекта в своих организациях и контролировать его. Их решение состоит из трех основных шагов - Знать, оценивать, контролировать.
Знайте: Как и в случае со многими угрозами безопасности, первым шагом является их обнаружение. В случае искусственного интеллекта недостаточно просто пометить "обычных подозреваемых" или чисто GenAI-приложения, такие как ChatGPT или Bard. Поскольку тысячи SaaS-приложений в настоящее время используют искусственный интеллект для улучшения своих услуг, обнаружение должно включать любое приложение, использующее данные клиентов для улучшения своих моделей. Как и в случае со своими предыдущими решениями, Wing предлагает этот первый и фундаментальный шаг в качестве бесплатного решения для самообслуживания, позволяющего пользователям самостоятельно подключаться к интернету и начинать узнавать о масштабах приложений на базе искусственного интеллекта, используемых их сотрудниками.
Оценка: После обнаружения SaaS, использующего искусственный интеллект, Wing автоматически предоставляет оценку безопасности и детализирует способы использования данных компании искусственным интеллектом: как долго они хранятся? Есть ли здесь человеческий фактор? И, возможно, самое главное, настраивается ли он? Предоставление подробного представления о пользователях приложения, разрешениях и информации о безопасности. Этот автоматический анализ позволяет командам безопасности принимать более обоснованные решения.
Контроль: Обнаружение и анализ Wing выявляет наиболее важные проблемы, требующие решения, позволяя командам безопасности легко понять уровень риска и типы необходимых действий. Например, принятие решения о том, следует ли разрешать использование определенного приложения или просто настроить элементы искусственного интеллекта, чтобы они лучше соответствовали их политике безопасности.
Секрет: автоматизация всего вышеперечисленного
Автоматизируя обнаружение, оценку и контроль, службы безопасности экономят время на определении того, на чем сосредоточить свои усилия, вместо того, чтобы распыляться, пытаясь справиться с огромным и постоянно развивающимся полем атаки. Впоследствии это значительно снижает риск.
Автоматизированные рабочие процессы Wing также обеспечивают уникальное межорганизационное решение: позволяя пользователям напрямую общаться с администратором приложения или пользователями, Wing предлагает более информированные решения в области безопасности наряду с более сильной культурой включения в систему безопасности, а не просто черный или белый список.
В эпоху повсеместного распространения SaaS-приложений их интеграция с искусственным интеллектом ставит новые задачи. С одной стороны, использование искусственного интеллекта стало отличным инструментом повышения производительности, и сотрудники должны иметь возможность использовать его для получения многочисленных преимуществ. С другой стороны, по мере того, как зависимость от искусственного интеллекта в приложениях SaaS продолжает расти, потенциальные риски, связанные с использованием данных, становятся более выраженными.
Wing Security ответила на этот вызов, представив новый подход, направленный на расширение возможностей организаций ориентироваться в растущем использовании искусственного интеллекта в своих операциях и контролировать его, одновременно вовлекая конечных пользователей в цикл и гарантируя, что они могут безопасно использовать необходимые им AI-SaaS. Их платформа автоматизированного управления обеспечивает всестороннее понимание того, как приложения искусственного интеллекта используют организационные данные и ноу-хау, решая такие проблемы, как хранение данных, обучение модели и человеческий фактор в цикле искусственного интеллекта. Службы безопасности могут экономить драгоценное время благодаря четкой расстановке приоритетов рисков и вовлечению пользователей.
