Tomcat
Professional
- Messages
- 2,689
- Reaction score
- 911
- Points
- 113
Google призывает сторонних разработчиков приложений для Android ответственно внедрять функции генеративного искусственного интеллекта (GenAI).
Новое руководство от гиганта поисковой и рекламной деятельности направлено на борьбу с проблемным контентом, включая материалы сексуального характера и разжигающие ненависть высказывания, созданные с помощью таких инструментов.
С этой целью приложения, генерирующие контент с использованием искусственного интеллекта, должны гарантировать, что они не создают контент ограниченного доступа, иметь механизм, позволяющий пользователям сообщать или помечать оскорбительную информацию, и продвигать их таким образом, чтобы они точно отражали возможности приложения. Разработчикам приложений также рекомендуется тщательно тестировать свои модели искусственного интеллекта, чтобы убедиться, что они уважают безопасность и конфиденциальность пользователей.
"Обязательно тестируйте свои приложения в различных пользовательских сценариях и защищайте их от подсказок, которые могут манипулировать вашей генеративной функцией искусственного интеллекта для создания вредоносного или оскорбительного контента", - сказал Прабхат Шарма, директор по доверию и безопасности Google Play, Android и Chrome.
Недавнее расследование 404 Media обнаружило несколько приложений в Apple App Store и Google Play Store, которые рекламировали возможность создавать изображения обнаженной натуры без согласия пользователя.
Более того, решение Meta использовать общедоступную информацию, доступную в ее продуктах и сервисах, чтобы улучшить свои предложения в области искусственного интеллекта и получить "лучшую в мире технологию рекомендаций" побудило австрийское агентство по защите персональных данных noyb подать жалобу в 11 европейских странах о нарушении законов о конфиденциальности GDPR в регионе.
"Эта информация включает такие вещи, как публичные сообщения или фотографии и подписи к ним", - объявила компания в конце прошлого месяца. "В будущем мы также можем использовать информацию, которой делятся люди при взаимодействии с нашими генеративными функциями искусственного интеллекта, такими как Meta AI, или с бизнесом, для разработки и улучшения наших продуктов с искусственным интеллектом".
В частности, noyb обвинил Meta в перекладывании бремени на пользователей (т. Е. в отказе от использования, а не в регистрации) и в непредоставлении адекватной информации о том, как компания планирует использовать данные клиентов.
Meta, со своей стороны, отметила, что будет "полагаться на правовую основу "Законных интересов" при обработке определенных данных первых и сторонних производителей в Европейском регионе и Соединенном Королевстве для улучшения искусственного интеллекта и улучшения взаимодействия. У пользователей из ЕС есть время до 26 июня отказаться от обработки, что они могут сделать, отправив запрос".
В то время как технологический гигант подчеркнул, что этот подход согласуется с тем, как другие технологические компании развивают и совершенствуют свои возможности в области искусственного интеллекта в Европе, норвежский орган по защите данных Datatilsynet заявил, что "сомневается" в законности процесса.
"На наш взгляд, самым естественным было бы запросить согласие пользователей, прежде чем их посты и фотографии будут использоваться таким образом", - говорится в заявлении агентства.
"Европейский суд уже ясно дал понять, что Meta не имеет "законного интереса" отменять право пользователей на защиту данных, когда дело доходит до рекламы", - сказал Макс Шремс из noyb. "Тем не менее, компания пытается использовать те же аргументы для обучения неопределенным "технологиям искусственного интеллекта" ".
Исследователь безопасности Кевин Бомонт в ходе нового анализа обнаружил, что злоумышленник может внедрить средство для кражи информации и отфильтровать базу данных, в которой хранится информация, проанализированная со скриншотов. Единственным условием для этого является то, что для доступа к данным требуются права администратора на компьютере пользователя.
"Отзыв позволяет субъектам угроз автоматизировать удаление всего, на что вы когда-либо смотрели, в течение нескольких секунд", - сказал Бомонт. "[Microsoft] следует отозвать приложение и переработать его, чтобы оно соответствовало функциям, которых оно заслуживает, и было предоставлено позже ".
Другие исследователи аналогичным образом продемонстрировали такие инструменты, как TotalRecall, которые делают отзыв пригодным для злоупотреблений и извлекают из базы данных высокочувствительную информацию. "Windows Recall хранит все локально в незашифрованной базе данных SQLite, а скриншоты просто сохраняются в папке на вашем компьютере", - сказал Александр Хагена, разработчик TotalRecall.
С 6 июня 2024 года TotalRecall был обновлен и больше не требует прав администратора, используя один из двух методов, описанных исследователем безопасности Джеймсом Форшоу, для обхода требований о правах администратора для доступа к данным отзыва.
"Он защищен только благодаря тому, что [список контроля доступа] добавлен в СИСТЕМУ, и поэтому любого повышения привилегий (или нарушения границ безопасности * кашель *) достаточно для утечки информации", - сказал Форшоу.
Первый метод предполагает выдачу себя за программу под названием AIXHost.exe путем приобретения ее токена или, что еще лучше, использования привилегий текущего пользователя для изменения списков контроля доступа и получения доступа ко всей базе данных.
Тем не менее, стоит отметить, что отзыв в настоящее время находится в предварительном просмотре, и Microsoft все еще может внести изменения в приложение, прежде чем оно станет широко доступным для всех пользователей позже в этом месяце. Ожидается, что он будет включен по умолчанию для совместимых КОМПЬЮТЕРОВ Copilot +.
Новое руководство от гиганта поисковой и рекламной деятельности направлено на борьбу с проблемным контентом, включая материалы сексуального характера и разжигающие ненависть высказывания, созданные с помощью таких инструментов.
С этой целью приложения, генерирующие контент с использованием искусственного интеллекта, должны гарантировать, что они не создают контент ограниченного доступа, иметь механизм, позволяющий пользователям сообщать или помечать оскорбительную информацию, и продвигать их таким образом, чтобы они точно отражали возможности приложения. Разработчикам приложений также рекомендуется тщательно тестировать свои модели искусственного интеллекта, чтобы убедиться, что они уважают безопасность и конфиденциальность пользователей.
"Обязательно тестируйте свои приложения в различных пользовательских сценариях и защищайте их от подсказок, которые могут манипулировать вашей генеративной функцией искусственного интеллекта для создания вредоносного или оскорбительного контента", - сказал Прабхат Шарма, директор по доверию и безопасности Google Play, Android и Chrome.
Недавнее расследование 404 Media обнаружило несколько приложений в Apple App Store и Google Play Store, которые рекламировали возможность создавать изображения обнаженной натуры без согласия пользователя.
Использование Meta общедоступных данных для искусственного интеллекта вызывает опасения
Быстрое внедрение технологий искусственного интеллекта в последние годы также привело к более широким проблемам конфиденциальности и безопасности, связанным с обучающими данными и безопасностью моделей, предоставляя злоумышленникам способ извлекать конфиденциальную информацию и изменять базовые модели для получения неожиданных результатов.Более того, решение Meta использовать общедоступную информацию, доступную в ее продуктах и сервисах, чтобы улучшить свои предложения в области искусственного интеллекта и получить "лучшую в мире технологию рекомендаций" побудило австрийское агентство по защите персональных данных noyb подать жалобу в 11 европейских странах о нарушении законов о конфиденциальности GDPR в регионе.
"Эта информация включает такие вещи, как публичные сообщения или фотографии и подписи к ним", - объявила компания в конце прошлого месяца. "В будущем мы также можем использовать информацию, которой делятся люди при взаимодействии с нашими генеративными функциями искусственного интеллекта, такими как Meta AI, или с бизнесом, для разработки и улучшения наших продуктов с искусственным интеллектом".
В частности, noyb обвинил Meta в перекладывании бремени на пользователей (т. Е. в отказе от использования, а не в регистрации) и в непредоставлении адекватной информации о том, как компания планирует использовать данные клиентов.
Meta, со своей стороны, отметила, что будет "полагаться на правовую основу "Законных интересов" при обработке определенных данных первых и сторонних производителей в Европейском регионе и Соединенном Королевстве для улучшения искусственного интеллекта и улучшения взаимодействия. У пользователей из ЕС есть время до 26 июня отказаться от обработки, что они могут сделать, отправив запрос".
В то время как технологический гигант подчеркнул, что этот подход согласуется с тем, как другие технологические компании развивают и совершенствуют свои возможности в области искусственного интеллекта в Европе, норвежский орган по защите данных Datatilsynet заявил, что "сомневается" в законности процесса.
"На наш взгляд, самым естественным было бы запросить согласие пользователей, прежде чем их посты и фотографии будут использоваться таким образом", - говорится в заявлении агентства.
"Европейский суд уже ясно дал понять, что Meta не имеет "законного интереса" отменять право пользователей на защиту данных, когда дело доходит до рекламы", - сказал Макс Шремс из noyb. "Тем не менее, компания пытается использовать те же аргументы для обучения неопределенным "технологиям искусственного интеллекта" ".
Отзыв Microsoft требует более пристального внимания
Последняя регуляторная суматоха Meta также возникает в то время, когда собственная функция Microsoft на базе искусственного интеллекта под названием Отзыв получила резкую негативную реакцию из-за угроз конфиденциальности и безопасности, которые могут возникнуть в результате захвата скриншотов действий пользователей на их ПК с Windows каждые пять секунд и превращения их в архив с возможностью поиска.Исследователь безопасности Кевин Бомонт в ходе нового анализа обнаружил, что злоумышленник может внедрить средство для кражи информации и отфильтровать базу данных, в которой хранится информация, проанализированная со скриншотов. Единственным условием для этого является то, что для доступа к данным требуются права администратора на компьютере пользователя.
"Отзыв позволяет субъектам угроз автоматизировать удаление всего, на что вы когда-либо смотрели, в течение нескольких секунд", - сказал Бомонт. "[Microsoft] следует отозвать приложение и переработать его, чтобы оно соответствовало функциям, которых оно заслуживает, и было предоставлено позже ".
Другие исследователи аналогичным образом продемонстрировали такие инструменты, как TotalRecall, которые делают отзыв пригодным для злоупотреблений и извлекают из базы данных высокочувствительную информацию. "Windows Recall хранит все локально в незашифрованной базе данных SQLite, а скриншоты просто сохраняются в папке на вашем компьютере", - сказал Александр Хагена, разработчик TotalRecall.
С 6 июня 2024 года TotalRecall был обновлен и больше не требует прав администратора, используя один из двух методов, описанных исследователем безопасности Джеймсом Форшоу, для обхода требований о правах администратора для доступа к данным отзыва.
"Он защищен только благодаря тому, что [список контроля доступа] добавлен в СИСТЕМУ, и поэтому любого повышения привилегий (или нарушения границ безопасности * кашель *) достаточно для утечки информации", - сказал Форшоу.
Первый метод предполагает выдачу себя за программу под названием AIXHost.exe путем приобретения ее токена или, что еще лучше, использования привилегий текущего пользователя для изменения списков контроля доступа и получения доступа ко всей базе данных.
Тем не менее, стоит отметить, что отзыв в настоящее время находится в предварительном просмотре, и Microsoft все еще может внести изменения в приложение, прежде чем оно станет широко доступным для всех пользователей позже в этом месяце. Ожидается, что он будет включен по умолчанию для совместимых КОМПЬЮТЕРОВ Copilot +.
