ИИ-сервис для романтичного общения пытались использовать для создания детского порно

[Man]

Хакер атаковал сайт для общения с ИИ-моделями с сексуальным подтекстом и обнаружил многочисленные попытки пользователей создавать контент с элементами детской порнографии. Об этом взломщик сам рассказал журналистам 404 Media.

«Я зашел на площадку Muah.ai, чтобы подрочить, и заметил, что она выглядит так, будто собрана довольно плохо, — рассказал хакер. — По сути, это горстка проектов с открытым исходным кодом, склеенных вместе дешевым скотчем. Я начал ковыряться и довольно быстро нашел несколько уязвимостей. Сначала мною двигало любопытство, но, просмотрев базы данных, я решил сообщить об этом журналистам», — рассказал сам взломщик.

По его словам, из логов видно, что многие посетители ресурса пытаются создать чат-ботов, которые обыгрывают сценарии сексуального насилия над детьми. При этом переписки связаны с адресами электронной почты, многие из которых, по-видимому, являются личными учетными записями с настоящими именами. Например, журналисты просмотрели ряд сообщений, в которых описывались оргии с элементами инцеста с «новорожденными» и «маленькими детьми».

Администратор Muah.ai в ответ на запрос издания заявил, что «утечка данных была профинансирована конкурентами в нецензурируемой индустрии ИИ, которых интересуют прибыли». Никаких доказательств своей позиции он не предоставил.