Microsoft подала в суд на хакеров, злоупотребляющих Azure AI

Компания Microsoft сообщила о том, что преследует в судебном порядке некую «иностранную группировку». Хакеры работали по схеме взлом-как-услуга (hacking-as-a-service) и умышленно обходили защиту генеративного ИИ, чтобы создавать оскорбительный и вредоносный контент.

Специалисты подразделения по борьбе с цифровыми преступлениями (DCU) рассказывают, что обнаружили эту активность еще в июле 2024 года. Выяснилось, что злоумышленники «разработали сложное ПО, использующее учетные данные клиентов, собранные с публичных веб-сайтов», а также «пытались обнаружить и незаконно получить доступ к учетным записям некоторых генеративных ИИ-сервисов, целенаправленно изменяя их возможности».

Сообщается, что злоумышленники использовали эти сервисы (например, Azure OpenAI Service) и монетизировали доступ к ним, продавая его другим преступникам и предоставляя им подробные инструкции по применению этих инструментов для создания вредоносного контента.

С тех пор хак-группу уже лишили доступа, и компания усилила защитные меры, чтобы предотвратить подобные ситуации в будущем. Кроме того, Microsoft сообщает, что получила судебный ордер на закрытие сайта (aitism[.]net), который занимал центральное место в преступной деятельности группировки.

Согласно судебным документам, за описанной активностью стояли как минимум трое неизвестных, которые использовали ворованные ключи API Azure и аутентификационные данные Entra ID для злоупотребления системами Microsoft и, например, создания вредоносных изображений с помощью DALL-E. Предполагается, что еще семь человек пользовались услугами и инструментами, предоставленными злоумышленниками, в аналогичных целях.

Пока неясно, как именно осуществлялся сбор API-ключей, но Microsoft утверждает, что обвиняемые занимались «систематической кражей API-ключей» у множества клиентов, включая ряд американских компаний.

Судя по уже удаленному с GitHub репозиторию (аккаунт на GitHub был создан 8 ноября 2023 года), упомянутый de3u представлял собой «фронтенд DALL-E 3 с поддержкой обратных прокси».

Microsoft утверждает, что после захвата сайта aitism[.]net злоумышленники предприняли шаги, чтобы «замести следы, в том числе попытались удалить определенные страницы rentry[.]org, репозиторий de3u с GitHub и часть инфраструктуры, связанную с поддержкой обратных прокси».

Компания отмечает, что хакеры использовали de3u и прокси oai reverse proxy для выполнения обращений к API Azure OpenAl Service с использованием украденных ключей API, что позволяло им незаконно генерировать тысячи вредоносных изображений с помощью текстовых промптов. При этом не уточняется, какие именно изображения создавали злоумышленники.

При этом отмечается, что уже были обнаруженные доказательства, указывающие на то, что те же самые преступники атакуют и других поставщиков ИИ-услуг.

Источник: Хакер