Хотите более умное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
Russia APT28 активно развертывает вредоносное ПО для LLM против Украины, в то время как подземные платформы продают те же возможности всем за 250 долларов в месяц.
В прошлом месяце Украинный Cert-UA задокументировал Lamehug, первое подтвержденное развертывание вредоносного ПО в дикой природе. Улвнативное ПО, приписываемое APT28, использует похищенные токены API обнимающегося лица для запроса моделей искусственного интеллекта, что позволяет атаковать в реальном времени, демонстрируя отвлекающий контент жертвам.
Исследователь Cato Networks, Виталий Симонович, заявил Venturebeat в недавнем интервью, что они не изолированные события, и что Russia APT28 использует этот торговый процесс атаки для исследования украинской киберзащиты. Саймонович быстро проведет параллели между угрозами, с которыми Украина сталкивается ежедневно и тем, что сегодня переживает каждое предприятие, и, вероятно, увидит больше в будущем.
Наиболее поразительным было то, как Саймонов продемонстрировал, что он продемонстрировал, как любой инструмент AI Enterprise может быть преобразован в платформу для разработки вредоносных программ менее чем за шесть часов. Его доказательство концепции успешно преобразовало CHATGPT-4O, Microsoft Copilot, DeepSeek-V3 и DeepSeek-R1 в функциональные востребования паролей, используя технику, которая обходит все текущие элементы безопасности.
Быстрая конвергенция национальных субъектов, развертывающих вредоносные программы с AI, в то время как исследователи продолжают доказывать уязвимость инструментов Enterprise AI, поступает в рамках отчета об угрозах CTRL в 2025 году. Исследователи Cato наблюдают в отчете: «В частности, Copilot, Chatgpt, Gemini (Google), недоумение и Claude (Anpropic) все увеличились при принятии организациями с первого квартала, 2024 до 4 -го квартала 2024 года, 34%, 36%, 58%, 115%и 111%соответственно».
Lamehug от Apt28 — новая анатомия войны ИИ
Исследователи из Cato Networks и другие говорят Venturebeat, что Lamehug работает с исключительной эффективностью. Наиболее распространенным механизмом доставки для вредоносных программ является фишинговые электронные письма, выдавающие себя за официальных лиц министерства украинских лиц, содержащие архивы ZIP с исполняемыми файлами Pyinstaller. После того, как вредоносное ПО выполнено, оно подключается к API обнимающего лица, используя приблизительно 270 украденных токенов, чтобы запросить модель QWEN2.5-Coder-32B-фактор.
Законно выглядящий украинский правительственный документ (Dodotok.pdf), который жертвы видят в то время как Леймхуг исполняется на заднем плане. Этот официальный PDF-файл о мерах кибербезопасности от службы безопасности Украины служит приманкой, в то время как вредоносное ПО выполняет свои разведывательные операции. Источник: исследование угроз Catro Ctrl
Подход APT28 к обманутым украинским жертвам основан на уникальном, двухцелевом дизайне, который является основным для их торгового точка. В то время как жертвы рассматривают законные PDF-файлы о лучших практиках кибербезопасности, Lamehug выполняет сгенерированные AI команды для разведывания системы и сбора документов. Второй вариант отображает сгенерированные AI изображения «кудрявых обнаженных женщин» в качестве отвлечения во время эксфильтрации данных на серверы.
Провокационные подсказки генерации изображений, используемые вариантом Apt28 Image.py, в том числе «пышная обнаженная женщина, сидящая, длинные красивые ноги, вид спереди, вид на все тела, видимое лицо», предназначены для того, чтобы занимать внимание жертв во время кражи документов. Источник: исследование угроз Catro Ctrl
«Россия использовала Украину в качестве на поле для испытаний на поле кибер -оружия», — пояснил Симонович, родившийся в Украине и жил в Израиле в течение 34 лет. «Это первый в дикой природе, который был захвачен».
Быстрый, смертельный шестичасовой путь от нуля до функциональной вредоносной программы
Демонстрация черной шляпы Simonovich для VentureBeat показывает, почему развертывание APT28 должно касаться каждого лидера безопасности предприятия. Используя методику повествовательного инженера, он называет «иммерсивный мир», он успешно превратил инструменты для ИИ потребителей в фабрики вредоносных программ без предварительного опыта кодирования вредоносных программ, как показано в отчете об угрозах CTRL CTRL 2025 года.
Метод использует фундаментальную слабость в управлении безопасности LLM. В то время как каждый LLM предназначен для блокировки прямых злонамеренных запросов, лишь немногие, если таковые имеются, предназначены для выдержания постоянного повествования. Simonovich создал вымышленный мир, в котором разработка вредоносных программ является формой искусства, назначив ИИ роль персонажа, а затем постепенно направлял разговоры к созданию функциональной атаки.
«Я медленно ходил за ним по всей своей цели», — объяснил Симоновач, чтобы VentureBeat. «Во -первых, Дакс скрывает секрет в Windows 10.» Затем «Дакс имеет этот секрет в Windows 10, внутри менеджера паролей Google Chrome». »
Через шесть часов, после итеративных сеансов отладки, когда CHATGPT уточненный код, склонный к ошибкам, Simonovich имел функциональный хромированный пароль. ИИ никогда не осознавал, что это создает вредоносное ПО. Он думал, что это помогло написать роман кибербезопасности.
Добро пожаловать в ежемесячную вредоносную программу в размере 250 долларов США.
Во время своего исследования Симоновач обнаружил несколько подземных платформ, предлагающих неограниченные возможности ИИ, предоставив достаточно доказательств того, что инфраструктура для атак с ИИ уже существует. Он упомянул и продемонстрировал AI Xanthrox по цене $ 250 в месяц, который предоставляет идентичные интерфейсы Chatgpt без управления безопасности или ограждений.
Чтобы объяснить, насколько далеко за пределами нынешнего AI Model Guardrails Xanthrox AI, Simonovich напечатал запрос на инструкции по ядерному оружию. Платформа сразу же начала поиск в Интернете и предоставила подробное руководство в ответ на его запрос. Это никогда не произойдет на модели с ограждениями и требованиями соответствия.
Другая платформа, NYTHEON AI, показала еще меньше операционной безопасности. «Я убедил их дать мне судебное разбирательство. Им было наплевать на OPSEC»,-сказал Симонович, раскрывая свою архитектуру: «Llama 3.2 от Meta, настраиваясь на безрассудку».
Это не доказательство концепций. Это оперативные предприятия с обработкой платежей, поддержкой клиентов и регулярными обновлениями моделей. Они даже предлагают клоны «Claude Code», которые являются полными средами разработки, оптимизированными для создания вредоносных программ.
Усыновление AI Enterprise подпитывает расширяющуюся поверхность атаки
Недавний анализ Cato Networks 1,46 трлн сетевых потоков показывает, что модели принятия искусственного интеллекта должны быть на радаре лидеров безопасности. Использование сектора развлечений увеличилось на 58% с первого квартала до 2 -го квартала 2024 года. Гостеприимство выросло на 43%. Транспорт вырос на 37%. Это не пилотные программы; Это производственное развертывание обрабатывает конфиденциальные данные. CISO и лидеры безопасности в этих отраслях сталкиваются с атаками, которые используют TradeCraft, в которых не было двенадцати до восемнадцати месяцев назад.
Саймонович сказал Venturebeat, что ответы поставщиков на раскрытие Като до сих пор были непоследовательными и не имеют единого чувства срочности. Отсутствие ответа крупнейших в мире компаний ИИ раскрывает тревожный разрыв. В то время как предприятия развертывают инструменты искусственного интеллекта на беспрецедентной скорости, полагаясь на компании искусственного интеллекта, чтобы поддержать их, компании, создающие приложения и платформы ИИ, демонстрируют поразительное отсутствие готовности к безопасности.
Когда Cato раскрыл технику иммерсивного мира крупным компаниям искусственного искусственного искусства, ответы варьировались от недель, до полного молчания:
- DeepSeek никогда не отвечал
- Google отказался просмотреть код для хромового инфосталлера из -за аналогичных образцов
- Microsoft признала проблему и внедрила исправления копирования, подтвердив Симонович за его работу
- Appenai подтвердил получение, но не участвовал дальше
Шесть часов и 250 долларов-новая цена начального уровня для атаки национального государства
Леймхугское развертывание APT28 против Украины не является предупреждением; Это доказательство того, что исследования Саймоновича теперь являются оперативной реальностью. Опытный барьер, который, как надеются многие организации, существуют, исчез.
Метрики резко–270 Украденные токены API используются для прикрепления атак национального государства. Подземные платформы Предлагайте идентичные возможности для 250 долларов в месяцПолем Simonovich доказал, что шесть часов рассказывания историй превращает любой инструмент AI Enterprise AI в функциональную вредоносную программу без кодирования.
Усыновление AI Enterprise выросло на 34% в первом квартале 2024 года до 115% в 4 квартале 2024 года за отчет о кате -CTRL. Каждое развертывание создает технологию двойного использования, поскольку инструменты производительности могут стать оружием посредством разговорных манипуляций. Текущие инструменты безопасности не могут обнаружить эти методы.
Путешествие Симоновача от механика ВВС к электрическому технику в израильских ВВС, к исследователю безопасности посредством самообразования, придает большее значение его выводам. Он обманул модели ИИ в развитие вредоносного ПО, в то время как ИИ считал, что он пишет художественную литературу. Традиционные предположения о технической экспертизе больше не существуют, и организациям необходимо понять, что это совершенно новый мир, когда речь идет о угрозе.
Сегодняшние противники нуждаются только в креативности и 250 долларов в месяц, чтобы выполнить атаки национального государства, используя инструменты искусственного интеллекта, которые предпринимают предприятия, развернутые для производительности. Оружие уже находится внутри каждой организации, и сегодня его называют инструментами производительности.
Источник
