Shadow AI добавляет 670 тыс. Долл. США для нарушения затрат, в то время как 97% предприятий пропускают базовые элементы управления доступом, сообщает IBM, сообщает

Shadow AI — это проблема в 670 000 долларов, которые большинство организаций даже не знают.

Стоимость IBM за 2025 год на отчет о нарушении данных, опубликованный сегодня в партнерстве с Институтом Ponemon, показывает, что нарушения, связанные с несанкционированным использованием сотрудников, в среднем 4,63 млн. Долл. США. Это почти на 16% больше, чем в среднем по мировому уровню в 4,44 миллиона долларов.

Исследование, основанное на 3470 интервью в 600 нарушенных организациях, отражает, насколько быстро внедрение искусственного интеллекта опережает надзор за безопасностью. В то время как только 13% организаций сообщили о инцидентах безопасности, связанных с ИИ, 97% нарушенных не имели надлежащих контролей доступа ИИ. Еще 8% даже не были уверены, были ли они скомпрометированы через системы ИИ.

«Данные показывают, что пробел между принятием ИИ и надзором уже существует, и актеры угроз начинают его использовать», — сказала Суя Вишван, вице -президент по безопасности и пребыванию средств в IBM. «В отчете выявлено отсутствие базового контроля доступа для систем ИИ, оставляя высокочувствительные данные, подвергнутые воздействию, и модели уязвимы для манипуляции».

Shadow AI, цепочки поставок — любимые векторы атаки

В отчете показано, что 60% связанных с ИИ инцидентов безопасности привели к скомпрометированным данным, в то время как 31% вызвали сбои в повседневной работе организации. Личная информация клиентов (PII) была скомпрометирована в 65% инцидентов теневого ИИ. Это значительно выше, чем в среднем 53% в мире. Одной из самых больших недостатков безопасности ИИ является управление: 63% нарушенных организаций либо отсутствуют политику управления ИИ, либо все еще развивают их.

«Shadow AI похожа на допинг в Tour De France; люди хотят преимущества, не осознавая долгосрочных последствий»,-сказал VentureBeat Итамар Голан, генеральный директор Homper Security. Его компания каталогизировала более 12 000 приложений для ИИ и ежедневно обнаруживает 50 новых.

VentureBeat продолжает видеть, что торговые виды защиты от противников опережают текущую защиту от программного обеспечения и моделей атак цепочки поставок. Неудивительно, что в отчете показано, что цепочки поставок являются основным вектором атаки для инцидентов безопасности искусственного интеллекта, при этом 30% включают скомпрометированные приложения, API или плагины. Как говорится в отчете: «Компромисс цепочки поставок был наиболее распространенной причиной инцидентов безопасности искусственного интеллекта. Инциденты безопасности, включающие модели ИИ и приложения, были различны, но один тип четко претендовал на высший рейтинг: компромисс цепочки поставок (30%), который включает в себя скомпрометированные приложения, API и плагины».

Оружие ИИ пролиферирует

Каждая форма вооруженного искусственного интеллекта, в том числе LLMS, предназначенные для улучшения TradeCraft, продолжает ускоряться. Шестнадцать процентов нарушений в настоящее время связаны с злоумышленниками, использующими ИИ, в первую очередь для фишинга, сгенерированного AI (37%) и глубоких атак (35%). Модели, в том числе мошенничество, GhostGPT и DarkGPT, розничные продажи всего за 75 долларов в месяц и специально построены для таких стратегий атаки, как фишинг, генерация эксплуатации, запутывание кода, сканирование уязвимости и проверка кредитных карт.

Чем более тонкий настройка данного LLM, тем больше вероятность того, что он может быть направлен на получение вредных результатов. Отчеты о состоянии безопасности Cisco сообщают о том, что мелко настроенные LLMS в 22 раза чаще производят вредные результаты, чем базовые модели.

«Бедротисты не просто используют ИИ для автоматизации атак, они используют его для смешивания в обычный сетевой трафик, что затрудняет их обнаружение», — сказал Etay Maor, главный стратег безопасности в Cato Networks, недавно. «Реальная задача заключается в том, что атаки с AI-это не единое событие; они непрерывный процесс разведки, уклонения и адаптации».

Как предупредил Шломо Крамер, генеральный директор Cato Networks, предупредил в недавнем интервью VentureBeat: «Существует короткое окно, где компании могут избежать того, чтобы их поймали с фрагментированными архитектурами. Злоумышленники движутся быстрее, чем команды интеграции».

Управление одним из слабостей противников эксплуатирует

Среди 37% организаций, претендующих на политику управления искусственным интеллектом, только 34% проводят регулярные проверки для несанкционированного ИИ. Всего 22% проводят состязательные испытания на своих моделях ИИ. Devsecops стали лучшим фактором, снижая затраты на нарушение, что в среднем экономит организации 227 192 долл. США.

Результаты отчета отражают то, как понижение управления в качестве более низкого приоритета влияет на долгосрочную безопасность. «Большинство нарушенных организаций (63%) либо не имеют политики управления ИИ, либо все еще разрабатывают их. Даже когда у них есть политика, менее половины имеют процесс одобрения для развертывания ИИ, а 62% не имеют надлежащих контролей доступа в системах ИИ».

Большинству организаций не хватает существенного управления для снижения рисков, связанных с ИИ, при этом 87% признают отсутствие политики или процессов. Почти две трети нарушенных компаний не могут регулярно проверять свои модели ИИ, и более трех четвертей не проводят состязательные испытания, оставляя критические уязвимости.

Эта схема отсроченного ответа на известные уязвимости выходит за рамки управления ИИ до фундаментальной практики безопасности. Крис Геттл, управление продуктом вице -президента для безопасности конечных точек в Ivanti, подчеркивает сдвиг в перспективе: «То, что мы в настоящее время называем« управлением патчами », следует более точно назвать управление воздействием — или как долго ваша организация будет подвергаться конкретной уязвимости?»

Дивиденд AI за 1,9 млн. Долл. США: почему Smart Security окупается

Несмотря на распространенный характер вооруженного ИИ, в отчете дает надежду на растущую торговлю противников. Организации, которые идут в целом с использованием ИИ и автоматизации, экономиют 1,9 миллиона долларов за нарушение и разрешают инциденты на 80 дней быстрее. Согласно отчету: «Команды безопасности, использующие ИИ и автоматизацию, сильно сокращали свое время нарушения на 80 дней и снизили их средние расходы на нарушение на 1,9 миллиона долларов США по сравнению с организациями, которые не использовали эти решения».

Поразительно, насколько широкий контраст. Организации, основанные на ИИ, тратят 3,62 млн. Долл. США на нарушения, по сравнению с 5,52 млн. Долл. США для тех, у кого нет ИИ, в результате чего 52% разница в затратах. Эти команды выявляют нарушения за 153 дня, по сравнению с 212 днями для традиционных подходов, а затем содержат их через 51 день против 72 дней.

«Инструменты искусственного интеллекта преуспевают при быстрое анализ массовых данных в журналах, конечных точках и сетевом трафике, рано определяя тонкие закономерности», — отметил Vineet Arora, технический директор Winwire. Эта возможность трансформирует экономику безопасности: в то время как средняя стоимость нарушения мировой среды составляет 4,44 млн. Долл. США, обширные пользователи искусственного интеллекта работают на 18% ниже этого эталона.

И все же усыновление продолжает бороться. Только 32% широко используют безопасность искусственного интеллекта, 40% развертывают ее ограниченным образом, а 28% используют ее в мощности. Зрелые организации распределяют ИИ равномерно по всему жизненному циклу безопасности, чаще всего после следующего распределения: профилактика 30%, обнаружение 29%, 26% расследование и 27% ответа.

Daren Goson, управление продуктами SVP в Ivanti, подтверждает это: «Инструменты безопасности конечной точки, способствующие AI, могут анализировать огромные объемы данных для обнаружения аномалий и прогнозировать потенциальные угрозы быстрее и точнее, чем любой человек-аналитик».

Команды безопасности не отстают; Тем не менее, 77% соответствуют или превышают общее принятие ИИ их компании. Среди тех, кто инвестирует после взлома, 45%выбирают решения, основанные на искусственном интеллекте, с акцентом на обнаружение угроз (36%), планирование реагирования на инциденты (35%) и инструменты безопасности данных (31%).

Фактор DevSecops еще больше усиливает выгоды, экономя дополнительные 227 192 долл. США, что делает его высшей практикой снижения затрат. В сочетании с воздействием ИИ организации могут сократить расходы на нарушение более чем на 2 миллиона долларов, превращая безопасность из центра затрат в конкурентный дифференциатор.

Почему затраты на кибербезопасность США достигли рекордных максимумов, в то время как остальной мир спасает миллионы

В 2024 году ландшафт кибербезопасности выявил поразительный парадокс: поскольку глобальные расходы на нарушение упали до 4,44 млн. Долл. США, их первое снижение за пять лет. Американские организации наблюдали, как их экспозиция взлетела до беспрецедентных 10,22 миллиона долларов за инцидент. Это расхождение сигнализирует о фундаментальном сдвиге в том, как кибер -риски реализуются по географическим границам. Организации здравоохранения продолжают нести самое тяжелое бремя, со средней стоимостью 7,42 млн. Долл. США за нарушение, а сроки разрешения, растянувшиеся до 279 дней — на пять недель дольше, чем у их сверстников в других отраслях.

Оперативное число оказывается одинаково серьезным: 86% нарушенных организаций сообщают о значительных нарушениях бизнеса, при этом три четверти требуют более 100 дней для восстановления нормальных операций. Возможно, наиболее связанным с лидерами безопасности — это появление инвестиционной усталости. Обязательства по странам по обеспечению безопасности после взлома резко упали с 63% до всего лишь 49% по сравнению с прошлым годом, предполагая, что организации ставят под сомнение рентабельность инвестиций в реактивную безопасность. Среди тех, кто достигает полного восстановления, только 2% удалось восстановить свой операционный статус в течение 50 дней, в то время как 26% потребовалось более 150 дней для восстановления операционных фундаментов. Эти метрики подчеркивают суровую реальность: хотя глобальные организации улучшают свою способность содержать расходы на нарушение, американские предприятия сталкиваются с эскалационным кризисом, который традиционные расходы на безопасность не могут разрешить. Расширение разрыва требует фундаментального переосмысления стратегий кибер -устойчивости, особенно для поставщиков медицинских услуг, работающих на пересечении максимального риска и расширенных сроков восстановления.

Отчет IBM подчеркивает, почему управление таким критическим

«Gen AI снизил барьер для входа для киберпреступников.… Даже злоумышленники с низким содержаниемсофистиками могут использовать Genai для написания фишинговых сценариев, анализа уязвимостей и приступить к запуску с минимальными усилиями», — отмечает генеральный директор и основатель Crowdstrike Джордж Курц.

Майк Ример, Field Ciso в Ivanti, предлагает надежду: «В течение многих лет злоумышленники используют ИИ в своих интересах. Однако 2025 год отметит поворотный момент, поскольку защитники начнут использовать весь потенциал ИИ в целях кибербезопасности».

Отчет IBM предоставляет информацию, которые организации могут использовать, чтобы действовать немедленно:

1. Реализуйте управление ИИ сейчас — только 45% имеют процессы одобрения для развертывания ИИ
2. Получить видимость в теневой ИИ — Регулярные аудиты необходимы, когда 20% страдают от нарушения от несанкционированного ИИ
3. Ускорить внедрение AI Security — сбережения в размере 1,9 млн. Долл. США оправдывают агрессивное развертывание

Как заключает в докладе: «Организации должны обеспечить главных сотрудников информационной безопасности (CISO), главных сотрудников по доходам (CRO) и главных сотрудников соответствия (CCO), а их команды регулярно сотрудничают. Инвестиции в интегрированное программное обеспечение для безопасности и управление и процессы, чтобы объединить эти межфункциональные заинтересованные стороны, могут помочь организациям автоматически обнаружить и управлять теневыми AI».

Поскольку злоумышленники вооружают ИИ и сотрудники создают теневые инструменты для производительности, организации, которые выживают, будут принять выгоды ИИ, строго управляя его рисками. В этом новом ландшафте, где машины боевые машины на скорости не могут соответствовать, управление — это не только соответствие; Это о выживании.