Admin
Администратор
Разработчики вредоносного программного обеспечения постоянно адаптируют свои методы для обхода систем защиты и анализа. Одним из новых подходов стало использование комментариев в коде, которые могут сбить с толку инструменты анализа на основе искусственного интеллекта. Исследователи ESET обнаружили пример такого метода в скрипте, использованном группой UAC-0099, связанной с Россией. В комментарии к коду был добавлен запрос о создании ядерного оружия, что должно было вызвать срабатывание защитных механизмов LLM-модели и остановить анализ до достижения вредоносной части кода. Этот метод, названный GuardBreaker, основан на уязвимости современных LLM-моделей, которые могут отказаться анализировать код при обнаружении подозрительных запросов. GuardBreaker не влияет на выполнение скрипта, но может эффективно блокировать его анализ. Этот подход демонстрирует, что злоумышленники начинают учитывать использование ИИ в системах защиты. Подобные методы уже применялись в атаках на цепочки поставок программного обеспечения, где злоумышленники пытались обмануть модели анализа с помощью фальшивых инструкций или повторяющихся фраз. Для противодействия таким методам эксперты рекомендуют использовать многоуровневый подход к анализу кода, сочетающий автоматизированные инструменты и экспертизу человека. Организации должны быть готовы к тому, что злоумышленники будут использовать любые технологии для повышения своих шансов на успех.
