Admin
Администратор
С развитием технологий искусственного интеллекта злоумышленники нашли новый способ атак, используя доверие пользователей к популярным платформам ИИ. Вместо того чтобы атаковать сами компании или модели ИИ, они эксплуатируют функции, которые уже встроены в повседневные рабочие процессы. Например, злоумышленники используют публичные ссылки на контент, созданный ИИ, для распространения вредоносного программного обеспечения. Одним из примеров является использование платформы Claude, где злоумышленники создавали поддельные страницы для загрузки вредоносных программ. Эти страницы выглядели легитимно, так как находились на официальном домене платформы. Жертвы, доверяя знакомому бренду, загружали вредоносное ПО, не подозревая об угрозе. Другой пример — использование платформ ChatGPT и Grok для распространения вредоносных инструкций через публичные ссылки. Злоумышленники создавали поддельные руководства по устранению проблем, которые занимали высокие позиции в поисковых системах. Пользователи, следуя этим инструкциям, запускали вредоносные команды в своих системах. Для защиты от таких атак эксперты рекомендуют ограничить выполнение скриптов из буфера обмена и внедрить политики разрешения только определённых приложений. Также важно обучать пользователей распознавать потенциальные угрозы и оперативно сообщать о подозрительном контенте платформам ИИ.
